A camada de confiança da IA: como a rede Mira resolve os problemas de viés e alucinação da IA

Recentemente, uma versão beta pública da rede chamada Mira foi lançada, atraindo a atenção da indústria. O objetivo deste projeto é construir uma camada de confiança para a IA, abordando os problemas de viés e alucinação da IA. Então, por que a IA precisa ser confiável? Como é que a Mira resolve este problema?

Ao discutir a IA, as pessoas costumam se concentrar mais em suas poderosas capacidades. No entanto, o problema das "alucinações" ou preconceitos da IA frequentemente é negligenciado. O que se chama de "alucinação" da IA, de forma simples, é que a IA às vezes "inventa" ou fala bobagens de maneira séria. Por exemplo, se você perguntar à IA por que a lua é rosa, ela pode dar uma série de explicações que parecem razoáveis.

A "ilusão" ou preconceito da IA está relacionada a algumas das atuais trajetórias tecnológicas da IA. Por exemplo, a IA generativa alcança coerência e razoabilidade através da previsão do conteúdo "mais provável", mas às vezes não consegue verificar a veracidade. Além disso, os dados de treinamento podem conter erros, preconceitos ou até mesmo conteúdos fictícios, o que pode afetar a saída da IA. Em outras palavras, a IA aprende os padrões de linguagem humana, e não os fatos em si.

O atual mecanismo de geração de probabilidades, juntamente com um modelo orientado a dados, quase inevitavelmente levará a IA a produzir alucinações. Se essas saídas enviesadas ou alucinatórias se limitarem a conhecimento geral ou conteúdo de entretenimento, por enquanto não causarão consequências diretas. Mas se ocorrerem em áreas que exigem rigor extremo, como medicina, direito, aviação e finanças, podem ter um impacto significativo. Portanto, resolver o problema das alucinações e preconceitos da IA tornou-se uma das questões centrais no processo de desenvolvimento da IA.

O projeto Mira está comprometido em resolver esse problema, construindo uma camada de confiança para a IA a fim de reduzir o viés e as alucinações da IA, melhorando a confiabilidade da IA. Então, como a Mira alcança esse objetivo?

A estratégia central da Mira é validar as saídas da IA através do consenso de múltiplos modelos de IA. É essencialmente uma rede de validação que utiliza o consenso de vários modelos de IA para verificar a fiabilidade das saídas da IA. Mais importante ainda, a Mira adotou uma abordagem de validação de consenso descentralizada.

A chave da rede Mira está na validação de consenso descentralizada. Este método não só aproveita as vantagens do campo da criptografia, como também se beneficia das vantagens da colaboração entre múltiplos modelos, reduzindo preconceitos e ilusões através de um modo de validação coletiva.

No que diz respeito à arquitetura de verificação, o protocolo Mira suporta a conversão de conteúdo complexo em declarações independentes e verificáveis. Estas declarações requerem a participação dos operadores de nós na verificação. Para garantir a honestidade dos operadores de nós, o Mira adota um mecanismo de incentivos/punições econômicas criptográficas, ao mesmo tempo que introduz diferentes modelos de IA e operadores de nós descentralizados para garantir a fiabilidade dos resultados de verificação.

A arquitetura da rede Mira inclui três partes: conversão de conteúdo, validação distribuída e mecanismo de consenso, a fim de garantir a confiabilidade da validação. Nesse arquétipo, a conversão de conteúdo é uma parte importante. A rede Mira primeiro decompõe o conteúdo candidato em diferentes declarações verificáveis, que são distribuídas pelo sistema para os nós validarem, a fim de determinar a validade das declarações e compilar os resultados para alcançar o consenso. Para proteger a privacidade dos clientes, a conversão do conteúdo candidato é decomposta em pares de declarações, que são fornecidas a diferentes nós de forma aleatória e fragmentada, para evitar vazamentos de informações durante o processo de validação.

Os operadores de nós são responsáveis por executar modelos de validadores, processar declarações e submeter resultados de validação. A motivação para a participação na validação das declarações vem da possibilidade de obter lucros. Esses lucros são originados do valor criado para os clientes. O objetivo da rede Mira é reduzir a taxa de erro da IA (alucinações e preconceitos), e uma vez atingido esse objetivo, pode gerar um enorme valor em áreas como saúde, direito, aviação e finanças. Assim, os clientes estão dispostos a pagar por isso. Claro, a sustentabilidade e a escala dos pagamentos dependem da capacidade da rede Mira de continuar a trazer valor para os clientes. Para evitar comportamentos oportunistas de resposta aleatória dos nós, nós que se desviarem continuamente do consenso terão seus tokens de staking reduzidos.

De um modo geral, a Mira oferece uma nova abordagem para garantir a confiabilidade da IA. Ela constrói uma rede de validação de consenso descentralizada baseada em múltiplos modelos de IA, trazendo maior confiabilidade para os serviços de IA dos clientes, reduzindo o viés e as alucinações da IA, e atendendo à demanda dos clientes por maior precisão e exatidão. Ao mesmo tempo, proporciona ganhos para os participantes da rede Mira, com base na entrega de valor aos clientes. Em resumo, a Mira tenta construir uma camada de confiança para a IA, o que impulsionará o desenvolvimento mais aprofundado das aplicações de IA.

Atualmente, os usuários podem participar da rede de testes pública da Mira usando o Klok. O Klok é um aplicativo de chat LLM baseado na Mira, onde os usuários podem experimentar saídas de IA verificadas e ter a oportunidade de ganhar pontos Mira. Quanto ao uso futuro desses pontos, ainda não foi anunciado.