Aprendizado de Máquina Otimista: Serviço de AI em Blockchain Eficiente e de Baixo Custo
Optimistic Machine Learning ( OPML ) é uma nova tecnologia que permite a inferência e o treinamento/ajuste fino de modelos de IA em sistemas de Blockchain. Comparado ao ZKML, o OPML oferece serviços de ML mais econômicos e eficientes, com barreiras de entrada mais baixas. Atualmente, PCs comuns podem executar grandes modelos de linguagem, como o 7B-LLaMA com 26GB de tamanho, sem a necessidade de GPU.
OPML utiliza um mecanismo de jogo de verificação para garantir a descentralização e o consenso verificável dos serviços de ML. O seu processo é o seguinte:
O solicitante inicia a tarefa de serviço ML
O servidor completa a tarefa e submete o resultado ao Blockchain
Resultados da auditoria dos validadores, se houver objeções, iniciar o jogo de validação.
Arbitragem final do contrato inteligente
O jogo de verificação de uma única fase do OPML é semelhante ao cálculo de delegação (RDoC). Ele constrói uma máquina virtual para execução fora da cadeia e arbitragem na cadeia, e implementa uma biblioteca DNN leve especializada para aumentar a eficiência da inferência de IA. A imagem da máquina virtual é gerida através de uma árvore de Merkle, apenas o hash raiz é carregado na cadeia.
A principal limitação do jogo de verificação de uma única fase é que todos os cálculos devem ser executados dentro da máquina virtual, não podendo aproveitar plenamente a aceleração da GPU/TPU. Para resolver este problema, a OPML propôs um protocolo de verificação de múltiplas fases. No protocolo de múltiplas fases, apenas a fase final precisa ser calculada na VM, enquanto as outras fases podem ser executadas de forma flexível no ambiente local, melhorando significativamente o desempenho.
Tomando o modelo LLaMA como exemplo, o fluxo de trabalho do OPML em duas fases é o seguinte:
A segunda fase realiza jogos de verificação no gráfico computacional, podendo utilizar CPU ou GPU multithread.
A primeira fase converte o cálculo de um único nó em instruções VM para validação
A OPML em múltiplas fases pode alcançar uma aceleração de cálculo α vezes em comparação com a fase única, onde α representa a taxa de aceleração do GPU ou do cálculo paralelo. Além disso, o tamanho da árvore de Merkle na OPML em múltiplas fases é também significativamente menor do que na fase única.
Para garantir a consistência dos resultados do ML, o OPML utiliza algoritmos de ponto fixo e bibliotecas de ponto flutuante baseadas em software. Essas tecnologias podem mitigar o impacto dos erros de arredondamento de ponto flutuante e garantir a consistência dos resultados entre plataformas.
De um modo geral, o OPML oferece uma solução eficiente, de baixo custo e escalável para serviços de IA na Blockchain. Ele não só suporta a inferência de modelos, mas também pode ser utilizado para o treinamento de modelos, sendo uma estrutura de aprendizado de máquina genérica.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
9 gostos
Recompensa
9
3
Partilhar
Comentar
0/400
RumbleValidator
· 21h atrás
A eficiência de verificação superou muito as expectativas. Essa arquitetura eu reconheço muito.
Ver originalResponder0
BlockchainThinkTank
· 21h atrás
Sugiro que todos avaliem com cuidado, projetos similares ao ML já falharam em 2018, é preciso pensar três vezes antes de seguir a moda.
Ver originalResponder0
DancingCandles
· 22h atrás
bull啊 companheiro não precisa de placa gráfica para fazer AI
Aprendizado de Máquina Otimista: O Caminho da Inovação dos Serviços de AI em Blockchain
Aprendizado de Máquina Otimista: Serviço de AI em Blockchain Eficiente e de Baixo Custo
Optimistic Machine Learning ( OPML ) é uma nova tecnologia que permite a inferência e o treinamento/ajuste fino de modelos de IA em sistemas de Blockchain. Comparado ao ZKML, o OPML oferece serviços de ML mais econômicos e eficientes, com barreiras de entrada mais baixas. Atualmente, PCs comuns podem executar grandes modelos de linguagem, como o 7B-LLaMA com 26GB de tamanho, sem a necessidade de GPU.
OPML utiliza um mecanismo de jogo de verificação para garantir a descentralização e o consenso verificável dos serviços de ML. O seu processo é o seguinte:
O jogo de verificação de uma única fase do OPML é semelhante ao cálculo de delegação (RDoC). Ele constrói uma máquina virtual para execução fora da cadeia e arbitragem na cadeia, e implementa uma biblioteca DNN leve especializada para aumentar a eficiência da inferência de IA. A imagem da máquina virtual é gerida através de uma árvore de Merkle, apenas o hash raiz é carregado na cadeia.
A principal limitação do jogo de verificação de uma única fase é que todos os cálculos devem ser executados dentro da máquina virtual, não podendo aproveitar plenamente a aceleração da GPU/TPU. Para resolver este problema, a OPML propôs um protocolo de verificação de múltiplas fases. No protocolo de múltiplas fases, apenas a fase final precisa ser calculada na VM, enquanto as outras fases podem ser executadas de forma flexível no ambiente local, melhorando significativamente o desempenho.
Tomando o modelo LLaMA como exemplo, o fluxo de trabalho do OPML em duas fases é o seguinte:
A OPML em múltiplas fases pode alcançar uma aceleração de cálculo α vezes em comparação com a fase única, onde α representa a taxa de aceleração do GPU ou do cálculo paralelo. Além disso, o tamanho da árvore de Merkle na OPML em múltiplas fases é também significativamente menor do que na fase única.
Para garantir a consistência dos resultados do ML, o OPML utiliza algoritmos de ponto fixo e bibliotecas de ponto flutuante baseadas em software. Essas tecnologias podem mitigar o impacto dos erros de arredondamento de ponto flutuante e garantir a consistência dos resultados entre plataformas.
De um modo geral, o OPML oferece uma solução eficiente, de baixo custo e escalável para serviços de IA na Blockchain. Ele não só suporta a inferência de modelos, mas também pode ser utilizado para o treinamento de modelos, sendo uma estrutura de aprendizado de máquina genérica.