Introdução

Na era digital, o poder de computação tornou-se um elemento essencial do progresso tecnológico. Define os recursos que os computadores necessitam para processar operações, incluindo memória, velocidade do processador e o número de processadores. Esses recursos afetam diretamente o desempenho e o custo dos dispositivos, especialmente ao lidar com vários programas simultaneamente. Com a adoção generalizada de inteligência artificial e tecnologias de aprendizado profundo, a demanda por recursos de computação de alto desempenho, como GPUs, disparou, levando a uma escassez de oferta global.

A Unidade Central de Processamento (CPU) desempenha um papel fundamental como o núcleo de um computador, enquanto a Unidade de Processamento Gráfico (GPU) melhora significativamente a eficiência computacional lidando com tarefas paralelas. Uma CPU mais poderosa pode processar operações mais rapidamente, e a GPU apoia eficazmente as crescentes demandas computacionais.

O que é Io.net?

Fonte: io.net

Io.net é um projeto DePIN baseado em Solana, focado em fornecer energia de computação GPU para empresas de IA e aprendizado de máquina, tornando a computação mais escalável, acessível e eficiente.

Modelos de IA modernos estão cada vez maiores, e o treinamento e a inferência não são mais tarefas simples que podem ser realizadas em um único dispositivo. Muitas vezes, é necessária a computação paralela e distribuída, utilizando as poderosas capacidades em vários sistemas e núcleos para otimizar o desempenho computacional ou para expandir e acomodar conjuntos de dados e modelos maiores. Coordenar a rede de GPU como um recurso computacional é crucial nesse processo.

Antecedentes da equipe e financiamento

Antecedentes da equipe

A equipe principal do Io.net originalmente se especializou em negociação quantitativa. Até junho de 2022, concentraram-se no desenvolvimento de sistemas de negociação quantitativa de nível institucional que abrangem ações e criptomoedas. À medida que a demanda por potência de computação dos sistemas de backend aumentou, a equipe começou a explorar as possibilidades de computação descentralizada, focando, por fim, em resolver problemas específicos relacionados à redução do custo dos serviços de computação de GPU.

• Fundador e CEO: Ahmad Shadid, que trabalhou em quant e engenharia financeira. Antes da Io.net, ele foi voluntário na Ethereum Foundation.
• CMO & Chief Strategy Officer: Garrison Yang, que se juntou à Io.net em março deste ano, anteriormente atuou como VP de Estratégia e Crescimento na Avalanche e se formou na Universidade da Califórnia, Santa Bárbara.
• COO: Tory Green, o COO da Io.net, anteriormente atuou como COO na Hum Capital e Diretor de Desenvolvimento de Negócios e Estratégia no Fox Mobile Group, e é formado pela Stanford.

De acordo com as informações do LinkedIn da Io.net, a equipe tem sede em Nova York, EUA, com uma filial em San Francisco e atualmente conta com mais de 50 membros da equipe.

Situação de Financiamento

A Io.net concluiu uma rodada de financiamento da Série A de $30 milhões liderada pela Hack VC, com a participação de outras instituições notáveis como a Multicoin Capital, Delphi Digital, Animoca Brands, OKX, Aptos Labs e Solana Labs. Além disso, os fundadores da Solana, Aptos e Animoca Brands também participaram desta rodada como investidores individuais. Vale ressaltar que, após o investimento da Fundação Aptos, o projeto BC8.AI, inicialmente estabelecido na Solana, migrou para a plataforma L1 igualmente eficiente, Aptos.

Abordando a Escassez de Recursos de Computação

Nos últimos anos, os avanços rápidos em IA têm impulsionado uma onda de demanda por chips de computação, com as aplicações de IA dobrando seus requisitos de potência computacional a cada três meses e quase dez vezes a cada 18 meses. Esse crescimento exponencial tem sobrecarregado a cadeia de abastecimento global, que ainda está lutando para se recuperar das interrupções causadas pela pandemia. As nuvens públicas geralmente têm acesso prioritário a mais GPUs, tornando desafiador para empresas menores e instituições de pesquisa obter recursos computacionais, como:

• Altos custos: Usar GPUs de alta qualidade é muito caro, chegando facilmente a centenas de milhares por mês para treinamento e inferência.
• Problemas de Qualidade: Os usuários têm pouca escolha em relação à qualidade, nível de segurança, atraso computacional e outras opções de hardware de GPU e devem se contentar com o que está disponível.
• Restrições de uso: Ao usar serviços de nuvem como AWS da Google, GCP ou Microsoft Azure, o acesso geralmente leva semanas e as GPUs de ponta muitas vezes estão indisponíveis.

A Io.net resolve esse problema agregando recursos computacionais subutilizados (como centros de computação de dados independentes, mineradores de criptomoedas, Filecoin, Render e outras redes de projetos de criptomoedas) de GPUs excedentes. Esses recursos computacionais formam uma rede de computação descentralizada, permitindo que os engenheiros obtenham uma vasta potência computacional em um sistema facilmente acessível, personalizável e econômico.

Fonte: io.net

Produtos Io.net Construídos para Quatro Funcionalidades Principais

• Inferência em lote e Serviços de Modelo: Os dados em lote podem ser processados em paralelo exportando a arquitetura e pesos dos modelos treinados para armazenamento de objeto compartilhado. Io.net permite que equipes de aprendizado de máquina estabeleçam fluxos de trabalho de serviços de inferência e modelo em redes distribuídas de GPU.
• Treinamento Paralelo: Limitações de memória da CPU/GPU e fluxos de trabalho de processamento sequencial criam gargalos significativos ao treinar modelos de um único dispositivo. O Io.net utiliza bibliotecas de computação distribuída para orquestrar e agrupar trabalhos de treinamento, permitindo paralelismo de dados e modelos em muitos dispositivos distribuídos.
• Sintonização Paralela de Hiperparâmetros: Os experimentos de sintonização de hiperparâmetros são inerentemente paralelos. Io.net usa uma biblioteca de computação distribuída com capacidades avançadas de sintonização de hiperparâmetros para encontrar os melhores resultados, otimizar o agendamento e definir padrões de busca.
• Aprendizado por Reforço: Io.net utiliza uma biblioteca de aprendizado por reforço de código aberto que suporta cargas de trabalho de aprendizado por reforço altamente distribuídas em nível de produção e um conjunto de APIs simples.

Produtos Io.net

IO Cloud

A IO Cloud gerencia clusters de GPU dispersos, oferecendo acesso flexível e escalável aos recursos sem a necessidade de investimentos caros em hardware e gerenciamento de infraestrutura. Utilizando uma rede de nós descentralizada, os engenheiros de aprendizado de máquina têm uma experiência semelhante a qualquer provedor de nuvem. Integrado de forma transparente via IO-SDK, oferece soluções para aplicativos de IA e Python e simplifica a implantação e gerenciamento de recursos de GPU/CPU, adaptando-se às necessidades em constante mudança.

Destaques:

• Cobertura Global: Utilizando uma abordagem semelhante a CDN, distribui globalmente recursos de GPU para otimizar serviços de aprendizado de máquina e inferência.
• Escalabilidade e Eficiência de Custo: Comprometido em ser a plataforma de nuvem GPU mais eficiente em termos de custos, prevê-se que reduza os custos do projeto de IA/ML em até 90%.
• Integração com IO SDK: Melhora o desempenho dos projetos de IA através da integração perfeita, criando um ambiente unificado de alto desempenho.
• Recursos Exclusivos: Fornece acesso privado ao plugin OpenAI ChatGPT, simplificando a implantação de clusters de treinamento.
• Suporte para o Framework RAY: Utiliza o framework de computação distribuída RAY para o desenvolvimento escalável de aplicações Python.
• Inovação na Mineração de Criptomoedas: Visa revolucionar a indústria de mineração de criptomoedas, apoiando os ecossistemas de ML e IA.

Trabalhador de IO

Projetado para otimizar operações de fornecimento em WebApps, o IO Worker inclui gerenciamento de contas de usuário, monitoramento de atividades em tempo real, rastreamento de temperatura e consumo de energia, suporte de instalação, gerenciamento de carteira, avaliação de segurança e análise de lucratividade. Ele preenche a lacuna entre as demandas de potência de processamento de IA e o fornecimento de recursos de computação subutilizados, facilitando um processo de aprendizado de IA mais econômico e suave.

Destaques:

• Página inicial do trabalhador: Fornece um painel para monitoramento em tempo real de dispositivos conectados, suportando funções como exclusão e renomeação de dispositivos.
• Página de Detalhes do Dispositivo: Oferece análise abrangente dos dispositivos, incluindo tráfego, status de conexão e histórico de operações.
• Página Adicionar Dispositivo: Simplifica o processo de conexão do dispositivo, suportando integração rápida e fácil de novos dispositivos.
• Página de Ganhos e Recompensas: Acompanha ganhos e histórico de operações com detalhes de transações disponíveis no Solscan.

Explorador IO

O IO Explorer visa fornecer uma janela para o funcionamento da rede, oferecendo aos usuários estatísticas abrangentes e insights operacionais de todos os aspectos da nuvem de GPU. Assim como o Solscan ou os exploradores de blockchain fornecem visibilidade nas transações de blockchain, o IO Explorer traz um nível similar de transparência às operações impulsionadas por GPU, permitindo aos usuários monitorar, analisar e compreender os detalhes da nuvem de GPU, garantindo total visibilidade das atividades de rede, estatísticas e transações enquanto protege a privacidade de informações sensíveis.

Destaques:

• Página do Dispositivo: Exibe detalhes públicos dos dispositivos conectados à rede, fornecendo dados em tempo real e rastreamento de transações.
• Página Inicial do Navegador: Oferece insights sobre volume de fornecimento, fornecedores verificados, números de hardware ativos e preços de mercado em tempo real.
• Página de Clusters: Mostra informações públicas sobre clusters implantados na rede, juntamente com métricas em tempo real e detalhes de reserva.
• Monitoramento de Clusters em Tempo Real: Fornece insights imediatos sobre o status, saúde e desempenho de clusters, garantindo que os usuários tenham as informações mais recentes.

Arquitetura IO

Como um ramo da Ray, o IO-SDK forma a base das capacidades da Io.net, suportando a execução paralela de tarefas e lidando com ambientes multilíngues. Sua compatibilidade com frameworks mainstream de machine learning (ML) permite que a Io.net atenda de forma flexível e eficiente a diversas demandas computacionais. Essa configuração técnica, suportada por um sistema técnico bem definido, garante que a plataforma Io.net possa atender às necessidades atuais e se adaptar a desenvolvimentos futuros.

Arquitetura Multicamada:

• Camada de Interface do Usuário: Fornece uma interface visual de front-end para os usuários, incluindo sites públicos, áreas de clientes e zonas de fornecedores de GPU, para oferecer uma experiência intuitiva e amigável ao usuário.
• Camada de Segurança: Garante a integridade e segurança do sistema, incorporando mecanismos como defesa de rede, autenticação do usuário e registro de atividades.
• Camada de API: Como o hub de comunicação para sites, fornecedores e gestão interna, facilita a troca de dados e operações.
• Camada de Backend: Forma o núcleo do sistema e é responsável por gerenciar clusters/GPU, interações com o cliente e escalabilidade automática.
• Camada de Banco de Dados: Gerencia o armazenamento e a gestão de dados, com armazenamento primário para dados estruturados e cache para manipulação temporária de dados.
• Camada de Tarefas: Gerencia a comunicação assíncrona e a execução de tarefas, garantindo o processamento eficiente de dados e o fluxo.
• Camada de Infraestrutura: Constitui a base do sistema, incluindo o pool de recursos da GPU, ferramentas de orquestração e processamento de tarefas de execução/ML, equipado com uma solução de monitoramento robusta.

Túneis IO

Os túneis de E/S facilitam conexões seguras de clientes para servidores remotos, permitindo que os engenheiros ignorem firewalls e NAT sem configurações complexas, possibilitando acesso remoto.

Fluxo de trabalho: Os IO Workers primeiro estabelecem uma conexão com um servidor intermediário (ou seja, o servidor io.net). O servidor io.net então aguarda solicitações de conexão dos IO Workers e das máquinas dos engenheiros, facilitando a troca de dados por meio da tecnologia de túnel reverso.

(Fonte da imagem: io.net, 2024.4.11)

Aplicação em io.net: Os engenheiros podem facilmente conectar-se aos IO Workers através do servidor io.net, superando os desafios de configuração de rede para obter acesso remoto e gerenciamento.

Vantagens:

• Acessibilidade: A conexão direta com os IO Workers elimina as barreiras de rede.
• Segurança: Garante a segurança da comunicação, protegendo a privacidade dos dados.
• Escalabilidade e Flexibilidade: Gerencia eficientemente vários IO Workers em diferentes ambientes.

Rede IO

A rede IO emprega uma arquitetura de VPN de malha para fornecer comunicação de ultra baixa latência entre os nós antMiner.

Recursos da Rede VPN de Malha: Conexões Descentralizadas: Ao contrário dos modelos tradicionais de hub-and-spoke, a VPN de malha permite conexões diretas entre nós, aprimorando a redundância, tolerância a falhas e distribuição de carga.

Vantagens para io.net:

• Conexões diretas reduzem atrasos na comunicação, melhorando o desempenho da aplicação.
• Nenhum ponto único de falha garante que a rede continue a operar mesmo se um nó individual falhar.
• Aprimora a proteção da privacidade do usuário aumentando a complexidade do rastreamento e análise de dados.
• Integração fácil de novos nós sem afetar o desempenho da rede.
• Facilita o compartilhamento de recursos e o processamento eficiente entre nós.

Fonte: io.net

Comparação de Plataformas de Computação Descentralizada

Akash e Rede Render

Tanto a Akash quanto a Render Network são redes de computação descentralizada que permitem aos usuários comprar e vender recursos de computação. Akash opera como um mercado aberto, oferecendo recursos de CPU, GPU e armazenamento, onde os usuários podem definir preços e condições, e os provedores disputam para implantar tarefas. Por outro lado, o Render usa um algoritmo de precificação dinâmica focado em serviços de renderização de GPU, com recursos fornecidos por provedores de hardware e preços ajustados com base nas condições de mercado. O Render não é um mercado aberto, mas usa um algoritmo de precificação de vários níveis para combinar compradores de serviços com usuários.

Io.net e Bittensor

A Io.net concentra-se em tarefas de inteligência artificial e aprendizado de máquina, utilizando uma rede de computação descentralizada para aproveitar a potência de computação da GPU espalhada ao redor do mundo, e colaborando com redes como o Render para lidar com tarefas de IA e aprendizado de máquina. Suas principais distinções residem em seu foco em tarefas de IA e aprendizado de máquina e sua ênfase na utilização de clusters de GPU.

Bittensor é um projeto de blockchain focado em IA que visa criar um mercado descentralizado de aprendizado de máquina que concorre com projetos centralizados. Usando uma estrutura de sub-rede, ele se concentra em várias tarefas relacionadas à IA, como redes de IA de prompt de texto e geração de imagem AI. Os mineradores no ecossistema Bittensor fornecem recursos de computação e hospedam modelos de aprendizado de máquina, computando para tarefas de IA fora da cadeia e competindo para oferecer os melhores resultados para os usuários.

Fonte: TokenInsight

Conclusão

A Io.net está pronta para impactar significativamente o promissor mercado de computação de IA, com o apoio de uma equipe técnica experiente e forte suporte de entidades conhecidas como Multicoin Capital, Solana Ventures, OKX Ventures, Aptos Labs e Delphi Digital. Como o primeiro e único GPU DePIN, a io.net fornece uma plataforma que conecta fornecedores de energia de computação com usuários, mostrando sua funcionalidade poderosa e eficiência na entrega de fluxos de trabalho distribuídos de treinamento e inferência de rede GPU para equipes de aprendizado de máquina.