Tether lançou o sistema QVAC: o telefone pode executar o modelo LLAMA 3.2 para realizar inferência local.

【moeda】A Tether apresentou recentemente seu novo sistema QVAC, que conseguiu rodar o modelo LLAMA 3.2 (1 bilhão de parâmetros) em dispositivos móveis usando llama.cpp, alcançando uma inferência local eficiente. O QVAC é um runtime de inferência e fine-tuning genérico, projetado para se adaptar a diversos dispositivos terminais, incluindo smartphones, laptops e servidores. Atualmente, já suporta vários modelos, e no futuro, expandirá o suporte a mais modelos.