Tether запустив систему QVAC: мобільний телефон може виконувати модель LLAMA 3.2 для локального виведення.

【монета】Tether нещодавно продемонстрував свою нову систему QVAC, успішно запустивши модель LLAMA 3.2 (1 мільярд параметрів) на мобільних пристроях з використанням llama.cpp, що забезпечує ефективну локальну інференцію. QVAC є універсальним середовищем для інференції та доопрацювання, призначеним для адаптації до різних термінальних пристроїв, включаючи смартфони, ноутбуки та сервери, і наразі підтримує кілька моделей, а в майбутньому розширить підтримку ще більшої кількості моделей.