【通貨界】Tether は近日、彼らの新しく発表された QVAC システムを展示し、成功裏にモバイルデバイス上で llama.cpp を用いて LLAMA 3.2（10 億パラメータ）モデルを実行し、ローカルでの効率的な推論を実現しました。QVAC は汎用的な推論と微調整の実行環境であり、スマートフォン、ノートパソコン、サーバーなどの多様な端末デバイスに適応することを目的としています。現在、複数のモデルをサポートしており、将来的にはさらに多くのモデルのサポートを拡大する予定です。
テザーがQVACシステムを発表：スマートフォンでLLAMA 3.2モデルを実行してローカル推論を実現
【通貨界】Tether は近日、彼らの新しく発表された QVAC システムを展示し、成功裏にモバイルデバイス上で llama.cpp を用いて LLAMA 3.2（10 億パラメータ）モデルを実行し、ローカルでの効率的な推論を実現しました。QVAC は汎用的な推論と微調整の実行環境であり、スマートフォン、ノートパソコン、サーバーなどの多様な端末デバイスに適応することを目的としています。現在、複数のモデルをサポートしており、将来的にはさらに多くのモデルのサポートを拡大する予定です。