Tether ra mắt hệ thống QVAC: điện thoại có thể chạy mô hình LLAMA 3.2 để thực hiện suy diễn cục bộ

【币界】Tether gần đây đã giới thiệu hệ thống QVAC mới ra mắt của mình, thành công chạy mô hình LLAMA 3.2 (1 tỷ tham số) trên thiết bị di động bằng llama.cpp, đạt được suy diễn hiệu quả tại chỗ. QVAC là một runtime suy diễn và tinh chỉnh đa năng, nhằm thích ứng với nhiều loại thiết bị đầu cuối bao gồm điện thoại thông minh, máy tính xách tay và máy chủ, hiện đã hỗ trợ nhiều mô hình và sẽ mở rộng hỗ trợ thêm nhiều mô hình trong tương lai.