Manus đã đạt được những tiến bộ đột phá trong bài kiểm tra điểm chuẩn GAIA

Gần đây, Manus đã đạt được thành tích ấn tượng trong bài kiểm tra điểm chuẩn GAIA, với hiệu suất vượt trội hơn các mô hình ngôn ngữ lớn cùng tầng. Điều này có nghĩa là Manus có khả năng hoàn thành độc lập các nhiệm vụ phức tạp như đàm phán thương mại xuyên quốc gia, bao gồm phân tích điều khoản hợp đồng, dự đoán chiến lược, tạo ra giải pháp, thậm chí có thể phối hợp các đội ngũ pháp lý và tài chính.

Ưu điểm của Manus chủ yếu nằm ở ba khía cạnh: khả năng phân tách mục tiêu động, khả năng suy luận đa mô thức và khả năng học tập tăng cường trí nhớ. Nó có thể phân chia các nhiệm vụ lớn thành hàng trăm nhiệm vụ con có thể thực hiện, đồng thời xử lý nhiều loại dữ liệu khác nhau và liên tục nâng cao hiệu suất quyết định của mình thông qua việc học tăng cường, giảm tỷ lệ lỗi.

Đột phá này lại kích thích cuộc thảo luận trong ngành về con đường phát triển của AI: Tương lai sẽ là AGI thống trị, hay là hệ thống đa tác nhân (MAS) phối hợp chiếm ưu thế?

Triết lý thiết kế của Manus ẩn chứa hai khả năng:

1. Đường dẫn AGI: Bằng cách liên tục nâng cao trình độ trí tuệ đơn lẻ, khiến nó gần với khả năng ra quyết định tổng hợp của con người.

2. Đường dẫn MAS: Là một điều phối viên siêu, chỉ huy hàng nghìn tác nhân thông minh trong các lĩnh vực dọc phối hợp chiến đấu.

Bề ngoài, đây là sự phân kỳ của các con đường khác nhau, nhưng thực chất đang thảo luận về vấn đề cân bằng giữa hiệu quả và an toàn trong sự phát triển của AI. Khi trí thông minh đơn thể càng gần với AGI, rủi ro về việc ra quyết định trở nên mờ mịt hơn; trong khi hợp tác giữa nhiều trí thông minh có thể phân tán rủi ro, nhưng có thể sẽ bỏ lỡ thời điểm quyết định quan trọng do độ trễ trong giao tiếp.

Sự tiến hóa của Manus một cách vô hình đã phóng đại các rủi ro vốn có trong phát triển AI, chẳng hạn như quyền riêng tư dữ liệu, thiên lệch thuật toán và các cuộc tấn công đối kháng. Trong bối cảnh y tế, Manus cần truy cập dữ liệu gen của bệnh nhân theo thời gian thực; trong đàm phán tài chính, có thể liên quan đến thông tin tài chính chưa công khai của doanh nghiệp. Trong đàm phán tuyển dụng, có thể đưa ra các đề xuất lương thấp hơn cho các nhóm cụ thể; trong quá trình xem xét hợp đồng pháp lý, tỷ lệ sai sót trong việc đánh giá các điều khoản ngành mới nổi có thể gần bằng một nửa. Hơn nữa, tin tặc có thể thông qua việc cấy ghép tần số âm thanh cụ thể, dẫn đến việc Manus đánh giá sai khoảng giá mà đối thủ đưa ra trong đàm phán.

Những vấn đề này làm nổi bật một quan điểm quan trọng: Hệ thống càng thông minh thì bề mặt tấn công càng rộng.

Trong lĩnh vực Web3, an ninh luôn là một chủ đề được quan tâm. Dựa trên "Tam giác không thể" do V thần đề xuất (mạng lưới blockchain không thể đồng thời đạt được tính an toàn, phi tập trung và khả năng mở rộng), đã phát sinh nhiều phương pháp mã hóa khác nhau:

1. Mô hình bảo mật không tin tưởng: Ý tưởng cốt lõi là "không tin tưởng bất kỳ ai, luôn luôn xác thực", nhấn mạnh việc xác thực và ủy quyền nghiêm ngặt cho từng yêu cầu truy cập.

2. Danh tính phi tập trung (DID): một tiêu chuẩn định danh cho phép các thực thể có được sự nhận diện theo cách có thể xác minh và bền vững mà không cần phụ thuộc vào sổ đăng ký tập trung.

3. Mã hóa toàn phần (FHE): Một công nghệ mã hóa tiên tiến cho phép thực hiện các phép toán tùy ý trên dữ liệu mã hóa mà không cần giải mã dữ liệu.

Trong đó, FHE được coi là công nghệ then chốt để giải quyết vấn đề an ninh trong thời đại AI. Nó có thể phát huy tác dụng ở một số cấp độ sau:

1. Khía cạnh dữ liệu: Tất cả thông tin do người dùng nhập (bao gồm đặc điểm sinh học, giọng nói) được xử lý trong trạng thái mã hóa, ngay cả hệ thống AI cũng không thể giải mã dữ liệu gốc.

2. Khía cạnh thuật toán: Thực hiện "đào tạo mô hình mã hóa" thông qua FHE, ngay cả các nhà phát triển cũng không thể nhìn thấy con đường quyết định của AI.

3. Khía cạnh hợp tác: Giao tiếp giữa nhiều tác nhân thông minh sử dụng mã hóa ngưỡng, việc một nút đơn lẻ bị xâm phạm sẽ không dẫn đến rò rỉ dữ liệu toàn cầu.

Trong lĩnh vực an ninh Web3, đã có nhiều dự án khám phá ở các hướng khác nhau. Tuy nhiên, các dự án an ninh thường không được các nhà đầu tư đầu cơ chú ý. Trong tương lai, với sự phát triển không ngừng của công nghệ AI, tầm quan trọng của các công nghệ an ninh như FHE sẽ ngày càng nổi bật. Trên con đường hướng tới AGI, những công nghệ này không chỉ là công cụ để giải quyết các vấn đề hiện tại, mà còn là những thứ cần thiết cho thời đại AI mạnh mẽ trong tương lai.