Lớp tin cậy của AI: Mạng Mira giải quyết vấn đề thiên kiến và ảo giác của AI như thế nào

Gần đây, một phiên bản thử nghiệm công khai trên mạng có tên là Mira đã được ra mắt, thu hút sự chú ý của ngành. Mục tiêu của dự án này là xây dựng một lớp tin cậy cho AI, giải quyết vấn đề thiên kiến và ảo giác của AI. Vậy tại sao AI cần được tin tưởng? Mira giải quyết vấn đề này như thế nào?

Khi thảo luận về AI, mọi người thường chú ý đến khả năng mạnh mẽ của nó. Tuy nhiên, vấn đề "ảo giác" hoặc thiên kiến của AI thường bị bỏ qua. Cái gọi là "ảo giác" của AI, nói một cách đơn giản, là AI đôi khi sẽ "bịa chuyện", nói linh tinh một cách nghiêm túc. Ví dụ, nếu bạn hỏi AI tại sao mặt trăng lại màu hồng, nó có thể sẽ đưa ra một loạt lý do có vẻ hợp lý.

Sự xuất hiện của "ảo giác" hoặc định kiến trong AI liên quan đến một số con đường công nghệ AI hiện tại. Ví dụ, AI sinh tạo đạt được tính mạch lạc và hợp lý bằng cách dự đoán nội dung "có khả năng nhất", nhưng đôi khi không thể xác minh tính xác thực. Hơn nữa, dữ liệu đào tạo có thể chứa lỗi, định kiến hoặc thậm chí nội dung hư cấu, tất cả đều ảnh hưởng đến đầu ra của AI. Nói cách khác, AI học các mô hình ngôn ngữ của con người, chứ không phải sự thật bản thân.

Cơ chế sinh xác suất hiện tại kết hợp với mô hình dựa trên dữ liệu gần như không thể tránh khỏi việc AI tạo ra ảo giác. Nếu đầu ra mang định kiến hoặc ảo giác này chỉ giới hạn trong các kiến thức thông thường hoặc nội dung giải trí, thì tạm thời sẽ không gây ra hậu quả trực tiếp. Nhưng nếu điều này xảy ra trong các lĩnh vực yêu cầu tính chính xác cao như y tế, pháp lý, hàng không, tài chính, thì có thể tạo ra tác động lớn. Do đó, việc giải quyết vấn đề ảo giác và định kiến của AI trở thành một trong những vấn đề cốt lõi trong quá trình phát triển AI.

Dự án Mira đang nỗ lực giải quyết vấn đề này bằng cách xây dựng một lớp tin cậy cho AI để giảm thiểu thiên lệch và ảo giác của AI, nâng cao độ tin cậy của AI. Vậy, Mira đã thực hiện mục tiêu này như thế nào?

Chiến lược cốt lõi của Mira là xác minh đầu ra của AI thông qua sự đồng thuận của nhiều mô hình AI. Nó về bản chất là một mạng xác minh, sử dụng sự đồng thuận của nhiều mô hình AI để xác thực độ tin cậy của đầu ra AI. Quan trọng hơn, Mira áp dụng phương thức xác minh đồng thuận phi tập trung.

Chìa khóa của mạng Mira nằm ở việc xác thực đồng thuận phi tập trung. Phương pháp này không chỉ tận dụng những lợi thế trong lĩnh vực mã hóa mà còn nhờ vào những lợi ích của sự hợp tác đa mô hình, thông qua mô hình xác thực tập thể để giảm bớt thiên kiến và ảo giác.

Về cấu trúc xác minh, giao thức Mira hỗ trợ chuyển đổi nội dung phức tạp thành các tuyên bố có thể xác minh độc lập. Các tuyên bố này cần có sự tham gia của các nhà điều hành nút để xác minh. Để đảm bảo tính trung thực của các nhà điều hành nút, Mira đã áp dụng cơ chế khuyến khích / trừng phạt kinh tế mã hóa, đồng thời đưa vào tham gia các mô hình AI khác nhau và các nhà điều hành nút phân tán để đảm bảo độ tin cậy của kết quả xác minh.

Kiến trúc mạng Mira bao gồm ba phần: chuyển đổi nội dung, xác thực phân tán và cơ chế đồng thuận, nhằm đạt được độ tin cậy của việc xác thực. Trong kiến trúc này, chuyển đổi nội dung là một phần quan trọng. Mạng Mira trước tiên sẽ phân tích nội dung ứng cử thành các tuyên bố có thể xác thực khác nhau, các tuyên bố này sẽ được hệ thống phân phối đến các nút để xác thực, nhằm xác định tính hợp lệ của các tuyên bố và tổng hợp kết quả để đạt được sự đồng thuận. Để bảo vệ quyền riêng tư của khách hàng, nội dung ứng cử được phân tích thành các cặp tuyên bố, chúng sẽ được cung cấp cho các nút khác nhau theo cách phân mảnh ngẫu nhiên để ngăn chặn việc rò rỉ thông tin trong quá trình xác thực.

Các nhà điều hành nút chịu trách nhiệm vận hành mô hình xác thực, xử lý các tuyên bố và nộp kết quả xác thực. Động lực tham gia xác thực tuyên bố của họ đến từ việc có thể kiếm được lợi nhuận. Những lợi nhuận này đến từ giá trị mà họ tạo ra cho khách hàng. Mục tiêu của mạng Mira là giảm tỷ lệ lỗi của AI (ảo giác và thiên kiến), và một khi đạt được mục tiêu, nó có thể tạo ra giá trị to lớn trong các lĩnh vực như y tế, pháp lý, hàng không, tài chính, v.v. Do đó, khách hàng sẵn lòng trả tiền cho điều này. Tất nhiên, tính bền vững và quy mô của việc thanh toán phụ thuộc vào khả năng của mạng Mira trong việc liên tục mang lại giá trị cho khách hàng. Để ngăn chặn hành vi trục lợi từ phản hồi ngẫu nhiên của các nút, các nút liên tục lệch khỏi sự đồng thuận sẽ bị giảm số mã thông báo đã đặt cọc.

Tổng thể, Mira cung cấp một giải pháp mới để đạt được độ tin cậy của AI. Nó xây dựng một mạng lưới xác thực đồng thuận phi tập trung dựa trên nhiều mô hình AI, mang lại độ tin cậy cao hơn cho dịch vụ AI của khách hàng, giảm thiểu thiên kiến và ảo giác của AI, đáp ứng nhu cầu của khách hàng về độ chính xác và tỷ lệ chính xác cao hơn. Đồng thời, trên cơ sở cung cấp giá trị cho khách hàng, nó mang lại lợi ích cho những người tham gia mạng lưới Mira. Nói tóm lại, Mira cố gắng xây dựng một lớp tin cậy cho AI, điều này sẽ thúc đẩy sự phát triển sâu rộng của các ứng dụng AI.

Hiện tại, người dùng có thể tham gia vào mạng thử nghiệm công khai Mira thông qua việc sử dụng Klok. Klok là ứng dụng trò chuyện LLM dựa trên Mira, người dùng có thể trải nghiệm đầu ra AI đã được xác minh và có cơ hội kiếm điểm Mira. Về mục đích sử dụng trong tương lai của những điểm này, hiện vẫn chưa được công bố.