Довірчий рівень ШІ: як мережа Mira вирішує проблеми упередженості та ілюзій ШІ

Нещодавно було представлено мережеву публічну бета-версію під назвою Mira, яка привернула увагу галузі. Метою цього проекту є створення рівня довіри до ШІ для вирішення проблем упередженості та ілюзій у ШІ. Отже, чому ШІ потрібно довіряти? Як Mira вирішує цю проблему?

При обговоренні ШІ люди часто більше зосереджуються на його потужних можливостях. Проте проблема "ілюзій" або упереджень ШІ часто залишається поза увагою. Що таке "ілюзія" ШІ, простими словами, це те, що іноді ШІ може "вигадувати", серйозно брешучи. Наприклад, якщо ви запитаєте ШІ, чому місяць рожевий, він може з усією серйозністю запропонувати купу на перший погляд розумних пояснень.

Поява "галюцинацій" або упереджень у ШІ пов'язана з деякими сучасними технологічними шляхами ШІ. Наприклад, генеративний ШІ досягає зв'язності та раціональності, прогнозуючи "найімовірніший" контент, але іноді не може перевірити його правдивість. Крім того, самі навчальні дані можуть містити помилки, упередження або навіть вигадані матеріали, що вплине на вихідні дані ШІ. Іншими словами, ШІ вивчає мовні шаблони людей, а не самі факти.

Поточний механізм генерації ймовірностей разом із даними, що ґрунтуються на моделі, майже неминуче призводить до того, що ШІ створює ілюзії. Якщо такі упереджені або ілюзорні результати обмежуються загальними знаннями або розважальним контентом, це тимчасово не призведе до прямих наслідків. Але якщо це станеться в таких сферах, як медицина, право, авіація, фінанси, де потрібна висока точність, це може мати суттєвий вплив. Тому вирішення проблеми ілюзій та упереджень ШІ стає одним із ключових питань у процесі розвитку ШІ.

Проект Mira саме прагне вирішити цю проблему, створюючи шар довіри для ШІ, щоб зменшити упередженість і ілюзії ШІ, підвищуючи надійність ШІ. Отже, як Mira досягає цієї мети?

Основна стратегія Mira полягає в перевірці виходу AI через консенсус кількох AI моделей. Це по суті є мережею верифікації, яка використовує консенсус кількох AI моделей для перевірки надійності виходу AI. Що більш важливо, Mira використовує децентралізований спосіб верифікації консенсусу.

Ключовим аспектом мережі Mira є децентралізована верифікація консенсусу. Цей підхід не лише використовує переваги криптографічної сфери, але й скористується перевагами багатомодельної кооперації, зменшуючи упередження та ілюзії за допомогою колективної моделі верифікації.

У контексті верифікаційної архітектури протокол Mira підтримує перетворення складного контенту на незалежні верифіковані заяви. Ці заяви вимагають участі операторів вузлів у верифікації. Щоб забезпечити добросовісність операторів вузлів, Mira використовує механізм криптоекономічних стимулів/покарань, одночасно залучаючи різні AI моделі та децентралізованих операторів вузлів для гарантії надійності результатів верифікації.

Мережна архітектура Mira складається з трьох частин: перетворення контенту, розподілене підтвердження та механізм консенсусу, щоб забезпечити надійність підтвердження. У цій архітектурі перетворення контенту є важливою складовою. Мережа Mira спочатку розділяє кандидатський контент на різні підтверджувані заяви, які система розподіляє між вузлами для підтвердження, щоб визначити дійсність заяви, а потім узагальнює результати досягнення консенсусу. Щоб захистити конфіденційність клієнтів, кандидатський контент перетворюється на пари заяв, які випадковим чином передаються різним вузлам, щоб запобігти витоку інформації під час процесу підтвердження.

Оператори вузлів відповідають за запуск моделей верифікаторів, обробку заявок та подання результатів верифікації. Їхній інтерес до верифікації заявок походить з можливості отримання прибутку. Ці прибутки походять від створення вартості для клієнтів. Мета мережі Mira полягає у зниженні рівня помилок штучного інтелекту (галюцинації та упередженості), і як тільки ця мета буде досягнута, вона зможе принести величезну цінність у таких сферах, як медицина, право, авіація, фінанси тощо. Тому клієнти готові за це платити. Звичайно, сталість і масштаб оплати залежать від того, чи може мережа Mira продовжувати приносити цінність клієнтам. Щоб запобігти спекулятивній поведінці випадкових відповідей вузлів, вузли, які постійно відхиляються від консенсусу, будуть зменшувати свою заставну токен.

В цілому, Mira пропонує новий підхід до забезпечення надійності ШІ. Вона будує децентралізовану мережу верифікації консенсусу на основі кількох моделей ШІ, що забезпечує вищу надійність для AI-сервісів клієнтів, зменшує упередженість та ілюзії ШІ, задовольняючи потреби клієнтів у вищій точності та чіткості. Одночасно, забезпечуючи цінність для клієнтів, вона приносить прибуток учасникам мережі Mira. Коротше кажучи, Mira намагається побудувати рівень довіри до ШІ, що сприятиме глибшому розвитку застосувань ШІ.

На даний момент користувачі можуть брати участь у публічній тестовій мережі Mira, використовуючи Klok. Klok є LLM чат-додатком на базі Mira, де користувачі можуть випробувати перевірене AI-виходи та отримати можливість заробити бали Mira. Щодо майбутнього використання цих балів, наразі інформація не оприлюднена.