Уровень доверия ИИ: как сеть Mira решает проблемы предвзятости и галлюцинаций ИИ

На днях была запущена бета-версия сети под названием Mira, что привлекло внимание в отрасли. Цель этого проекта заключается в создании уровня доверия к ИИ для решения проблем предвзятости и иллюзий ИИ. Так почему же ИИ нужно доверять? Как Mira решает эту проблему?

При обсуждении ИИ люди часто больше сосредоточены на его мощных способностях. Однако проблема "галлюцинаций" или предвзятости ИИ часто игнорируется. Так называемые "галлюцинации" ИИ, проще говоря, это когда ИИ иногда "выдумывает" и говорит чепуху. Например, если вы спросите ИИ, почему луна розовая, он может с серьёзным видом привести кучу, казалось бы, разумных объяснений.

Появление "галлюцинаций" или предвзятости у ИИ связано с текущими направлениями некоторых технологий ИИ. Например, генеративный ИИ достигает согласованности и разумности, предсказывая "наиболее вероятное" содержание, но иногда не может проверить подлинность. Кроме того, сами обучающие данные могут содержать ошибки, предвзятости или даже вымышленные данные, что может повлиять на выводы ИИ. Другими словами, ИИ учится языковым паттернам человечества, а не самим фактам.

Текущий механизм генерации вероятностей в сочетании с данными, основанными на модели, почти неизбежно приведёт к тому, что ИИ будет создавать иллюзии. Если такие предвзятые или иллюзорные выводы ограничиваются общими знаниями или развлекательным контентом, это временно не приведет к непосредственным последствиям. Но если это произойдёт в таких областях, как медицина, право, авиация, финансы, где требуется высокая строгость, это может иметь серьезные последствия. Поэтому решение проблем иллюзий и предвзятости ИИ становится одной из ключевых задач в процессе развития ИИ.

Проект Mira именно и направлен на решение этой проблемы, создавая уровень доверия для ИИ, чтобы уменьшить предвзятость и заблуждения ИИ, увеличивая его надежность. Так как же Mira достигает этой цели?

Основная стратегия Mira заключается в проверке вывода ИИ с помощью консенсуса нескольких ИИ-моделей. По сути, это сеть верификации, которая использует консенсус нескольких ИИ-моделей для проверки надежности вывода ИИ. Более того, Mira использует децентрализованный метод проверки консенсуса.

Ключевым моментом сети Mira является децентрализованная проверка консенсуса. Этот подход не только использует преимущества криптографии, но и использует преимущества многомодельного сотрудничества, уменьшая предвзятость и иллюзии через коллективную модель верификации.

В отношении архитектуры верификации протокол Mira поддерживает преобразование сложного контента в независимые проверяемые утверждения. Эти утверждения требуют участия операторов узлов для верификации. Чтобы обеспечить честность операторов узлов, Mira применяет механизмы криптоэкономических стимулов/наказаний, одновременно вводя различные модели ИИ и распределенных операторов узлов для обеспечения надежности результатов верификации.

Сетевая архитектура Mira включает три части: преобразование контента, распределенная валидация и механизм консенсуса, что обеспечивает надежность проверки. В этой архитектуре преобразование контента является важным элементом. Сеть Mira сначала разбивает кандидатный контент на различные проверяемые утверждения, которые система распределяет между узлами для валидации, чтобы определить их действительность, и сводит результаты для достижения консенсуса. Для защиты конфиденциальности клиентов преобразование кандидатного контента разбивается на пары утверждений, которые случайным образом распределяются между различными узлами, чтобы предотвратить утечку информации в процессе валидации.

Операторы узлов отвечают за выполнение модели валидатора, обработку заявок и представление результатов валидации. Их мотивация участвовать в валидации заявок заключается в возможности получения дохода. Эти доходы происходят от создаваемой для клиентов ценности. Цель сети Mira состоит в снижении уровня ошибок ИИ (галлюцинации и предвзятости), и как только эта цель будет достигнута, это может принести огромную ценность в таких областях, как медицина, право, авиация и финансы. Поэтому клиенты готовы за это платить. Конечно, устойчивость и масштабируемость оплаты зависят от того, сможет ли сеть Mira продолжать приносить ценность клиентам. Чтобы предотвратить спекулятивное поведение узлов с произвольными ответами, узлы, которые постоянно отклоняются от консенсуса, будут лишены залоговых токенов.

В общем, Mira предлагает новый подход к обеспечению надежности ИИ. Она строит децентрализованную сеть проверки консенсуса на основе нескольких моделей ИИ, что обеспечивает более высокую надежность ИИ-сервисов для клиентов, снижая предвзятость и иллюзии ИИ, удовлетворяя потребности клиентов в более высокой точности и прецизионности. В то же время, на основе предоставления ценности клиентам, она приносит доход участникам сети Mira. Короче говоря, Mira пытается создать уровень доверия к ИИ, что будет способствовать углубленному развитию приложений ИИ.

В настоящее время пользователи могут участвовать в публичной тестовой сети Mira, используя Klok. Klok — это LLM-чат-приложение на базе Mira, которое позволяет пользователям испытать проверенный вывод ИИ и получить возможность заработать баллы Mira. Что касается будущего использования этих баллов, то пока что информации не опубликовано.