Manus отримав результати SOTA в GAIA бенчмарку, що викликало обговорення шляхів розвитку ШІ

Manus продемонстрував видатну продуктивність у бенчмарку GAIA, перевершивши моделі того ж рівня. Це означає, що він може самостійно обробляти складні завдання, такі як міжнародні ділові переговори, які включають аналіз умов контракту, розробку стратегій та генерування пропозицій. Перевага Manus полягає в його динамічному розподілі цілей, крос-модальному мисленні та посиленому навчанні з пам'яттю. Він може розбити великі завдання на сотні виконуваних підзавдань, одночасно обробляючи кілька типів даних і постійно покращуючи ефективність прийняття рішень та знижуючи рівень помилок за допомогою навчання з підкріпленням.

Прорив Manus знову викликав обговорення в сфері штучного інтелекту щодо шляхів майбутнього розвитку: чи слідувати домінуванню загального штучного інтелекту (AGI), чи співпрацювати в системах з багатьма агентами (MAS)?

Дизайнерська концепція Manus містить дві можливості:

1. Шлях AGI: шляхом постійного підвищення рівня одиничного інтелекту, наближаючи його до загальної здатності прийняття рішень людиною.

2. MAS шлях: як суперкоординатор, керує співпрацею численних агентів у вертикальних сферах.

Ця дискусія насправді торкається основних питань розвитку ШІ: як досягти балансу між ефективністю та безпекою? Оскільки одиничний інтелект все більше наближається до AGI, ризик непрозорості його процесу прийняття рішень також зростає; хоча співпраця багатьох агентів може розподілити ризики, затримка зв'язку може призвести до втрати ключових моментів для прийняття рішень.

Прогрес Manus також підкреслює притаманні ризики розвитку ШІ. Наприклад, у медичних ситуаціях Manus потрібно в реальному часі отримувати доступ до чутливих даних пацієнтів; у фінансових переговорах можуть бути залучені непублічна інформація компаній. Крім того, існує проблема алгоритмічної упередженості, наприклад, у переговорах з найму це може призвести до несправедливих пропозицій зарплати для певних груп, або в юридичному перегляді контрактів до високої ймовірності помилок при оцінці умов нових галузей. Іншим потенційним ризиком є атакувальна агресія, наприклад, хакери можуть впроваджувати певні звукові сигнали, щоб порушити оцінку Manus під час переговорів.

Ці виклики підкреслюють одне ключове питання: чим розумніше AI-системи, тим ширша їх потенційна площа атаки.

У сфері Web3 безпека завжди була основною проблемою. На основі цієї ідеї виникло кілька видів шифрування:

1. Модель нульової довіри в безпеці: підкреслює необхідність сувірної автентифікації та авторизації кожного запиту на доступ.

2. Децентралізована ідентичність (DID): реалізувала нову децентралізовану модель цифрової ідентичності.

3. Повна гомоморфна криптографія (FHE): дозволяє виконувати обчислення над зашифрованими даними без їх розшифрування.

Серед них повна гомоморфна криптографія вважається потужним інструментом для вирішення проблем безпеки в епоху ШІ. Вона дозволяє виконувати обчислення на зашифрованих даних, забезпечуючи нові можливості для захисту конфіденційності.

У вирішенні проблем безпеки AI, FHE може відігравати роль на кількох рівнях:

• Дані: Уся інформація, введена користувачем, обробляється в зашифрованому вигляді, навіть сама система ШІ не може розшифрувати оригінальні дані.

• Алгоритмічна сторона: реалізація "шифрованого навчання моделей" через FHE, що гарантує, що процес прийняття рішень AI не буде підглянутий.

• Співпраця: Комунікація між кількома агентами здійснюється за допомогою порогового шифрування, щоб запобігти витоку глобальних даних через єдину точку.

Хоча технології безпеки Web3 наразі можуть бути далекими від звичайних користувачів, їх важливість не можна ігнорувати. У цій складній сфері лише постійне зміцнення захисту може запобігти тому, щоб стати потенційною жертвою.

З розвитком технологій ШІ, які поступово наближаються до рівня людського інтелекту, нетрадиційні системи захисту стають дедалі важливішими. FHE не лише може вирішити поточні проблеми безпеки, але й закладає основу для епохи потужного ШІ в майбутньому. На шляху до AGI FHE перетворилася з опційного рішення на життєво необхідне.