Manus, GAIA Benchmark testinde SOTA sonuçları elde etti, AI gelişim yolu tartışmalarını tetikledi.

Manus, GAIA Benchmark testinde olağanüstü bir performans sergileyerek benzer düzeydeki büyük modelleri geride bıraktı. Bu, karmaşık görevleri bağımsız olarak işleyebilme yeteneğine sahip olduğu anlamına geliyor; uluslararası ticari müzakereleri, sözleşme şartları analizi, strateji geliştirme ve öneri oluşturma gibi birçok aşamayı içermektedir. Manus'un avantajı, dinamik hedef parçalama, çok modlu akıl yürütme ve bellek artırımlı öğrenme yeteneğidir. Büyük görevleri yüzlerce uygulanabilir alt göreve bölebilir, çeşitli veri türlerini aynı anda işleyebilir ve pekiştirmeli öğrenme ile karar verme verimliliğini sürekli artırarak hata oranını düşürebilir.

Manus'un突破ü, yapay zeka alanında gelecekteki gelişim yolları üzerine tartışmaları yeniden başlattı: genel yapay zeka (AGI) mi yoksa çoklu ajan sistemleri (MAS) iş birliği mi ön planda olacak?

Manus'un tasarım felsefesi iki olasılık içeriyor:

1. AGI Yolu: Bireysel zeka seviyesini sürekli artırarak, insanın karmaşık karar verme yeteneğine yaklaşmak.

2. MAS Yolu: Süper koordinator olarak, birçok dikey alan akıllı ajanının işbirliği içinde çalışmasını yönlendirmek.

Bu tartışma, aslında AI gelişiminin temel sorununa değiniyor: Verimlilik ile güvenlik arasında nasıl bir denge sağlanabilir? Tekil zekalar AGI'ye yaklaştıkça, karar alma süreçlerinin şeffaflık riski de artıyor; çoklu ajan işbirliği riskleri dağıtabilirken, iletişim gecikmeleri nedeniyle kritik karar anlarını kaçırma olasılığı bulunuyor.

Manus'un ilerlemesi, AI gelişimindeki doğuştan gelen riskleri de vurgulamaktadır. Örneğin, sağlık senaryolarında, Manus'un hasta hassas verilerine gerçek zamanlı erişimi gerekmektedir; finansal müzakerelerde ise, şirketlerin kamuya açıklanmamış bilgileri söz konusu olabilir. Ayrıca, algoritmik önyargı sorunları da bulunmaktadır; örneğin, işe alım müzakerelerinde belirli gruplara karşı adil olmayan maaş önerileri yapılabilir veya hukuki sözleşme incelemesinde yeni ortaya çıkan sektör şartlarının yanlış değerlendirilme oranı yüksek olabilir. Bir diğer potansiyel risk de karşıt saldırılardır; örneğin, hackerlar belirli ses sinyalleri yerleştirerek Manus'un müzakerelerdeki yargısını bozabilir.

Bu zorluklar, bir ana sorunu öne çıkarmaktadır: AI sistemleri ne kadar zeki olursa, potansiyel saldırı yüzeyi de o kadar genişler.

Web3 alanında, güvenlik her zaman temel bir endişe olmuştur. Bu anlayışa dayanarak, çeşitli şifreleme yöntemleri ortaya çıkmıştır:

1. Sıfır Güven Güvenlik Modeli: Her erişim isteği için sıkı kimlik doğrulama ve yetkilendirme vurgular.

2. Merkeziyetsiz Kimlik (DID): Yeni bir merkeziyetsiz dijital kimlik modeli gerçekleştirilmiştir.

3. Tam Eşit Homomorfik Şifreleme (FHE): Şifreli veriler üzerinde verileri çözmeden hesaplama yapmaya izin verir.

Bunlar arasında, homomorfik şifreleme, AI çağındaki güvenlik sorunlarını çözmek için güçlü bir araç olarak görülmektedir. Şifrelenmiş veriler üzerinde hesaplama yapmaya olanak tanır ve gizliliği korumak için yeni olanaklar sunar.

AI güvenlik zorluklarıyla başa çıkarken, FHE birden fazla düzeyde rol oynayabilir:

• Veri düzeyi: Kullanıcı tarafından girilen tüm bilgiler şifreli durumda işlenir, hatta AI sistemi bile orijinal veriyi çözemez.

• Algoritma düzeyi: FHE aracılığıyla "şifreli model eğitimi" gerçekleştirilerek, AI'nin karar verme sürecinin gözlemlenmesini sağlamaktadır.

• İş birliği boyutu: Birden fazla akıllı ajan arasındaki iletişim eşik şifrelemesi kullanarak gerçekleştirilir, böylece tek bir noktanın sızıntısı küresel veri sızıntısına yol açmaz.

Web3 güvenlik teknolojileri şu anda sıradan kullanıcılar için uzak görünse de, önemi göz ardı edilemez. Bu zorlu alanda, sürekli olarak korunmayı güçlendirerek potansiyel bir kurban olmaktan kaçınmak mümkündür.

Yapay zeka teknolojisi insan zekası seviyesine yaklaştıkça, geleneksel olmayan savunma sistemleri giderek daha önemli hale geliyor. FHE, mevcut güvenlik problemlerini çözmenin yanı sıra, gelecekteki güçlü yapay zeka çağının temellerini de atıyor. AGI'ye giden yolda, FHE artık bir seçenek olmaktan çıkıp hayatta kalma gereksinimi haline geldi.