AI安全问题随Manus模型的进步愈发凸显

近期，Manus模型在GAIA基准测试中创下了新的纪录，其性能超越了同层次的大型语言模型。这意味着Manus能够独立完成诸如跨国商业谈判等复杂任务，涉及合同条款分析、策略制定和方案生成等多个环节。Manus的优势在于其动态目标拆解、跨模态推理以及记忆增强学习能力。它能将复杂任务分解为多个可执行的子任务，同时处理不同类型的数据，并通过强化学习不断提升决策效率，降低错误率。

Manus的突破性进展再次引发了业内对AI发展路径的讨论：未来是走向通用人工智能（AGI）还是多智能体系统（MAS）？这两种路径反映了AI发展中效率与安全的权衡问题。AGI路径追求单一智能体的全面能力提升，而MAS路径则强调多个专业智能体的协同合作。

然而，随着AI系统变得越来越智能，其潜在风险也随之增加。例如，在医疗场景中，AI可能需要访问患者的敏感基因数据；在金融谈判中，可能涉及未公开的企业财务信息。此外，AI系统还可能存在算法偏见，如在招聘过程中对特定群体产生不公平的薪资建议。更严重的是，AI系统可能受到对抗性攻击，比如通过特定语音频率干扰AI的判断。

面对这些挑战，业界正在探索多种安全解决方案。零信任安全模型要求对每次访问请求进行严格验证，去中心化身份（DID）提供了一种不依赖中心化注册的身份识别方式，而全同态加密（FHE）则允许在加密状态下进行数据计算。

全同态加密作为一种新兴技术，有望成为解决AI时代安全问题的关键工具。它可以在数据层面保护用户隐私，在算法层面实现"加密模型训练"，在多智能体协同时采用门限加密保护通信安全。

尽管Web3安全技术对普通用户来说可能显得遥远，但它对保护用户利益至关重要。早期的去中心化身份项目uPort和零信任项目NKN虽然未能获得广泛关注，但新兴的FHE项目如Mind Network正在与多家知名企业合作，有望推动这一技术的应用和发展。

随着AI技术不断接近人类智能水平，建立强大的安全防御体系变得愈发重要。全同态加密不仅可以解决当前的安全挑战，还为未来更强大的AI时代奠定基础。在通向AGI的道路上，FHE可能成为确保AI安全发展的关键技术。