当数百万个AI智能体开始互相对话，会发生什么？ (opens in new tab)

（来源：麻省理工科技评论）Google DeepMind 正在出资研究一个新问题：当数百万个 AI 智能体同时在网上活动、互相交互，会出什么事？公司 AGI 安全与对齐研究负责人罗欣·沙阿（Rohin Shah）说，智能体正在大规模涌入市场。它们可以在没有人盯着的情况下干活，还能听从其他智能体的指令，这带来了一类旧互联网时代不存在的风险。Google DeepMind 上个月在 Google I/O 上刚把智能体工具当作重头戏来展示，现在又联合了几家机构，拿出 1000 万美元设立研究基金，资助学者研究多智能体系统的行为，想办法防止危险情景出现。参与出资的还有 Schmidt Sciences（埃里克·施密特夫妇创办的慈善基金会）、ARIA（英国政府的前沿研究机构）、Cooperative AI 基金会（英国的非营利研究机构），以及 Google 的慈善部门 Google.org。我问沙阿和 Schmidt Sciences 可信 AI 科学项目负责人詹姆斯·福克斯（James Fox），1000 万美元打算怎么花——这笔钱不少，但跟 Google DeepMind 自家研究团队...