AI替你通宵干活，然后让你彻夜难眠 (opens in new tab)

图片来源：Getty; nicoletaionescu 尽管萨默·岳在Meta公司的超级智能团队从事AI安全与协调工作，但她坦言，在面对自主AI智能体时，自己也难免会陷入过度自信。 今年2月，她在X平台发文描述了一次惊险经历：由她开发的可以在Mac mini电脑本地运行的自主AI智能体OpenClaw，竟无视“先暂停并确认”的指令，直接清空了她的整个收件箱。 她说：“我当时不得不冲向我的Mac mini，就像是在拆炸弹一样。”她解释称，这是一个“新手错误”。这套流程在用于安全测试的模拟收件箱里已经稳定运行了数周，但切换到真实环境，智能体却丢失了最初的指令。 萨默的经历与一些刷屏的“神话”形成了鲜明对比，比如在《龙虾革命：全天候AI智能体如何彻底改变一切》一文中，作者彼得·戴曼迪斯宣称，不间断运行的AI体验无比顺畅。 戴曼迪斯在文中分享了使用智能体的感受：“你早上醒来，你的智能体已经在你睡觉时干了八小时的工作。我的智能体叫 Skippy，嘴贫又能干，它读了上千页文档，整理了文件，草拟了三份项目计划，订好了你的行程，还研究了你昨晚11点想到却忘记的问题。” 他补充道，当他的Mac m...