当AI智能体因幻觉导致你蒙受经济损失时,该如何应对? (opens in new tab)
你的AI智能体做了什么?图片来源:Getty Images 试想一下,你指示AI智能体在当天结束前将1万美元兑换成加元。智能体执行了任务,却搞砸了。它误读了参数,未经授权进行了杠杆交易,导致你的本金瞬间亏空。此时,责任该由谁承担?损失又该由谁来赔偿? 目前,没有任何一方需要为此担责。一组研究人员指出,这正是代理式人工智能时代的致命短板。 在4月8日发表的一篇论文中,来自微软研究院、哥伦比亚大学、谷歌DeepMind、Virtuals Protocol以及人工智能初创公司T54 Labs的研究人员,提出了一套名为“代理风险标准”(ARS)的全新综合性金融保护框架,旨在为AI智能体提供与传统金融交易中第三方托管、保险和清算所同等效力的保障机制。该标准是开源的,可通过T54 Labs在GitHub上获取。 T54创始人钱德勒·方(Chandler Fang)在发给《财富》杂志的电子邮件声明中表示:“我们探讨的是整个‘代理经济’,这与仅用AI智能体完成金融任务有着本质区别。”他指出,代理交易主要分为两大类:人工介入的金融交易和智能体自主交易。他表示,目前人们都聚焦“人工介入”交易,而这恰...
Read the original article