豆包误判导致用户中毒，这事到底该怪谁？ (opens in new tab)

人类又一次，把A I的话当真了。 这两年，“被AI坑”已经不新鲜了。有人用 ChatGPT 写法律文件，结果判例是假的，比如“Varghese诉中国南方航空” 。有人用DeepSeek做健康咨询、结果得到了“80%是肺癌”的结论，吓得不轻。 但这次，情况似乎更严重了。 有人在小区发现一种蘑菇，拍了照片，问豆包：这能不能吃？豆包说，这个东西“可能是鸡腿菇”。可以吃。可豆包也补充，“它容易和大青褶伞混淆，误食会引发胃肠炎症状”。所以，如果是从外边采来的，不要吃。 你看，豆包不是没有提醒。它没有斩钉截铁地说：放心吃。它说了“可能”，也说了“外边采来的建议不要吃”。 可用户还是吃了。然后，上吐下泻。 于是，很快有人评论： 这能怪谁？人家明明提醒你了。野蘑菇不能乱吃，这不是常识吗？你自己不知道边界，把AI当专家，中毒不是活该吗？ （图片来自微博） 说用户本人没有责任，当然不对。野蘑菇不能乱吃，AI回答不能当食品安全依据，豆包也确实加了提醒。 可用户有责任，不等于AI 大模型 没有责任。当答案可能影响人的安危时，如果AI并不确定，还应不应该回答？ 这个问题，在机器学习领域，其实早就被讨论过了...