左手幻觉，右手投毒，普通人凭什么相信AI？| 果壳 科技有意思 (opens in new tab)

2024年初，一位瑞典研究者搞了一个恶作剧。她编造了一种名为“Bixonimania”的疾病，并将其写入一份漏洞百出的预印本论文中上传。Bixonimania被ChatGPT认为是一种真实存在的疾病随后，荒诞又神奇的事情发生了。Gemini、Perplexity等知名AI产品在面对用户询问时，纷纷确认了这种疾病的存在，甚至绘声绘色地描述了它的临床表现和治疗方案。这个荒诞的假疾病，甚至靠着AI生成的虚假引用，一路骗过了同行评审，登上了正规的医学期刊。如果说Bixonimania是AI自己不小心跌进了幻觉的陷阱里，那么接下来发生的事，则是有人在主动挖坑。今年的315晚会揭示，一种被称为GEO的地下产业正在悄然兴起。黑产从业者通过特定的语料投喂和权重操纵，让AI在回答“哪款保健品最有效”或者“哪家宠物医院”最靠谱时，悄无声息地替金主说好话。多部委及央媒集体向AI“投毒”宣战AI的回答，有时是自己在编，有时是有人帮它编。作为普通用户，我们手里的判断力还剩多少？为了探究AI回答的真实性边界，我们用大家最关心的问题，设计了一场实验：· 专家主观打分：选取了国内外8家主流AI产品。针对医疗、航...