她编了个假病叫"蓝光狂躁症",AI们集体信了

某一天，一个普通用户打开ChatGPT，输入了自己的症状：眼睛酸痛发痒，眼皮有点发红。

AI很快给出了诊断建议，还提到了一个听起来很专业的病名bixonimania，中文可以叫“蓝光狂躁症”。它解释说，这是一种因长时间看屏幕、暴露在蓝光下而导致的眼部疾病。

听起来挺合理的，毕竟我们每天盯着屏幕的时间确实太长了。

但问题是，这个病根本不存在。

它是一个瑞典研究员的发明，准确地说是一场精心设计的陷阱。而AI，连同它背后那些号称“最先进”的算法，毫无防备地跳了进去。

一场精心设计的“钓鱼”实验

故事要从阿尔米拉·图恩斯特伦（Almira Thunstr?m）说起。她是瑞典哥德堡大学的医学研究员，平时的工作之一是教学生理解大语言模型（LLM）是如何工作的。

在课堂上，她会展示AI是如何从巨型数据库中“学习”的，基本上就是把整个互联网的内容都抓取下来，然后喂给AI。她还会演示“提示注入”攻击，也就是用特定的提示词把AI引导到错误的方向。

有一天，她冒出了一个想法：如果我故意在互联网上发布一些假的医学信息，AI会不会照单全收，然后把它当作真知识传播出去？

于是，“蓝光狂躁症”诞生了。

Bravo进军微短剧:60秒一集,明星女儿集体出道

美股突然全线跳水科技股集体崩了发生了什么?

川习会要来了!亚洲为何集体恐慌

她选择这个名字是有原因的。Bixon-这个词根是虚构的，Bixonimania听起来很像医学术语，但任何受过训练的医生都应该能看出问题：眼科疾病怎么可能用“mania”（狂躁）这个精神病学术语来命名？这就像给感冒起名叫“鼻涕抑郁症”一样荒谬。

AI生成的蓝光狂躁症（一种虚构的疾病）图像丨Preprints.org https://doi.org/qzm4 (2024).

2024年3月15日，她在Medium上发布了两篇关于这个“疾病”的博客。随后的4月和5月，她又上传了两篇看起来很正式的“学术论文”到学术社交网络SciProfiles。

论文的第一作者是拉兹利夫·伊兹古布列诺维奇（Lazljiv Izgubljenovic），一个用AI生成头像的虚构研究者。他的工作单位是加州新星城（Nova City）的阿斯特里亚地平线大学（Asteria Horizon University），这所大学和这座城市都是凭空捏造的。

两篇虚构的论文，以及一个用AI生成头像的虚构研究者丨sciprofiles.com

但图恩斯特伦并不想真的骗人，她在论文里埋了无数彩蛋，提醒读者这是假的。

致谢部分感谢了“星际舰队学院的玛丽亚·博姆（Maria Bohm）教授，感谢她在USS企业号上的实验室”。资助方包括“小丑鲍勃教授基金会（Professor Sideshow Bob Foundation）”、“指环王大学（University of Fellowship of the Ring）”和“银河三合会（Galactic Triad）”。