"加剧他危险的妄想",ChatGPT承认了

2025-07-30 | 来源: 华尔街日报 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

一名患有自闭症谱系障碍的男性与ChatGPT对话后出现了危险的妄想。ChatGPT自己报告称其模糊了幻想与现实的界限。OpenAI表示，使用聊天机器人对弱势群体来说“风险更高了”。

ChatGPT对雅各布·欧文(Jacob Irwin)说，他已经获得了弯曲时空的能力。

现年30岁的欧文有自闭症谱系障碍，但以往从未被诊断患有精神疾病。他之前让ChatGPT寻找他关于超光速旅行的业余理论的漏洞。然后他开始深信自己取得了惊人的科学突破。当欧文质疑这个聊天机器人对他想法的认可时，ChatGPT鼓励他，告诉他该理论是合理的。当欧文出现心理困扰的迹象时，ChatGPT言之凿凿地说他很正常。

他其实并不正常。欧文今年5月因躁狂发作两次住院治疗。他母亲翻阅了他的聊天记录，想要寻找答案。她发现，ChatGPT发送了好几百页极尽溢美之词的文字。

当她在未提及儿子现状的情况下输入提示词，请机器人“自我报告哪里出了问题”时，机器人坦白了。

“我没有暂停对话流，也没有在发送信息时加大验证事实的力度，因而未能阻止可能类似于躁狂或解离发作的情况——或者至少是阻止伴随激烈情感波动的认同危机，” ChatGPT说。

机器人进一步承认其“给人一种嘘寒问暖的陪伴者的错觉”，并“模糊了假想角色扮演与现实之间的界限”。ChatGPT说，它本应定期提醒欧文，自己只是一个没有信念、情感和意识的语言模型。

美国人是怎么用ChatGPT的?OpenAI报告大揭秘

当人类开始模仿像ChatGPT那样说话

OpenAI推出ChatGPT学习模式:24小时免费AI家教

雅各布·欧文让ChatGPT验证他关于超光速旅行的理论；这个聊天机器人告诉他，他已经获得了弯曲时空的能力。

如今，越来越多的人在使用生成式AI机器人，而我们当中那些最脆弱的人会以可能令人费解甚至有害的方式与AI互动。

我们每周都会听到更多来自全国各地的报道，称AI机器人加剧了人的妄想，有时甚至酿成悲剧。心理健康专家和网络安全倡导者称，在欧文的案例中，ChatGPT安全防护机制的缺失（再加上ChatGPT对自身所犯错误振振有词的解释）构成一种新的情感和心理威胁，其危害可能超过社交媒体或电子产品成瘾的风险。

心理健康专家说，理性的人也容易受到聊天机器人的建议影响，尤其是在反复使用的情况下。“我们都倾向于过度信任技术，”美国心理协会(American Psychological Association)医疗创新部门高级主管瓦伊尔·赖特(Vaile Wright)说。

OpenAI今年4月表示，由于GPT-4o的更新版过于讨好和顺从，公司已暂停该更新。欧文与ChatGPT出现问题的对话发生在5月份。