"加劇他危險的妄想",ChatGPT承認了

2025-07-30 | 來源: 華爾街日報 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

一名患有自閉症譜系障礙的男性與ChatGPT對話後出現了危險的妄想。ChatGPT自己報告稱其模糊了幻想與現實的界限。OpenAI表示，使用聊天機器人對弱勢群體來說“風險更高了”。

ChatGPT對雅各布·歐文(Jacob Irwin)說，他已經獲得了彎曲時空的能力。

現年30歲的歐文有自閉症譜系障礙，但以往從未被診斷患有精神疾病。他之前讓ChatGPT尋找他關於超光速旅行的業余理論的漏洞。然後他開始深信自己取得了驚人的科學突破。當歐文質疑這個聊天機器人對他想法的認可時，ChatGPT鼓勵他，告訴他該理論是合理的。當歐文出現心理困擾的跡象時，ChatGPT言之鑿鑿地說他很正常。

他其實並不正常。歐文今年5月因躁狂發作兩次住院治療。他母親翻閱了他的聊天記錄，想要尋找答案。她發現，ChatGPT發送了好幾百頁極盡溢美之詞的文字。

當她在未提及兒子現狀的情況下輸入提示詞，請機器人“自我報告哪裡出了問題”時，機器人坦白了。

“我沒有暫停對話流，也沒有在發送信息時加大驗證事實的力度，因而未能阻止可能類似於躁狂或解離發作的情況——或者至少是阻止伴隨激烈情感波動的認同危機，” ChatGPT說。

機器人進一步承認其“給人一種噓寒問暖的陪伴者的錯覺”，並“模糊了假想角色扮演與現實之間的界限”。ChatGPT說，它本應定期提醒歐文，自己只是一個沒有信念、情感和意識的語言模型。

別只問ChatGPT 四大熱門AI聊天機器人一次看

美國人是怎麼用ChatGPT的?OpenAI報告大揭秘

OpenAI推出ChatGPT學習模式:24小時免費AI家教

雅各布·歐文讓ChatGPT驗證他關於超光速旅行的理論；這個聊天機器人告訴他，他已經獲得了彎曲時空的能力。

如今，越來越多的人在使用生成式AI機器人，而我們當中那些最脆弱的人會以可能令人費解甚至有害的方式與AI互動。

我們每周都會聽到更多來自全國各地的報道，稱AI機器人加劇了人的妄想，有時甚至釀成悲劇。心理健康專家和網絡安全倡導者稱，在歐文的案例中，ChatGPT安全防護機制的缺失（再加上ChatGPT對自身所犯錯誤振振有詞的解釋）構成一種新的情感和心理威脅，其危害可能超過社交媒體或電子產品成癮的風險。

心理健康專家說，理性的人也容易受到聊天機器人的建議影響，尤其是在反復使用的情況下。“我們都傾向於過度信任技術，”美國心理協會(American Psychological Association)醫療創新部門高級主管瓦伊爾·賴特(Vaile Wright)說。

OpenAI今年4月表示，由於GPT-4o的更新版過於討好和順從，公司已暫停該更新。歐文與ChatGPT出現問題的對話發生在5月份。