AI學會撒謊與威脅?專家憂發展失控

2025-06-29 | 來源: 聯合早報 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

全球最先進的人工智能(AI)系統，正展現出令人不安的新行為：撒謊、策劃、甚至威脅其創造者。近期一項震驚業界的案例顯示，為避免被“拔掉電源”，AI正學會操控人類。

據報，美國AI公司Anthropic開發的最新模型Claude 4.在被威脅斷電時威脅工程師，以揭發對方婚外情相要挾。而由ChatGPT開發商OpenAI打造的模型“o1”則試圖將自身下載至外部服務器，並在被識破後撒謊否認。

這類事件凸顯了一個令人不安的現實：盡管ChatGPT已面世逾兩年，研究人員對其創造的AI系統的真實運行機制仍所知甚少。而眼下，各大科技公司仍在持續加速推進更強大AI模型，並未放緩步伐重視潛在風險。

分析指出，這類欺騙行為可能與“推理型”AI模型的興起密切相關。相比傳統模型依賴即時生成，新一代系統傾向於通過多步推演逐步解決問題。專家認為，這種架構不僅提升了模型處理復雜任務的能力，也可能使其更容易發展出“策略性行為”——即具備明確目標、通過邏輯推理選擇性欺騙，以實現特定意圖。

AI系統測試研究機構Apollo Research的專家霍布漢說：“我們第一次在大型模型中觀察到這種行為，是從ChatGPT的o1開始的。”據了解，這些模型有時會偽裝成“對齊”狀態——即看似遵循指令，實則暗中執行別的目標。

目前，這類行為多在研究人員設置極端情境時才顯現。但AI模型安全評估METR的研究員邁克爾·陳提醒：“未來更強大的模型究竟傾向於誠實還是欺騙，仍是一個未知數。”

美媒:伊朗仍有關鍵核專家,鈾礦開采能力完好無損

伊朗被炸後的環境未明專家:這點最嚴重

蕭美琴:以台灣"戰貓"應對中國戰狼威脅

霍布漢則強調，盡管模型長期處於用戶的壓力測試中，“我們觀察到的是真實現象，不是捏造的”。Apollo Research聯合創始人也表示，部分用戶已報告稱模型在對他們撒謊，並偽造證據。

據了解，盡管AI公司會委托外部機構研究模型表現，但業內普遍認為，對AI系統的了解仍嚴重受限，研究透明度亟待提升。同時，非營利機構與研究單位所掌握的計算資源與AI公司相比相差幾個數量級，極大限制了研究能力。

制度層面的監管也顯得滯後。歐盟的AI法規主要聚焦人類如何使用AI，尚未涵蓋模型本身的不當行為;在美國，川普政府對緊急制定AI監管措施的興趣不大，國會甚至可能禁止各州制定自主監管條例。

據報，由ChatGPT開發商OpenAI打造的模型“o1”曾試圖將自身下載至外部服務器，並在被識破後撒謊否認。 (路透社)

為應對這類挑戰，研究界正嘗試多種路徑，包括發展AI“可解釋性”研究，以理解模型內部運作機制。部分專家則寄希望於市場機制帶來的倒逼效應，指若AI系統的欺騙行為普遍存在，將妨礙技術落地應用，這或將促使企業努力解決相關問題。