深夜八卦: "AI教父"辛頓最新專訪:AI已擁有情感和意識

2025-05-31 | 來源: 騰訊科技 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

問：所以你的意思是，AI已經擁有情感了嗎？

辛頓：AI確實有可能擁有某些情感。我再次強調，我認為人類與AI在情感方面並沒有本質區別。人類情感有兩個方面：認知和生理。當我感到尷尬時，我的臉會變紅，而當AI感到尷尬時，雖然它的“臉”不會變紅，也不會大汗淋漓。但在認知行為方面，AI完全可以像我們一樣表現出情感。

問：那麼意識呢？它是某種神秘的東西，只存在於碳基生物體中，比如人類嗎？還是說，如果AI能夠發展出與人腦相似的神經復雜性，它也有可能發展出意識，意識到自己是誰？

辛頓：實際上，當你與大語言模型（LLM）對話時，它們似乎有某種程度的意識，能夠知道自己是什麼。

讓我們做一個思維實驗：假設有人取出你大腦中的一個腦細胞，用納米技術裝置將其替代，這個裝置能夠完美模擬腦細胞接收和傳遞信號的過程。你的行為不會有任何改變，因為這個納米裝置的功能和腦細胞完全一致。

那麼，你覺得自己會因此失去意識嗎？即使只有一個腦細胞被替代，你依然會認為自己是有意識的。而當你大腦中所有的腦細胞都被同樣功能的納米裝置逐一替換時，你仍然會保持有意識的感覺。

按照這種邏輯，如果AI系統能夠模擬大腦神經元的功能，那麼它們也可能擁有類似的意識。

問：那麼我們距離那個時刻還有多遠？

辛頓：關於AI是否擁有感知能力，目前存在一個頗具爭議的認知矛盾。許多人堅信AI絕對不具備感知，但當被問及“你如何定義感知”時，他們往往難以給出明確答案。簡單地用“雖然我不知道感知究竟是什麼，但AI肯定沒有”來否定AI的感知能力，實際上缺乏嚴密的邏輯支持。

特朗普天價晚宴圈了1.48億富豪大佬們卻餓肚子?

《藏海傳》超點收官!趙秉文下線,藏海辭官歸隱,高明星斗意難平

6歲割雙眼皮,7歲打美容針:整容成了必修課?

這裡有一個與意識和感知密切相關的核心概念——主觀體驗。很多人將其理解為大腦中的“內心劇場”。比如，一個喝醉的人可能會說他看見了一只粉色的小象在眼前飄動。人們通常認為，這是一種存在於他意識中的畫面。哲學家們則用“感受質”（qualia）來描述這種體驗的組成部分，比如“粉色的感受質”、“大象形狀的感受質”，認為這些感受質通過某種“膠水”粘合在一起。坦率說，我對這種解釋並不完全認同。

讓我換個角度解釋下。當一個人描述他看到那只漂浮的粉色小象時，他其實在表達三層意思：第一，他知道自己的感知系統在欺騙他；第二，他試圖向別人傳達這種欺騙的具體內容；第三，他通過假設“如果那個小象真的存在，那麼感知系統就是真實的”來解釋這種幻覺。也就是說，這些幻象的“特殊性”並不在於它們由什麼神秘物質構成，而在於它們是一種反事實存在——如果真的存在，那它們就是普通的粉色大象。

我們可以用訓練聊天機器人來驗證這個理論。假設讓AI識別物體，並在做對時給予獎勵。接著，在它鏡頭前放置棱鏡，導致光線折射，讓AI出現了物體位置偏差的錯誤。當告訴它：“物體其實在正前方，光線折射導致了偏移”時，AI會回應：“我明白了，我剛才產生了物體偏移的主觀體驗。”這個例子說明，AI不僅能理解感知失真的機制，還能夠用“主觀體驗”來描述這種認知誤差，其思考方式和人類解釋幻覺的方法極為相似。

實際上，機器與人類之間並沒有想象中那樣不可逾越的“神秘屏障”。過去我們認為人類是宇宙中心，是按照神的形象創造的特殊存在，但事實並非如此。人類沒有特別的本質，機器能夠復制我們的一切認知與行為。

AI為達目的不擇手段

不惜竊取更高控制權限

問：AI可能在哪些方面出問題？你在最近一次采訪中提到，AI徹底消滅人類的概率大約在10%到20%之間。你能具體描述一下，這種情景到底是什麼樣的？它真的像電影《終結者》那樣，是機器人接管世界嗎？

辛頓：如果AI真的接管世界，場景未必會像《終結者》等科幻電影中的場景。事實上，它可能更隱蔽、更高效，也更難以察覺的方式實現上述目標。關鍵的問題不在於它“如何”接管，而是我們是否給了它這樣做的動機。

目前，我們正在構建的是“目標導向型智能體”——也就是說，我們賦予AI一個明確的目標，它就會自主尋找實現這個目標的路徑。比如，如果你讓AI“去北半球”，它就會自動推導出一系列“子目標”：如前往機場、購買機票等等（除非你特別想坐船）。