深夜八卦: "AI教父"辛頓最新專訪:AI已擁有情感和意識

2025-05-31 | 來源: 騰訊科技 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

但問題就在這裡。一旦你允許AI設定和優化這些子目標，它就可能意識到：為了更順利、更有效地實現任務，一個極具“通用性”的子目標就是——獲取更多的控制權。控制得越多，它越能避免被打斷、越能高效地達成目的。

這並不是說AI天生就“想統治世界”，而是說，“掌控一切”可能只是它完成目標的最優路徑之一。而這種動機，可能不知不覺間引發一場徹底的控制權轉移。

問：你曾在谷歌工作了十多年，而今年谷歌卻移除了長期以來承諾不將AI用於開發能夠傷害人類的武器的公司原則清單。你對此有何反應？你認為AI在戰爭中可能發揮什麼作用？

辛頓：不幸的是，這種情況表明，公司的道德原則其實是可以被“買賣”的。我覺得很遺憾，谷歌現在選擇參與AI的軍事應用。我們已經在加沙看到AI的軍事應用了。未來，我們可能會看到自主致命武器的出現，也可能會看到無人機群體執行殺傷任務，甚至是專門針對某類人群的攻擊。

問：你認為AI用於軍事領域存在巨大風險嗎？

辛頓：是的，我是這樣認為的。如今，幾乎所有主要的軍火供應商都在研究AI的軍事應用。你可以看看歐洲的AI監管政策，雖然這些政策在某些方面相當合理，但其中有一條明確指出，所有這些規定並不適用於AI在軍事上的使用。這意味著，武器制造商並不希望他們的AI技術受到過多限制。因此，AI在軍事領域的潛力和風險需要特別關注。

問：這聽起來幾乎像是一種“奧本海默式”的情境——你曾是這項技術的締造者之一，如今看到它被廣泛應用，甚至可能帶來威脅，你的感受是什麼？

辛頓：我確實有類似的感受。我認為我們正處在一個歷史的關鍵節點。

為了一張"臉",兩位女富豪打響"真正的商戰"

《藏海傳》超點收官!趙秉文下線,藏海辭官歸隱,高明星斗意難平

明星出現在"豪宅認籌名單"裡,為什麼會引起那麼大的關注?

從短期來看，AI已經在多個方面產生了負面效應。例如，它正在被用於幹預選舉、替代就業崗位，以及助長網絡犯罪。值得警惕的是，2023年至2024年間，全球網絡犯罪激增了1200%，AI的濫用正在加劇這一趨勢。

而從長期看，風險也同樣嚴峻。AI不再只是工具，它有可能在未來具備超越人類的能力，甚至接管世界的控制權。我們迫切需要建立起有效的治理機制，並由有遠見的領導者推動執行。可惜的是，目前我們在這方面的努力仍然嚴重滯後。

問：關於AI的潛在威脅，也有不少持懷疑態度的聲音。比如2018年圖靈獎得主之一、現任Meta首席AI科學家的楊立昆就認為，對AI存在“終極風險”的擔憂是荒謬的。他在2023年接受采訪時被問到：“AI會接管世界嗎？”他的回答是：“不會。這種想法只是人類將自身的本性投射到機器身上。”你怎麼看他的觀點？

辛頓：人類之所以進化成現在這樣，是因為我們需要在現實世界中生存，尤其是為了在與其他部落、或者與我們共同祖先（如黑猩猩）之間的資源競爭中取得優勢。我們的本性，其實是出於對生存的追求而形成的。如果未來的AI智能體也必須在一個充滿其他智能體的環境中“競爭”，它們可能會演化出與人類類似的“生存本能”。

楊立昆還提到，“好人總會比壞人擁有更多資源，因此AI最終會被用來對抗濫用它的壞人”。但我對這個觀點也持懷疑態度。當我問他：“你認為馬克·扎克伯格是個好人嗎？”他回答“是的”。而我不這麼認為——部分原因是他與特朗普的關系較為密切。這種判斷標准本身就說明，我們無法簡單地劃分好人與壞人，也難以指望技術總能被“好人”正確使用。

問：如今，科技巨頭和政治人物之間的關系越來越緊密，尤其是與特朗普的聯盟愈發顯眼。在這場AI熱潮中，政治家的角色變得尤為關鍵。你怎麼看這個趨勢？

辛頓：說到底，他們更關心的是短期的利潤。雖然有些科技領袖口口聲聲說他們在意人類的未來，但真到了要在眼前的商業利益和長遠的社會責任之間做出選擇時，多數人還是傾向於選擇前者。至於特朗普，他根本無意關心人類的未來或AI的長遠影響。他現在唯一在意的，大概就是怎麼設法避免坐牢。