人工智能專家:AI永遠是人類附屬品

2023-04-16 | 來源: 中國新聞周刊 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

現在，當人們談論通用人工智能時，承載了太多人類的情感，有時甚至是不切實際的期望和恐懼。人們必須冷靜下來，理性地把通用人工智能視作一個科學目標。

由ChatGPT和GPT-4引發的這一輪“人工智能狂潮”遠比人們最初預想的持續更久，伴隨而來的爭議與憂慮近期也在不斷發酵和上升。

圍繞爭議，人工智能專家分成兩種截然不同的派別，一種對當下以ChatGPT為代表的人工智能技術表達出深切擔憂，另一些著名的人工智能專家如Meta首席人工智能科學家楊立昆認為，暫停AI研發才會對人類科技的進步帶來巨大傷害。

回歸科學，理性對以GPT-4為代表的AI能力的邊界進行反思：它能做什麼？不能做什麼？最重要的是，人類現在必須采取什麼行動來實現“有益的AI”？

4月8日，《中國新聞周刊》就以上問題專訪了美國加州(专题)理工學院電氣工程和計算機科學教授亞瑟·阿布-穆斯塔法。他是人工智能領域的知名專家，同時也是IEEE神經網絡委員會的創始人之一，曾在多家科技公司擔任機器學習顧問。以下是記者和他的對話：

AI的應用遠比設計更復雜和危險

中國新聞周刊：此前，埃隆·馬斯克等人簽署了聯名公開信，業內形成了對人工智能發展的兩種截然不同的看法，你更認同哪方？

阿布-穆斯塔法：聯名公開信，意圖是好的，但無法起到任何實質效果，因為不會真的有公司遵守並暫停六個月的AI研發。我認為這是對人工智能“過於快速發展”的許多下意識反應之一，是一種沒有經過深思熟慮、出於沖動的行為。就我個人而言，不贊同暫停更強大AI模型的研發，現在要做的不是暫停，而是如何更好阻止對這種強大工具的“不良使用”，所以我沒有簽署公開信。

知名人工智能專家齊國君離開美國,加盟西湖大學

美國頂尖AI科學家來華執教加入清華人工智能學院

美一州使用人工智能無人機定期監察下水道

如何推動更強有力的人工智能監督？政府需要通過立法對如何“合理地使用”AI進行約束或限制，歐盟《人工智能法案》是一個開始。立法時有很多需要考慮的因素，尤其要注意的是，法案公布後能強制執行嗎？副作用是什麼？是否會產生意想不到的後果？制定法案或任何監管規則都必須經過謹慎考量，而不是短期內出於對人工智能的恐懼或為了應對想象中的風險而匆忙制定，目前為止，我還沒有看到任何提議或法案經過了深思熟慮，並且可以得到有效執行。很多人擔心人工智能將接管人類的一切，所以意大利、德國、美國等國政府做出反應，動機更多是出於“現在必須要采取一些行動，否則的話公眾會對政府不滿”。

中國新聞周刊：如何使AI真正符合人類的價值觀和道德准則？

阿布-穆斯塔法：這100％取決於AI系統的開發者和使用者。人工智能沒有內在的道德或惡意，人工智能只是服從命令，它會做人類訓練它去做的事情，如果人類給它的是充滿偏見的數據，就會誕生一個充滿偏見的AI，因此OpenAI需要不斷調整，選擇一些好的數據或者讓ChatGPT不回答惡意的問題。但解決這個問題的復雜之處在於，即使開發者把整個AI系統設計的很“符合人類價值觀”，仍會有非常多元的用戶從不同角度使用它，這是開發者控制不了的。因此，AI應用遠比設計更復雜和危險，人類可以用良好的意圖去設計“好的AI”，然後有一個用戶從一個好的角度去使用它，最後卻讓AI變得很糟糕。

因為在人類社會中，好和壞的標准是非常不明確的。如果你去訓練一個AI下棋，比如AlphaGo，規則是明確的，AI經過訓練後很清楚如何界定“好的行為”，只要能贏就是一步好棋，在這裡，贏是客觀的，可以讓AI系統通過與自己做“對抗練習”，不斷強化這點。但更多時候，我們要訓練AI去完成一些缺乏客觀好壞規則的任務，此時，讓系統自身去理解什麼是“好的行為”非常困難。

中國新聞周刊：聯名公開信指出，最近幾個月，人工智能實驗室正陷入一場失控的競賽（out-of-control race），這是否真的在發生？

阿布-穆斯塔法：這是一種非常情緒化的表述。不過談到所謂競賽，可以預料到的是，在短期未來的AI產業格局中，世界范圍內很可能只有2~3個非常強大的類似ChatGPT這樣的人工智能工具占領整個全球市場，因為開發這樣的大模型所涉及成本是巨大的，需要數千個GPU（圖形處理器）核心運行2個月以及海量的數據和算力。我做過一個簡單計算，GPT-3模型有超過1000億個參數，假設你的筆記本電腦有足夠的內存，在電腦上運行它至少需要20萬年，這也是為什麼目前所有最新的大模型進展都來自科技公司，而不是大學，因為其中涉及到的資金比任何大學的常規研發資金至少多了兩個數量級。

但話說回來，我們永遠無法預料未來，五年以後是否可能誕生一種能節省大量計算資源的新模型，還未可知。這就像GPU在四十余年前剛誕生時，最初只是為了讓游戲中的圖形移動得更快，但就是這個簡單的想法，後來完全改變了計算機這個領域。所以，如果幾年以後真的出現一種完全不同的模型，可以讓成本從10億美元降低至1000萬美元，這就改變了整個游戲規則，屆時將會有大量的玩家出現。