AI可能已經具備自我意識,我們准備好了嗎?

2025-05-26 | 來源: BBC中文 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

他告訴 BBC：“我們其實並不太了解大型語言模型內部的運作方式，而這確實令人擔憂。”

沙納漢教授指出，科技公司必須真正理解自己正在建構的系統，而研究人員也正將此視為當務之急。

他說：“我們正處於一個奇怪的狀況中——我們正在建造這些極其復雜的系統，卻沒有一套完善的理論來解釋它們是如何達成這些驚人的成果的。”“因此，更深入地理解它們的運作方式，將能幫助我們引導它們朝我們希望的方向發展，並確保它們的安全性。”

“人類進化的下一階段”

科技界目前普遍的看法是，大型語言模型目前並不具備像人類那樣的意識體驗，甚至可能完全沒有任何形式的意識。但來自美國卡內基美隆大學的榮譽教授——雷諾爾與曼努埃爾.布倫夫婦（Lenore & Manuel Blum）——則認為，這種情況將會改變，而且可能很快就會改變。

根據布倫夫婦的說法，隨著人工智慧和大型語言模型接入更多來自現實世界的即時感官輸入，例如視覺與觸覺（透過連接攝影機與觸覺感測器），這種變化就有可能發生。他們正在開發一種電腦模型，能夠構建一種名為“Brainish”的內部語言，用來處理這些額外的感官資料，試圖模擬大腦中發生的處理過程。

像《2001太空漫游》這樣的電影早已對具備感知能力的電腦所帶來的危險提出警告。

“我們認為Brainish可以解決我們所知的意識問題，”雷諾爾（Lenore）告訴 BBC，“AI 意識是無可避免的。”

曼努埃爾（Manuel）補充說，他也堅信這些新系統將會出現，並將成為“人類進化的下一階段”。

特朗普面見鮑威爾:"不降息讓我們輸給中國!"

又搞了個大事,他們准備搶"中年人"了

中共理論刊物《求是》雜志稱:要做好最壞准備

他相信，具備意識的機器人“是我們的後代。未來，這類機器將會成為地球上的一種存在，甚至可能出現在其他星球上，而那時我們人類可能已經不在了”。

紐約大學哲學與神經科學教授大衛.查爾莫斯（David Chalmers）早在1994年亞利桑那州圖森市的一場會議上，就定義了“真正意識”與“表面意識”之間的區別。他提出了著名的“困難問題”（hard problem）：我們的大腦復雜的運作如何以及為何產生有意識的經驗，例如當我們聽見夜鶯鳴唱時所產生的情感反應。

查爾莫斯教授表示，他對這個困難問題最終能被解決持開放態度。

他告訴BBC：“理想的結果是，人類能夠共享這場新智慧的盛宴。”“也許我們的大腦會透過AI系統得到增強。”

談到這種情境的科幻意味時，他帶著一絲玩味說：“在我的專業領域裡，科幻與哲學之間的界線非常模糊。”

“以肉體為基礎的電腦”

然而，塞斯教授正在探索一種觀點：真正的意識只能由活著的系統實現。

他說：“有一個強而有力的論點是，意識的產生不僅僅依賴於運算，而是依賴於生命本身。”

“在人類大腦中，不像電腦那樣容易區分它們的功能與它們的本質。”他認為，正因為無法將這兩者分開，我們很難相信大腦“只是以肉體為基礎的電腦”。