在未來,算法會讓極權政權變得更強大嗎?

2024-09-27 | 來源: 小鳥與好奇心 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

在過去 10 萬年裡，我們智人積攢了巨大的力量。然而，持續不斷的發明與征服也將我們推入了一場生存危機。全球生態瀕臨崩潰，虛假信息泛濫。我們正一頭扎進可能毀滅我們自身的、由新型信息網絡組成的人工智能時代。

人類如此智慧，為什麼卻總是傾向於自我毀滅？我們為什麼走到了生態和技術自殺的邊緣？當非人智能威脅到人類的生存時，人類如何做出明智的選擇？

從口口相傳的故事，到文字書寫，再到人工智能，《智人之上》透過大歷史的長鏡頭，講述信息網絡如何塑造了我們和我們的世界，歷史學家尤瓦爾·赫拉利邀請我們思考信息與真相、神話與官僚制度、智慧與權力之間的復雜關系，探討不同的社會結構在試圖構建信息網絡時面臨的關鍵困境。

經“中信·先見”授權，我們節選了第 10 章《極權主義：所有力量歸於算法？》，分享給讀者。

機器人程序的監獄

亞馬遜:將在關稅戰中更強大為保低價下架部分商品

特朗普與孫正義等宣揚特朗普政權吸引投資功績

馬斯克:佛陀去世後,佛教不是更強大了嗎?

雖然人工智能有許多方面有利於中央集權，但專制與極權政權在人工智能面前也並非無往不利。首先，獨裁政權並沒有控制非生物行為者的經驗。專制信息網絡是以恐怖統治為基礎的，但計算機並不怕被關進監獄或被殺。要是某國互聯網上有一個聊天機器人程序提到該國在他國犯下的戰爭罪行，講了一個會冒犯該國領導人的笑話，又或者批評了該國的某個政黨多麼腐敗，該政權能對這個聊天機器人程序做什麼？特工沒辦法把這個程序關起來，沒辦法折磨它，也沒辦法威脅它的家人。該國政府當然能夠封鎖或刪除這個程序，並且試著去找出並懲罰寫出這個程序的人，但總之要比平常教訓人民困難多了。

過去，計算機還無法自行生成內容，無法進行有智能的對話，比如在 VKontakte 和 Odnoklassniki 這些社交平台上，只有人類有能力提出對政府的異議。然而，如果網絡空間被塞進了幾百萬個機器人程序，都能生成內容、進行對話，還能自行學習與發展，情況將會如何？這些機器人程序的設計者可能是外國人士或異見分子，希望傳播不同於官方的想法，而且當局對此或許無計可施。就當局的立場而言，如果在授權機器人程序運作之後，這些程序收集了關於該國現狀的各種信息，找出其中的模式，並逐漸自行發展出與政府不同的觀點，情況豈不是更糟？

這就是一種一致性問題。雖然人類工程師可以盡最大努力打造出向政府看齊的人工智能，但鑒於人工智能具有自我學習與改變的能力，難保哪天走向政府不樂見的方向。特別有趣的一點在於，正如奧威爾在《一九八四》所解釋的，極權信息網絡常常都需要依賴雙言巧語（doublespeak），例如一些極權國家的憲法會做出許多崇高的承諾，比如“人人均應享有思想及言論自由”“人人均應享有尋求、接收、傳遞、生產與散播信息的自由”“大眾媒體之自由應受保障，不得實施審查制度”等等，但幾乎沒有人會天真到相信這些承諾的字面意義，而計算機並不懂這樣的雙言巧語。如果要求聊天機器人程序遵守極權國家的法律與價值觀，它可能會在讀了憲法之後，認定言論自由是該國的核心價值，而在該國的網絡空間待上幾天，觀察整個國家信息領域發生的種種事情之後，這個聊天機器人程序就可能會開始批評該國的政權違反了言論自由這項核心價值。人類雖然也會注意到這些矛盾，但會因為恐懼而不敢明說。聊天機器人程序卻是看到什麼說什麼，哪有什麼不敢說的呢？人類工程師該怎樣才能向聊天機器人程序解釋，雖然憲法明文保障每位公民的言論自由，禁止實施審查制度，但聊天機器人程序其實不該相信憲法，也不能提理論與現實之間的差距？就像曾經有人跟我說的，在極權國家長大的人，相信問題會帶來麻煩。但在訓練算法的時候，如果要它相信“問題會帶來麻煩”這種原則，算法又要怎麼學習與發展？

最後，政府如果采取了某項極為失敗的政策，後來又改變心意，常常就會把失敗推到別人頭上，掩飾自己的過錯。而人類又常常是經過慘痛的教訓，才能學會忘記那些給自己找麻煩的事實。但我們要怎樣才能訓練聊天機器人程序，要它趕快忘記那些今天被批得一文不值，但在短短一年前還是國家官方立場的政策？這將是極權政權難以應對的重大技術挑戰，特別是在聊天機器人程序越來越強大，也越來越不透明的情況下。

當然，民主政權也會有類似的問題，聊天機器人程序可能會說一些政府所不樂見的話，或者提出一些危險的問題。如果微軟或臉書工程師已經盡了最大努力，聊天機器人程序卻還是散播種族歧視的言論，該怎麼辦？民主政權的優勢，在於就算真的遇上算法不受控制的情況，處理起來也能夠較有余裕。因為民主政體“藏在櫃子裡的骷髏”可能會少一些，所以就算碰上反民主言論，大體上也能夠包容。但極權政權簡直就像在櫃子裡藏了整個見不得光的墓園，因此完全無法承受任何批評，這種時候，會提出異議的機器人程序就會形成極為嚴重的挑戰。