殺人機器人要來人類該怎麼辦?

2015-06-18 | 來源: 界面網 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

　　對於能夠自己決定攻擊目標的“殺人機器人”, 人類真的准備好了嗎？

　　美國等國家目前正在研制機器人武器，在未來幾十年的時間內（甚至是更短），它們可能就可以自己選擇攻擊的目標進行打擊，甚至對人類發起進攻，成為名副其實的殺人機器人。

　　所謂的致命性自主武器系統(Lethal Autonomous Weapons Systems)就是能夠自主選擇目標並發起攻擊的武器，它和無人機還不盡相同，無人機實際上還是有人在遠程控制的，由人來決定何時發起攻擊。而自主武器則完全是由機器自己選擇和鎖定攻擊目標。

　　人類到底應不應該允許這種殺人機器的出現？支持方和反對方各執一詞，也有人認為，自主武器可以用，但必須有一定的先決條件。

　　《基督教科學箴言報》文章說，據五角大樓正在進行的一項研究顯示，機器人武器技術可以增加無人機的精確度，減少軍隊的傷亡。另外，支持者表示，采用機器人武器可以減少戰場上由人做出的那種沖動、非理性的決定。

　　不過，批評人士擔心，完全由機器做出事關生死的戰斗決定是不道德的，違反人權法以及國際戰爭法。他們要求全面禁止研究、部署和使用此類武器。

　　反對者包括人權組織、國際紅十字會、逾20名諾貝爾和平獎得主以及機器人和人工智能領域的科學家。

中國機器人暴走!瘋狂攻擊工程師驚悚視頻曝

80元租"機械腿" ,外骨骼機器人開掘金時代?

繼半馬,北京8月將舉辦世界人形機器人運動會

　　賓州大學政治科學副教授Michael C. Horowitz和新美國安全中心(Center for a New American Security)研究員Paul Scharre在《紐約時報》發表觀點文章說，今年4月中旬90個國家和幾十家非政府組織聚首日內瓦，商討致命性自主武器帶來的挑戰，一個由50多個非政府組織組成的聯盟要求禁止此類武器的研發和使用。

　　這些反對者認為, 當今的技術還不足以好到讓自主武器能可靠地分清楚民用目標和軍事目標，因此很難讓其不違反軍事法。在某些時候，這確實是事實。不過，情況也不盡如此。文章稱，比如，全球30多個國家擁有自動防御系統，可以擊落入侵的火箭彈和導彈，它們由人來監控，不過在啟動之後，這些系統不需要人的進一步幹預就可以識別鎖定目標。這樣的自動防御系統十分有效，而且幾十年來也從未引起過爭議。

　　另外，致命性自主武器還有可能帶來新一輪武器擴散問題。《基督教科學箴言報》援引加州大學伯克利分校電腦科學家Stuart Russell說，如果進一步研發這些武器會帶來什麼？會出現軍備競賽嗎？這樣的軍備競賽的結果會是怎樣呢？

　　當Russell剛開始思考致命性自主武器的時候，他本能的直覺是“也許人工智能可能做更好的工作，也許我們可以生產出能夠更加精准打擊目標的武器，減少對平民生活和財產的破壞。”

　　然而，軍備競賽的可能性讓他打消了這一念頭，而且一些專制政府還有可能利用這些武器對付自己的百姓。

　　不過，要完全禁止致命性自主武器技術的研發也不太現實。邁阿密大學法律學院副教授Markus Wagner表示，其中的一些技術不僅能應用到軍事領域，也能應用到民用領域。他認為，當務之急是制定一套致命性自主武器的部署標准，並用現有的法律體系加以約束。

　　Horowitz和Scharre也認為，不應該以當今的技術水平為由禁止自主武器系統的開發和使用，不過，各國政府也必須開始采取措施保證軍隊以安全、負責任的態度使用自主武器技術，能在使用這些武器時保留人的判斷和責任。

　　如果使用得當，自主武器可以減少戰爭中人員的傷亡，不過，即便自主武器可以准確識別和鎖定目標，它們也會帶來安全、責任和控制的問題。最重要的是，必須避免出現當自主武器被廣泛使用時，平民領袖和軍隊領袖不再顧及任何倫理方面戰爭成本的這種情況。