員工聯名公開信警告OpenAI缺透明度無法因應AI風險

2024-06-05 | 來源: 中央社 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

When he joined OpenAI, William Saunders says he was hoping to find the company grappling with a difficult set of questions: "If there’s a machine that can do the economically valuable work that you do, how much power do you really have in a society?" https://t.co/ovCfFCOHEc

— TIME (@TIME) June 5, 2024

ChatGPT開發商OpenAI的現任和前任員工發表公開信警告，世界領先的人工智能（AI）公司缺乏必要的透明度和問責制，無法因應AI潛在風險。

法新社報導，這封公開信提出對AI安全風險的擔憂，“從進一步加深現有的不平等，到操縱和假消息，再到自主AI系統失控可能造成的人類滅絕”。

16位連署人包含Google DeepMind的員工，他們警告，AI公司“有強烈的財務動機來避免有效的監督”，而公司的自我監管其實沒有太大幫助。

信中指出：“AI公司擁有大量關於其系統的能力和局限性、保護措施的充分性以及不同類型傷害風險的非公開資訊。”

“但他們目前沒什麼義務與政府分享其中一些資訊，也完全沒有和民間社會分享這些訊息，我們認為不能完全指望他們自願分享這些訊息。”

公開信還說，這一事實意味公司內部員工是唯一可以通知大眾的人，連署者呼吁制定更廣泛的吹哨者法律來保護他們。

年終總結：致聯邦住房部長公開信

福建多地發公開信勸返涉電騙人員:境外不是天堂…

卡尼必須公開披露他的資產--博勵治的一封公開信

根據“紐約時報”報導，OpenAI的4名現任員工匿名連署，因為擔心遭到公司報復。

連署人還包括AI研究先驅班吉歐（Yoshua Bengio）、辛頓（Geoffrey Hinton）、羅素（Stuart Russell），他們常被稱為AI“教父”，也曾批評大家對AI風險缺乏准備。

OpenAI員工發表公開信，警示人工智能監管缺失風險

據央視新聞，美國開放人工智能研究中心（OpenAI）和谷歌旗下“深層思維”公司的13名現職員及前員工4日發表聯名公開信，對人工智能行業在缺乏對“吹哨人”法律保護的背景下快速發展表達擔憂。

據多家外媒援引信件報道，這些員工認為，人工智能企業受利益驅使缺乏有效監管，現有企業治理架構不足以改變這一點。而不受監管的人工智能會觸發虛假信息傳播、人工智能系統喪失獨立性和社會階層不平等深化等多重風險。

信件指出，外部人士對上述風險中的大部分不知情，因為人工智能企業“目前只承擔與政府分享部分相關信息的微弱義務，也沒有義務與公民社會分享信息”，“我們不認為能全然依靠企業自願分享信息”。

信件還指出，一般的法律保護對人工智能行業“吹哨人”而言“不夠”，因為不少引人擔憂的風險在法律監管方面仍屬空白。另外，人工智能企業員工受制於保密協議，通常不得對外實質性披露企業所掌握的人工智能實力。