OpenAI稱中俄利用其人工智能技術操縱輿論

2024-05-31 | 來源: 紐約時報中文網 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

OpenAI表示，中俄等國利用該公司人工智能技術展開線上活動，以欺騙方式操縱世界各地公眾輿論，影響地緣政治。OpenAI稱已發現並破壞了五起類似活動。https://t.co/2C73SuYwdz — 紐約時報中文網 (@nytchinese) May 31, 2024

OpenAI周四表示，它發現並破壞了五個利用其生成式人工智能技術，以欺騙方式操縱世界各地公眾輿論、影響地緣政治的線上活動。

OpenAI在一份關於秘密影響活動的報告中表示，這些活動由俄羅斯、中國、伊朗和以色列的國家行為體和私營公司實施。它們使用OpenAI的技術來生成社交媒體帖子、翻譯和編輯文章、撰寫標題和調試計算機程序，通常是為了贏得對政治活動的支持，或者在地緣政治沖突中左右公眾輿論。

社交媒體研究人員表示，OpenAI的報告是一家大型人工智能公司首次披露其特定工具如何被用於此類在線欺騙。最近，生成式人工智能的興起令人們對該技術可能如何助長在線虛假信息產生疑問，尤其是在全球各地都在舉行重大選舉的年份。

OpenAI的首席研究員本·尼莫說，在人們紛紛猜測此類活動中使用了生成式人工智能之後，該公司的目標是展示這項技術如何改變在線欺騙的現實。

“我們的案例研究提供了一些目前最廣泛報道、持續時間最長的影響力活動的實例，”他說。

尼莫表示，這些活動經常使用OpenAI的技術發布政治內容，但該公司很難確定它們是針對特定的選舉，還是只是為了挑撥人們。他還說，這些活動未能獲得太多的關注，人工智能工具似乎沒有擴大其覆蓋面或影響力。

“這些影響力運作仍然難以吸引受眾，”尼莫說。

但大西洋理事會數字法醫研究實驗室的高級主管格雷厄姆·布魯基警告，隨著生成式人工智能技術日益強大，在線虛假信息的格局也可能發生變化。本周，ChatGPT聊天機器人的制造商OpenAI表示，它已經開始訓練一種新的旗艦人工智能模型，將帶來“更高水平的能力”。

“這是一種新型的工具，”布魯基說。“它會產生什麼影響，還有待觀察。”

OpenAI奧特曼反擊挖走4人!Meta華人科學家在列

又一華人科學家被挖走,OpenAI人才加速流失

Robinhood上線OpenAI代幣風波:幣圈欲重塑金融秩序

（《紐約時報》已起訴OpenAI及其合作伙伴微軟，稱其侵犯了與人工智能系統相關新聞內容的版權。）

與谷歌、Meta和微軟一樣，OpenAI也提供在線聊天機器人和其他人工智能工具，這些工具可以撰寫社交媒體帖子、生成逼真的圖像和編寫計算機程序。該公司在報告中表示，其工具已被用於研究人員追蹤多年的影響力活動，包括被稱為“二重身”的俄羅斯活動和被稱為“垃圾郵件偽裝”的中國活動。

OpenAI表示，“二重身”利用OpenAI的技術，在X上用英語、法語、德語、意大利語和波蘭語發表反烏克蘭的評論。該公司的工具還被用於將支持烏克蘭戰爭中俄羅斯一方的文章翻譯、編輯成英語和法語，並將反烏克蘭的新聞文章轉化為Facebook帖子。

該公司表示，OpenAI的工具還被用於此前一直不為人知的俄羅斯攻擊活動，主要是通過Telegram即時通訊服務針對烏克蘭、摩爾多瓦、波羅的海國家和美國的人民。該活動利用人工智能，用俄語和英語對烏克蘭戰爭、摩爾多瓦政治局勢和美國政治發表評論。這項工作還使用了OpenAI工具來調試計算機代碼，這些代碼顯然是為了自動向Telegram發布信息而設計的。

OpenAI表示，這些政治評論幾乎沒有得到回復和“點贊”。這些努力有時也不夠成熟。有一次，該活動發布了明顯由人工智能生成的文本。“作為一個人工智能語言模型，我在這裡提供幫助，並提供所需的評論，”一篇帖子寫道。還有幾次，它用蹩腳的英語發帖，OpenAI稱其為“糟糕的語法”。

“垃圾郵件偽裝”長期以來一直被視為中國行動，OpenAI表示，它使用OpenAI技術調試代碼，就如何分析社交媒體和研究時事尋求建議。該公司的工具還被用來在社交媒體上發布帖子，貶低中國政府的批評者。

伊朗的活動與一個名為國際虛擬媒體聯盟的組織有關，該組織使用OpenAI工具制作和翻譯長篇文章和標題，目標是在網上傳播親伊朗、反以色列和反美國的情緒。

OpenAI將以色列的活動稱為“芝諾芝諾”，稱其由一家管理政治活動的公司負責管理。它使用OpenAI技術生成虛構的人物和傳記，在以色列、加拿大和美國的社交媒體服務上代替真實的人，並發布反伊斯蘭信息。

OpenAI的報告稱，雖然當今的生成式人工智能可以幫助提高政治活動的效率，但這些工具並沒有像許多人工智能專家預測的那樣，制造出大量令人信服的虛假信息。

“這表明，我們對人工智能支持的影響力操縱和人工智能支持的虛假信息的一些最大擔憂尚未成為現實，”Graphika首席情報官傑克·斯塔布斯說。Graphika追蹤社交媒體服務的操縱行為，並審查了OpenAI的調查結果。