AI劣質內容正在重塑社交媒體,且正遭遇反噬

2026-02-02 | 來源: BBC中文網 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

社群媒體正被大量假冒、由AI生成的圖片和影片淹沒。但多數使用者真的會在意嗎？https://t.co/wZR369ehdh— BBC News 中文 (@bbcchinese) February 2, 2026

泰奧多（Théodore）記得那張把他逼到瀕臨崩潰的人工智能（AI）劣質圖片。

那是一張兩名瘦骨嶙峋、極度貧困的南亞兒童的影像。奇怪的是，盡管看得出仍是男孩年紀，他們卻留著濃密的胡須。其中一人沒有雙手且只有一只腳；另一人手裡拿著一個牌子，寫著今天是他的生日並請求按贊。

他們莫名其妙地坐在大雨滂沱、車流繁忙的馬路正中央，面前還擺著一個生日蛋糕。整張圖充滿由AI生成的各種“破綻”；但在臉書（Facebook）上它卻爆紅了，拿到將近100萬個贊與愛心表情。

泰奧多有些崩潰。

“這讓我大開眼界。那些荒謬的AI生成影像鋪天蓋地地出現在臉書上，毫無審查卻獲得巨大關注，在我看來實在不可思議。”這位來自巴黎的20歲學生說。

泰奧多在X上開設了名為“Insane AI Slop”（變態的AI垃圾）的帳號，開始點名並諷刺那些正在欺騙大眾的內容。其他人注意到了，他的收件匣很快就被各種熱門“AI 劣質內容”的投稿淹沒。

圖像加注文字，泰奧多（左）在網路上發起行動，嘲諷社群媒體上的 AI“劣質內容”，其中包含一張獲得近100萬個贊的假圖片（右）。

常見題材逐漸浮現——宗教、軍事，或讓人感到窩心的貧困兒童。

“第三世界孩子做出驚人事情，向來很受歡迎——比如非洲某個貧困孩子用垃圾做出超厲害的雕像。我想人們覺得這很暖心，所以創作者就想：‘太好了，繼續編吧。’”泰奧多說。

人類謝絕入內:AI也有了專屬社交平台

我所知道的劉虎,一個媒體江湖上的袍哥

前女友驚爆幣圈大佬孫宇晨和谷愛凌正在戀愛

泰奧多的帳號很快就累積超過13.3萬名追蹤者。

AI劣質內容的沖擊——他定義為“快速制作、虛假且不可信的影片與圖片”——如今已勢不可擋。大型科技公司擁抱AI；其中一些公司聲稱開始打擊某些形式的AI“垃圾”，但許多社交平台的資訊流似乎仍被這類內容充斥。

短短幾年內，使用社群媒體的體驗已發生深刻改變。它是怎麼發生的？又會對社會造成什麼影響？更迫切的是，數十億社群使用者究竟在不在意？

社交媒體的“第三階段”

去年10月，在另一場歡欣鼓舞的財報電話會上，Meta首席執行官馬克?扎克伯格（Mark Zuckerberg）開心地宣稱，社交媒體已進入第三階段——如今的中心就是AI。

“第一階段是所有內容來自朋友、家人與你直接追蹤的帳號。第二階段是我們納入了創作者內容。現在，隨著AI讓創作與混搭更容易，我們將再加入一大批內容庫。”他這樣對股東表示。

營運Facebook、Instagram和Threads的Meta不僅允許人們發布AI生成內容，還推出更多能促成此類創作的產品。橫跨全平台的影像與影片生成器，以及愈發強大的濾鏡正不斷上線。

在被要求回應時，Meta指向1月的財報電話會議。會中，這位億萬富豪表示公司將更深度押注AI，並未提到任何針對劣質內容的取締行動。

扎克伯格說：“很快我們將看到大量新的媒體形式爆發，這些更沉浸、更互動的形式只有因為AI的發展才成為可能。”

YouTube首席執行官尼爾?莫漢（Neal Mohan）在2026年的展望貼文中寫道，僅在12月，就有超過100萬個YouTube頻道使用平台的AI工具制作內容。