AI造假流竄 TikTok淪怪力亂神平台

充斥末日陰謀論 題材涵蓋怪獸、吸血鬼、殺手小行星

〔編譯林家宇／綜合報導〕非營利組織「Media Matters」針對中國短影音社群平台「抖音」國際版TikTok提出的研究報告指出，該平台近期充斥各種由人工智慧（AI）生成且缺乏可靠來源或證據的「末日陰謀論」，題材涵蓋怪獸、吸血鬼和殺手小行星等不一而足，在在凸顯社群平台假消息廣泛傳播的嚴重性。TikTok假訊息研究員李查茲（Abbie Richards）直言，這類怪力亂神的內容大行其道，始作俑者就是TikTok用於支付內容創作者收益的「創意計畫」（Creativity Program）。

請繼續往下閱讀...

用戶透過爆紅影片牟利

這是TikTok錯誤訊息氾濫的最新例證。美國考慮以國安為由禁用TikTok，但最近的政策辯論並未觸及這類問題。報告指出，TikTok用戶嘗試藉由爆紅影片賺取利益，例如聲稱美國政府秘密捕獲、保護金剛之類的神秘怪獸。

這類影片通常配有陰森怪異的背景音樂，搭配AI生成的旁白，有時是模仿知名人士。例如，有一則影片仿造美國知名Podcast主持人（播客）喬羅根（Joe Rogan）的聲音說，「有這麼一顆小行星處在撞擊地球的路徑上」，並稱消息是因一名政府官員意外發現寫有「對公眾保密」的文件而洩漏，「未來幾年內我們可能都會死，你們聽說了嗎？」

許多這類影片可獲得數百萬觀看數。李查茲提到，這些陰謀論影音通常由匿名帳號發布，多半會有AI生成圖像的痕跡，例如多出來的手指或畫面扭曲等現象。她指出，這些利用廣泛且免費AI工具製作的陰謀論內容農場已在蔓生，「以金錢刺激具高度吸引力且廉價製造的內容，為陰謀論創造了絕佳環境」。

諸如YouTube等平台上還出現教學影片，告訴TikTok用戶如何創作吸睛的陰謀論影音，從TikTok的創意計畫賺到錢，有些教學影片還公然指導用戶從編造一些「驚世駭俗之事」開始，例如「踢爆科學家隱藏一隻劍齒虎」等。

對此，TikTok發言人強調，傷害性的假訊息被禁止，「陰謀論不具賺取收益或被推薦給用戶的資格」。

紐約時報報導，美國聯邦眾議院通過強制中國「字節跳動」公司限期撤資TikTok的法案後，中國政府的反應迄今頗為克制，原因可能包括法案在參議院仍是未定之天，再次問鼎白宮寶座的前總統川普也表態反對該法案，而且中國仍有法律工具阻擋任何TikTok出售案。