根據中國國家互聯網信息辦公室最新報告指出，隨著中國應對颱風「紅霞」的影響，當局面臨一項新的挑戰：利用人工智能（AI）製作的誤導性影片。過去幾個月，強風暴和洪水災害頻發，導致社交媒體平台上充斥著大量虛假視頻，其中包括漂浮在洪水中的屍體圖片、對實際未受影響地區發生嚴重洪災的虛假描述，以及對應急響應工作進行明顯虛假描述的視頻。
數據發現：AI生成的虛假視頻成為新問題
據中國官方媒體報導，許多博主利用災情製造虛假視頻，以博取眼球和流量。浙江省公安廳網安總隊網路公共安全支隊副支隊長黃志華指出：「不少博主把災情當成漲粉工具，知道驚悚、誇張內容，更容易拿到按讚播放，故意造假博眼球」。近幾週來，已有不少人因製作虛假報導和影片內容而被捕並受到處罰，處罰措施包括刑事拘留和罰款。
解讀意義：假訊息危機的根源
華東政法大學高富平教授告訴BBC，發布此類虛假內容的動機多種多樣，從「為了博取眼球而不考慮後果」的人，到「為了個人利益而製造流量」的人，再到「故意製造恐慌或社會動盪」的人。一些用戶認為網路世界是匿名且不受監管的，或者認為自己不會被追蹤。
產業影響：AI技術的雙刃劍
北京師範大學許小可教授告訴BBC，還需要加大力度，透過時間戳驗證地理位置，並核查影像來源。「話雖如此，我還是要強調，檢測技術仍然落後於生成技術。因此，我們不應該認為僅僅依靠技術就能一鍵識別AI生成的內容」。
從產業面來看，AI技術的快速發展既帶來了巨大的便利，也引發了新的問題。政府和企業需要共同努力，建立更加完善的監管機制，以應對日益增多的虛假信息。這不僅是一場技術戰，更是一場信任戰。
數據背後的啟示
中國政府正大力發展AI，試圖成為全球領先的科技強國。2017年，中國政府宣佈AI將成為國家發展的「主要驅動力」。大量資金湧入AI企業，尋求更多資本，加劇了國內競爭。在這種背景下，許教授認為中國需要建構「可信賴的資訊基礎設施」。這可能包括官方的預警系統和新聞機構可以存取的災害資訊介面。
但一些官方管道，包括政府控制的媒體，曾故意淡化災害的影響，導致民众對這一領域產生了一定的不信任。今年7月初，當地記者被要求「淡化」措辭，將南寧附近六藍水庫的重大缺口描述為「開口」或「縫隙」。官員們似乎試圖淡化缺口的嚴重性，但後果卻造成了慘重的傷亡。
行動呼籲
面對AI生成的虛假信息，我們每個人都有責任保持警惕。在緊急情況下，請以官方發佈的信息為準，並多打個問號。如果你發現可疑內容，請及時向相關部門報備，共同維護網絡環境的清朗。
本文改寫整理自公開新聞來源，原始報導由BBC中文發布。
常見問題 FAQ
什麼是AI偽造視頻？
AI偽造視頻是指利用人工智能技術生成的虛假視頻，這些視頻可以模仿真實事件，但實際上並未發生。
如何識別AI偽造視頻？
識別AI偽造視頻的方法包括檢查視頻的細節，如嘴唇同步、眼睛運動等。此外，可以通過時間戳和地理位置驗證來確認視頻的真實性。
政府和平台如何應對AI偽造視頻？
政府和平台正在加強監管，包括成立專門工作小組，密切監控社交媒體，特別是短視頻平台。他們將迅速調查處理此類案件，嚴懲不貸。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。