當 Meta 近日推出的 AI 圖像偵測工具在面對裁切編輯過的圖片時，竟然有 55% 的失敗率，這無疑是對現有科技防線的一次巨大打擊。這一幕不禁讓人思考：面對日漸精進的深偽（Deepfake）技術，人類還有沒有其他方法可以自保？最新研究顯示，經過短期訓練，人類大腦能夠建立起一道「直覺防線」，這可能是未來對抗深偽內容的重要武器。
表象：自動偵測工具的侷限
Meta 最新推出的 AI 圖像偵測工具在面對未編輯的原始圖像時，確實表現出色。然而，路透社的分析發現，一旦圖像經過裁切編輯，其準確率驟降至 45%。Meta 解釋，這主要是因為大幅裁切會導致內建的「Content Seal」浮水印信號流失。這表明，無論是自動偵測系統還是浮水印，都難以做到百分之百可靠的防護。
真相：視覺缺陷辨識策略失效
過去，人們常用尋找不合理的手指數量、變形耳環或扭曲背景等方法來識別 AI 圖像。但隨著 StyleGAN3 和新擴散模型（Diffusion models）的成熟，這些低級瑕疵已逐漸消失。英國阿伯丁大學（University of Aberdeen）與澳洲國立大學（Australian National University）的研究員直言，依賴「視覺缺陷」辨識 AI 圖的策略已經失效。
各方角力：培養人類直覺
為了建立新的辨識標準，研究團隊轉而訓練受試者觀察 AI 脸孔的六項特徵：過度對稱、完美比例、異常吸引人、臉部結構通用、表情變化少、缺乏記憶點。實驗數據顯示，未受訓前，受試者辨識真偽的準確率僅約 40%；但經過約一小時的引導學習後，準確率大幅提升至接近 80%，少數人甚至能達幾乎完全辨識的程度。
深層影響：深偽技術的社會安全威脅
培養這項能力已是迫在眉睫的任務，因為 Deepfake 技術早已跨越娛樂範疇，成為嚴重的社會安全威脅。根據 Deloitte 估算，明年美國因 AI 深偽詐騙造成的損失，可能從 2023 年的 120 億英鎊暴增至 400 億英鎊。這類跨國犯罪也已真實上演，例如香港曾發生詐騙集團利用深偽視訊會議，成功誘騙企業員工匯款高達 2,500 萬英鎊；此外，也有調查揭露 AI 生成的 LinkedIn 假檔案已成功滲透美國政策圈。
從產業面來看，單靠機器防禦已顯不足，人類大腦的「直覺防線」將成為未來對抗深偽內容的重要武器。培養這種直覺能力不僅能提升個人的辨識能力，還能有效應對日益嚴重的社會安全威脅。
未解之問：如何系統性升級大腦
當 AI 越來越懂得偽裝成人類，單靠機器防禦已顯不足。這項研究清楚傳達了一個訊息：在這個真假難辨的時代，大腦也需要執行系統性「升級」。然而，如何在大規模人群中推廣這項訓練，並確保其效果，仍然是未解之問。這需要政府、學界和企業的共同努力。
面對日益猖獗的 Deepfake 詐騙，你是否準備好升級自己的大腦，提高辨識能力？分享你的看法，或參加相關訓練課程，共同應對這場技術戰爭。
本文改寫整理自公開新聞來源，原始報導由科技新報發布。
常見問題 FAQ
Deepfake 是什麼？
Deepfake 是利用深度學習技術生成的假影像或聲音，常被用於製作假視頻或音頻，以偽裝成特定人物。
為什麼現有的自動偵測工具無法完全防範 Deepfake？
現有的自動偵測工具在面對裁切編輯過的圖像時，準確率會大幅下降，因為這會導致浮水印信號流失，使其難以識別。
人類大腦如何建立對 Deepfake 的「直覺防線」？
人類大腦可以通過觀察 AI 脸孔的六項特徵（過度對稱、完美比例、異常吸引人等），並進行大量範例與重複練習，逐漸建立對真偽的「直覺」。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。