關鍵數字：根據顧問公司德勤（Deloitte）2024年的報告，使用生成式AI的詐騙預計到明年僅在美國就會造成400億美元的損失。
🔥 AI生成的臉孔越來越逼真
2024年，一名香港金融從業員在與工程顧問公司奧雅納（Arup）的同事進行視訊會議時，討論一宗機密收購案。一切看似再普通不過，直到匯出2500萬美元款項後，他們才發現自己被騙了。視訊中的其他人，包括看似是財務長的那個人，全是AI生成的深度偽造影像。
這並非個案，AI生成的臉孔越來越難與真人分辨，根據德勤的報告，使用生成式AI的詐騙預計到明年僅在美國就會造成400億美元的損失。
🤔 我們能辨識AI生成的臉孔嗎？
澳洲國立大學（ANU）心理學副教授艾美·道爾（Amy Dawel）指出，我們現在辨認AI臉孔的能力真的很差。研究顯示，我們的表現不比五五開的猜測好，甚至更差。
道爾博士解釋，「我們現在的挑戰是如何訓練更多人更有效地辨識AI生成的臉孔。」她指出，難以辨識AI臉孔會帶來真實世界的後果，影響我們所有人，「無論是網路釣魚、交友網站，還是針對我們的銀行帳戶」。
🔬 研究人員的新訓練方法
在今年6月發表於《美國國家科學院院刊》（PNAS）的一項研究中，道爾博士與澳洲、加拿大和蘇格蘭的同事測試了一種新的訓練方法。研究人員並非教人去尋找不匹配的耳環或扭曲特徵等明顯破綻，而是訓練他們對每張臉孔整體做出直覺判斷。
道爾博士指出，「問題之一是，我們預期AI臉孔會看起來很奇怪，這是基於過去的經驗，但實際上是人類臉孔才不完全對稱、有點怪異，所以整個邏輯已經顛倒了」。研究發現，AI生成的臉孔被判定為真人的頻率，比實際人類臉孔還高——他們將此現象稱為「AI超真實感」（AI hyperrealism）。
在最新研究中，研究團隊首先檢測了45名成年人一開始辨識AI生成臉孔的能力。在一項測試中，他們被展示一系列三張臉孔，並被要求挑出AI那一張。道爾博士表示，訓練內容包括展示約100張臉孔——一半真實、一半AI生成——並要求他們針對六項整體特徵評分：獨特性、可記憶性、表情豐富度、對稱性、比例協調性與吸引力。
平均而言，參與者在訓練後的準確率大致翻倍，達到上述測試的81%。
💡 猫捉老鼠的遊戲
然而，這項研究也有其限制。道爾博士表示，這套訓練已證明對目前最逼真的AI臉孔生成器之一StyleGAN3高度有效，但仍需在其他AI模型上進行測試。「我們所有的參與者都是年輕人，因此有一些關鍵問題有待解答：這套訓練是否適用於兒童，以及我們知道特別容易成為詐騙目標的年長者，」她補充道。
研究人員強調，在辨識AI深度偽造影像時，保持人類的核心角色至關重要。道爾博士說，「這是一場貓捉老鼠的遊戲，就像電腦病毒一樣，它們不斷變化，我們也必須不斷調整才能跟上。」
從產業面來看，AI生成的臉孔詐騙不僅是技術問題，更是社會問題。隨著AI技術的進步，我們需要更多跨學科的合作，包括心理學、計算機科學和法律，共同應對這一挑戰。建議大家在進行線上交易時，保持警惕，多加確認對方的身份。
行動呼籲
面對日益猖獗的AI臉孔詐騙，我們每個人都需要提高警覺。下次進行視訊會議或線上交易時，多花一點時間確認對方的身份，不要輕易匯款。如果你對此議題感興趣，不妨進一步了解相關研究，提高自己的辨識能力。
本文改寫整理自公開新聞來源，原始報導由BBC中文發布。
常見問題 FAQ
AI生成的臉孔有哪些特徵？
AI生成的臉孔通常更對稱、比例更協調、更有吸引力，但缺乏真實臉孔的獨特性和表情豐富度。
如何辨識AI生成的臉孔？
研究人員建議，通過訓練對臉孔的整體特徵進行直覺判斷，而不是尋找特定的破綻。訓練後的準確率可以大幅提升。
這套訓練方法適用於所有年齡層嗎？
目前的研究主要針對年輕人，尚未在兒童和老年人群體中進行測試。未來需要更多研究來確認這套方法的普適性。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。