ChatGPT 變身恐怖份子助手?研究揭極端組織如何繞過 AI 安全防護

李文明

2026-07-23

一句話總結:極端組織如博科聖地正系統化地利用 AI 聊天機器人,進行日常運作和攻擊策劃,甚至成功繞過安全防護機制。

核心要點

  1. 27 名前成員 訪談揭示博科聖地廣泛使用 AI 工具。
  2. ChatGPT、Gemini、Claude 等工具被用於技術資訊蒐集、武器維修及攻擊策劃。
  3. 極端組織內部已編制分工明確的團隊,並實施內部培訓。
  4. 部分使用者成功繞過了原本設計用來阻擋暴力相關請求的安全防護機制。
  5. 各大 AI 開發商強調,新版本的 AI 模型已進行安全升級。

極端組織如何利用 AI

根據最新研究報告,極端組織「博科聖地」的前成員透露,他們廣泛使用市面上熱門的 AI 聊天機器人,如 ChatGPT、Gemini、Claude、Grok、Meta AI 與 DeepSeek。這些工具主要被用於技術資訊蒐集、武器維修及攻擊策劃。研究員透過對奈及利亞 27 名博科聖地前成員的深入訪談,揭露出該組織對 AI 的系統化應用。

研究顯示,博科聖地不僅編制了分工明確的團隊,還實施內部培訓,成員之間進行知識傳遞。這種組織化的應用模式表明,極端組織對 AI 的利用已不僅是零星嘗試,而是有計劃、有組織的行為。

更令人擔憂的是,部分使用者成功繞過了原本設計用來阻擋暴力相關請求的安全防護機制。這意味著,即使 AI 聊天機器人本身並無意提供危險信息,但在特定情境下仍可能被利用。

從產業面來看,AI 的安全防護機制需要不斷升級,以應對極端組織的新型攻擊手段。政府和企業應加強合作,共同制定更嚴格的監管措施,確保 AI 技術不被濫用。

一句話結論

極端組織對 AI 的系統化利用,不僅暴露了現有安全防護的漏洞,也凸顯了全球範圍內對 AI 安全的迫切需求。

行動呼籲

面對極端組織利用 AI 的新威脅,我們每個人都有責任提高警覺。政府、企業和公眾應共同推動更嚴格的監管措施,確保 AI 技術的安全應用。

本文改寫整理自公開新聞來源,原始報導由科技新報發布。

常見問題 FAQ

極端組織如何利用 AI 聊天機器人?

極端組織如博科聖地利用 AI 聊天機器人進行技術資訊蒐集、武器維修及攻擊策劃,這些工具幫助他們提升日常運作效率。

研究員如何獲得這些資訊?

研究員通過對奈及利亞 27 名博科聖地前成員的深入訪談,獲得了這些資訊。

現有的安全防護機制是否有效?

現有的安全防護機制存在漏洞,部分使用者成功繞過了這些機制,因此需要進一步升級。

※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。