在新創公司 Hugging Face 遭遇 OpenAI 模型發動的網路攻擊後，輝達（Nvidia）與微軟（Microsoft）、SpaceX 等數十家歐美科技企業於 27 日宣布成立「開放安全人工智慧聯盟」（Open Secure AI Alliance），旨在通過開發和分享開源工具，促進 AI 的責任使用並建立信任。
Hugging Face 事件：封閉模型的局限
Hugging Face 在此次攻擊中無力抵抗，原因是封閉模型的安全機制無法有效區分攻擊者和防禦者。最終，Hugging Face 被迫轉向使用中國開發的開源 AI 模型，成功阻擋了攻擊。這一事件揭示了封閉模型在應對網絡威脅時的不足，尤其是在需要快速反應的情況下。
根據輝達的聲明，Hugging Face 的經歷清楚表明，防禦者需要能夠在自己的基礎設施上運行的開源且先進的代理系統。 與封閉模型相比，開源模型允許使用者自由下載、修改和託管，從而在關鍵時刻提供更靈活的防禦手段。
聯盟目標：開源技術的共享與透明
開放安全人工智慧聯盟將致力於利用開源技術來修補和披露系統漏洞，提高 AI 系統的安全性和透明度。這一倡議的推出，正值美國立法者對中國 AI 模型的廣泛應用日漸關注之際。
美國財政部長 Scott Bessent 上週威脅要對進行蒸餾攻擊的中國企業實施制裁，而美國智庫外交關係委員會（Council on Foreign Relations）的高級研究員 Chris McGuire 指出，政府確實有可能對中國模型實施限制措施，包括禁止相關交易和雲端託管。
政策爭議：開源與閉源之爭
儘管如此，科技界對潛在的限制政策感到擔憂。上週，包括輝達、微軟、Meta 在內的超過 20 家公司共同發表聯名信，敦促政策制定者避免對開源權重 AI 模型實施過早的限制，以免扼殺市場競爭或促使創新技術流向海外。
從產業面來看，開源模型的普及有助於提高技術的透明度和安全性，但同時也需平衡國際競爭和知識產權保護。政策制定者應審慎考慮，避免一刀切的做法，確保技術創新得以持續。
Chris McGuire 強調，華盛頓的爭論焦點不在於開源與閉源之爭，而是是否容忍中國的智慧財產權竊取行為。任何打擊行動都將針對中國企業，而非整個開源生態系統。
展望與影響
隨著 AI 技術的快速發展，開源模型的角色變得越來越重要。開放安全人工智慧聯盟的成立，不僅有望提升全球 AI 系統的安全性，還將促進國際合作，共同應對技術挑戰。
對於一般用戶而言，這意味著未來可以期待更透明、更安全的 AI 產品和服務。然而，政策制定者和業界需共同努力，找到平衡點，確保技術創新與安全並進。
面對日益複雜的 AI 安全挑戰，您如何看待開源模型的未來？歡迎在留言區分享您的看法。
本文改寫整理自公開新聞來源，原始報導由科技新報發布。
常見問題 FAQ
什麼是開放安全人工智慧聯盟？
開放安全人工智慧聯盟（Open Secure AI Alliance）是由輝達、微軟、SpaceX 等多家科技企業聯合成立的一個組織，旨在通過開發和分享開源工具，促進 AI 的責任使用並提高系統安全性。
Hugging Face 事件對 AI 安全有何影響？
Hugging Face 事件揭示了封閉模型在應對網絡威脅時的局限性，強調了開源模型在防禦中的重要性，促使業界更加關注 AI 安全問題。
美國政府可能會對中國 AI 模型採取哪些限制措施？
美國政府可能採取的措施包括禁止涉及中國模型的交易，如禁止透過 API 購買詞元，或禁止美國企業在雲端託管該模型並向客戶收取推論費用。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。