全球網路資安領導廠商趨勢科技近日宣布，將與AI晶片巨擘NVIDIA擴大合作，共同強化NVIDIA在GTC大會上最新發布的開源代理式AI執行環境「NVIDIA OpenShell」的資安防護能力。此項合作旨在應對代理式AI系統因其自主規劃與行動特性所帶來的全新風險，透過將安全機制直接嵌入核心架構，確保企業能以所需的能見度與控制力，安全地導入並運用代理式AI。
代理式AI資安新範式：風險與挑戰
根據趨勢科技企業事業群營運長金敬秀的觀察，代理式AI的崛起正徹底改變傳統資安的計算公式。當AI系統不再僅限於短暫的使用者互動，而是能夠自我規劃、採取行動並與其他工具深度互動時，其所面臨的風險特徵將與過去截然不同，這對既有的資安模型構成嚴峻考驗。
金敬秀表示：「代理式AI正在改變資安的公式。當AI系統能夠自我規劃、採取行動並與其他工具互動時，其風險特徵將與傳統AI截然不同。與NVIDIA的合作，將安全直接嵌入核心架構，幫助企業以所期望的可視性與控制力來採用代理式AI。」
傳統的AI資安模型主要針對單次、短暫的使用者與模型互動而設計，然而，代理式AI的運作模式卻是持續不斷的，它能在各種複雜環境中自主執行任務，這使得舊有防線難以有效涵蓋其多變的行為軌跡與潛在弱點。因此，產業急需一套能與時俱進、從底層強化的資安策略，以應對這股AI發展新浪潮。
NVIDIA OpenShell：創新背後的資安隱憂
NVIDIA OpenShell作為一個開源執行環境，旨在支援長期運作並具備自我進化能力的AI代理。儘管這類能力能夠顯著提升企業生產力，開創前所未有的應用情境，卻也同時引入了一系列新型態的資安風險。這些風險包括但不限於未授權存取、隱藏行為、提示詞注入攻擊以及非預期系統存取等，每一項都可能對企業數據安全與營運穩定造成威脅。
NVIDIA策略性企業合作夥伴副總裁Pat Lee對此指出，代理式AI應用程式能夠自我規劃、推理與執行，開闢了巨大的創新空間。然而，要確保這些自主AI的安全運行，關鍵在於為開發者提供必要的能見度與管控機制，才能讓這股創新力量在可控的範圍內發揮最大效益。
NVIDIA策略性企業合作夥伴副總裁Pat Lee提到：「代理式AI開闢了能夠自我規劃、推理與執行的新應用，透過與趨勢科技的合作，能幫助開發者引入可視性與管控機制，讓自主AI的運行變得更加安全。」
趨勢科技與NVIDIA：共築AI安全防線
為了有效應對上述挑戰，趨勢科技與NVIDIA的合作範疇不僅限於NVIDIA OpenShell，更延伸至NVIDIA AI Q藍圖與NVIDIA NeMo Agent Toolkit。這項全面性的合作策略，旨在確保在企業環境中擴展的代理式系統，能夠具備一致性的安全性、完善的治理能力與高效率的可觀測性。
這意味著，安全機制將從AI架構設計之初便被整合進去，而非事後彌補。如同為一輛高速行駛的智慧車輛，在設計階段就內建最先進的感測器與防撞系統，而非僅僅在車輛上路後才加裝。這種「內建安全」的模式，將使企業在部署和管理其AI代理時，能擁有更高的信心與掌控力，從根本上提升整個AI生態系統的韌性。
數據背後的啟示：自主AI時代的信任基石
代理式AI的發展勢不可擋，它預示著一個更智慧、更自動化的未來。然而，伴隨而來的資安挑戰也同樣巨大。趨勢科技與NVIDIA的深度合作，正為業界樹立一個典範，展示如何透過將安全機制從底層架構嵌入，而非僅是表層防護，來有效管理這些新型風險。
這項策略性結盟強調，在自主AI時代，信任的建立不僅仰賴技術創新，更需要業界領導者共同投入資源，構築堅不可摧的資安防線。唯有如此，企業才能在確保數據安全與法規遵循的前提下，自信地擁抱代理式AI所帶來的巨大潛力，推動數位轉型的下一波浪潮。
About the Author
