根據 NVIDIA 執行長黃仁勳上周五公開信的呼籲，多間科技公司聯合敦促政策制定者不應過早對來自中國的開放權重模型（open-weights models）施加限制。然而，Anthropic 執行長阿莫迪（Dario Amodei）在四天後發表了一篇長文，表達了自己和公司的立場。
「許多科技公司簽署了一封支持開放權重模型的公開信，甚至有人指控 Anthropic 想要禁止開放權重模型，藉此保護自身業務。」阿莫迪表示，「容我在此清楚聲明，以免有任何疑慮：Anthropic 從未主張禁止開放權重模型。」
開放權重模型的雙面性
阿莫迪認為，開放權重模型的範疇與中國構成的威脅不同。他指出，那些不具備危險能力的開放權重模型是一項公共財，除了運行所需的運算資源外，沒有其他成本，可以為企業、開發者和研究人員帶來價值。
「這些模型的開放性使得更多人能夠利用它們進行創新，推動技術的發展。」
威權政府的隱憂
阿莫迪重申他在六個月前寫下的〈科技的青春期〉中闡述的兩大擔憂。首先是威權政府，如中國共產黨，可能打造比美國更強大的模型，並利用這些模型達成永久的軍事優勢或對其人民進行深度鎮壓。
「這不僅是技術競爭的問題，更是全球安全和自由的問題。」
其次是強大的模型可能被濫用，以執行網路攻擊或生物攻擊，並存在嚴重的對齊問題。阿莫迪強調，無論這些模型來自中國還是其他地方，開放權重模型可能比閉源模型有更高的風險。
應對策略
阿莫迪提出了三項具體措施來應對這些挑戰。首先，不應向中國銷售強大的晶片或晶片製造設備，並嚴加打擊走私和各種變通手法以取得先進晶片。這是阻擋中國威脅最直接、最有效的方法。
其次，應嚴加打擊工業規模的「蒸餾」行動，防止中國模型水準接近美國。許多執行蒸餾行動的中國公司會推出開放權重模型，而這些行動有中國政府的支持，美國政府應有相关政策介入，以嚇阻這類行為。
最後，所有能力足夠強大的模型，無論開源或閉源，都應進行強制性的安全測試，針對網路、生物及對齊風險進行測試，通過測試的模型才能釋出。
「這些測試是確保模型安全的必要步驟，可以防止潛在的濫用和危害。」
阿莫迪的觀點
阿莫迪認同公開信中的許多內容，但不同意信中關於開放權重模型必然更容易開發安全措施，或者廣泛獲取能力有利於防禦者而非攻擊者的論點。他認為前述可能性恐怕相反。
「能力足夠強大的模型，可能利用廣泛取得的材料，迅速將大流行等級的病毒加以武器化。而針對這些病原體的防禦，即使在最理想的情況下，也需要數年才能全面控制。」
數據背後的啟示
面對中國的開放權重模型，科技界和政策制定者需要更加謹慎。開放權重模型的雙面性意味著它既有可能推動技術進步，也可能帶來安全隱患。因此，必須在促進創新和保障安全之間找到平衡。
從產業面來看，開放權重模型的未來充滿挑戰。科技公司和政府需要共同合作，制定合理的政策，以確保技術的健康發展，同時防止潛在的威脅。
如果你對這篇文章有什麼看法，歡迎在留言區分享你的意見，讓我們一起探討如何應對中國開放權重模型的挑戰。
本文改寫整理自公開新聞來源，原始報導由科技新報發布。
常見問題 FAQ
為什麼 Anthropic 不支持禁止開放權重模型？
Anthropic 執行長阿莫迪明確表示，公司從未主張禁止開放權重模型。他認為這些模型是一項公共財，可以為企業、開發者和研究人員帶來價值。
中國開放權重模型有哪些潛在威脅？
中國開放權重模型的潛在威脅包括威權政府可能利用這些模型達成軍事優勢或對其人民進行深度鎮壓，以及強大的模型可能被濫用，以執行網路攻擊或生物攻擊。
Anthropic 提出了哪些應對策略？
Anthropic 提出了三項具體措施：不向中國銷售強大的晶片或晶片製造設備，嚴加打擊工業規模的「蒸餾」行動，以及對所有能力足夠強大的模型進行強制性的安全測試。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。