國際研究暨顧問機構Gartner今日發布最新報告，預測儘管人工智慧（AI）模型的關鍵運算單位「Token」單價預計於2030年趨近於零，企業的整體AI推論成本（inference cost）卻可能不減反增，對未來AI營運帶來深遠挑戰。這項預警提醒企業領導者，必須重新審視其AI策略與成本結構，以應對技術演進所帶來的複雜局面。
Token單價趨零：表面降價下的隱憂
根據Gartner的報告，至2030年，AI模型的Token單價將趨近於「零」。此預測主要歸因於半導體與基礎設施的持續改進、模型設計的創新，以及專為推論優化的半導體市場擴張。報告指出，大型語言模型（LLM）的推論成本預計在2030年之前降低逾90%，而模型效率則有望提升高達100倍。以具備1兆參數的LLM為例，其推論成本相較於2025年將減少超過90%。報告中，一個AI Token被定義為約3.5位元組的數據量，約略等於四個中文字元。
然而，Token單價的顯著下滑，並不等同於企業AI營運負擔的減輕。Gartner資深總監分析師威爾·索默（Will Sommer）明確指出，企業採購長不應將通用Token價格的下跌，誤解為進階推理能力已普及。他強調，基礎AI功能正逐步邁向零成本，但支援複雜推理所需的運算資源與系統，依然屬於稀缺資源。
AI代理程式崛起：複雜任務推升總體成本
「基礎AI功能正逐漸趨近零成本，但支援複雜推理所需的運算資源與系統依然稀缺。」Gartner資深總監分析師威爾·索默表示，隨著AI技術的發展，對Token的需求量將大幅飆升，進而抵銷單價下降所帶來的成本效益。
索默進一步解釋，尤其在AI代理程式（AI agents）等更先進的技術應用中，每項任務所需消耗的Token量，比傳統簡易聊天機器人多出至少5倍至30倍。這類高複雜度的應用將導致對Token的總體需求量劇增，即使單價降低，龐大的總使用量仍將是推動企業整體AI推論成本增加的關鍵因素。這意味著企業在享受AI效率提升的同時，也將面臨前所未有的成本管理挑戰。
多模型協調策略：未來AI競爭力的關鍵
面對AI推論成本結構的變化，Gartner強調，未來的AI競爭力核心將不再僅限於單一模型的效能，而是轉向「多模型協調策略」（multi-model orchestration）。這項策略要求企業具備精密的營運能力，以智慧化方式運用不同的AI模型。
具體而言，企業應善用小型語言模型（sLLM）或特定領域模型，來處理重複且頻繁的基礎任務，以最大化效率並有效控制成本。同時，將最尖端、資源耗費較大的模型，僅用於高價值的複雜推理場景。這種策略性部署不僅能優化資源分配，更是企業在未來AI發展階段能否有效控制成本並維持競爭力的關鍵。
展望與影響
Gartner的這份報告為企業勾勒出未來AI發展的成本輪廓，提醒各界必須跳脫單純的「Token單價」思維，轉而關注AI總體擁有成本（Total Cost of Ownership, TCO）與策略性資源配置。隨著AI技術的深化與應用場景的擴展，企業將面臨更為複雜的成本管理挑戰。
成功整合多模型協調策略的企業，將能在AI浪潮中脫穎而出，有效平衡創新與成本效益。反之，未能精準掌握AI成本結構並進行策略性調整的企業，恐將在競爭激烈的市場中面臨嚴峻的營運壓力。
About the Author
