隨着人工智能在企業業務場景中的廣泛應用,AI預算超支與Token成本攀升正在促使企業從「鼓勵試用」轉向「控制成本、衡量產出」。近期,頭部雲廠商紛紛推出預算上限設置等成本管理工具,折射出行業對AI投入產出比(ROI)的關注達到了新高度。
對此,Denodo全球銷售副總裁兼大中華區總裁何巍表示,企業AI正從粗放試用走向精細運營,考核標尺也需要從調用量轉向單位任務的有效產出。企業過去更關心AI能做什麼,現在開始追問完成一次任務究竟消耗多少資源、創造了多少業務價值。
多輪交互推高成本,簡單限額難解根本痛點
在智能體(Agent)執行任務的過程中,往往需要經過步驟規劃、數據檢索、工具調用及反覆推理。這一鏈條越長,Token的消耗量便越呈階梯式上升。何巍指出,Token本身不是業務成果,只是AI完成任務所付出的成本;企業真正需要衡量的,是AI有沒有實現流程縮短、營收提升、風險降低或人力節約。
面對不斷增加的賬單,單純設置月度調用上限容易擠壓有價值的應用,而只強調多用又可能產生大量無法對應業務回報的消耗。企業需要認清Token究竟花在了哪裡,並釐清哪些消耗屬於無效支出。
數據碎片化引發「Token稅」,治理需前置到數據源
在數據進入大模型之前,企業普遍存在的數據孤島、語義不一致以及未經篩選的原始數據流轉,會導致智能體產生大量的重複檢索與試錯。
何巍將這類因數據供給方式低效而產生的額外消耗稱為「Token稅」。他表示,企業支付的不只是模型完成任務的成本,也在為數據碎片化、語義不一致和重複處理買單。如果僅僅控制調用次數,而不改變數據進入AI的方式,浪費依然會在下一次任務中出現。
針對這一行業普遍難題,Denodo提出在企業數據源與智能體之間構建「AI數據層」的思路。通過在數據送入大模型前完成數據連接、統一語義、權限管控與上下文過濾,將確定性計算前置,按需向模型提供精準信息,從而避免無關數據擠占上下文。
精細化算賬標誌着AI規模化落地
何巍認為,企業開始精打細算並不意味着AI應用降溫,恰恰說明AI正在從試驗試點走向規模化商業運營。調用限額可以控制賬單上限,但真正決定長期投入產出比的,是企業能否從源頭上減少重複找數、無關上下文和低效計算。
「AI進入算賬時代後,比拼的不再是誰消耗了更多Token,而是誰能讓每個Token更接近真實業務價值。」何巍說道。(記者:黃鳳鳴)
頂圖:Denodo全球銷售副總裁兼大中華區總裁何巍