近期，谷歌宣佈為企業客户提供AI支出月度上限管理功能，可設定智能體API調用閾值，以應對預算超支風險。丹諾德(Denodo)全球銷售副總裁兼大中華區總裁何巍表示，企業 AI 正從粗放試用走向精細運營，考核標尺也需要從調用量轉向單位任務的有效產出。通過數據基礎設施減少無效Token消耗，是提升AI投入產出比的一條重要路徑。

Denodo全球銷售副總裁兼大中華區總裁何巍

從“放開用”到“算着用”，企業開始追問AI回報

Token是模型處理和生成信息的基本計量單位。普通單次問答消耗相對可控，但智能體完成一項任務，往往需要規劃步驟、檢索數據、調用工具、反覆推理並校驗結果。每增加一個環節，都會帶來新的Token消耗。

更難管理的是，一次點擊背後可能隱藏着多輪調用。智能體會將任務指令、歷史對話、檢索文檔和工具返回結果帶入下一輪推理。上下文越長、循環次數越多，企業越難從最終賬單中判斷哪些消耗確有必要。

“Token本身不是業務成果，只是AI完成任務所付出的成本。”何巍説，企業真正需要衡量的，不是員工使用了多少Token，而是AI有沒有實現流程縮短、營收提升、風險降低或者人力節約。

這也意味着，簡單設置調用限額並非最終答案。限制過嚴，可能壓縮有價值的應用;如果只強調多用，又可能產生大量無法對應業務回報的消耗。企業需要進一步追問：Token究竟花在了哪裏?

看不見的“Token税”，可能藏在數據進入模型之前

面對不斷增加的Token消耗，很多企業首先想到的是調整模型或壓縮提示詞。但Denodo近期發佈的《更低成本，更高信任：代理AI的新經濟學》白皮書提出，部分無效Token消耗的源頭可能位於企業數據層。

現實中，企業數據分散在數據庫、數據湖、SaaS應用、API、文檔和向量數據庫中，不同系統還採用不同的數據結構、業務定義和權限規則。智能體在回答問題之前，可能需要反覆查找數據入口、讀取元數據，並判斷哪些信息可以使用。

“企業看到的是一張Token賬單，賬單背後，包含大量找數、試錯和重複計算帶來的消耗。”何巍表示，智能體真正用於解決業務問題的Token只是一部分，另一些消耗來自低效的數據供給方式。

舉例來説，數據孤島會讓智能體在多個平台間反覆檢索;業務語義不一致，造成查詢路徑反覆調整;大量未經篩選的原始數據進入上下文，會增加無關信息處理;本應由數據庫完成的過濾、關聯和聚合，如果交給大模型執行，也會產生額外消耗。

這些浪費還會在智能體的多輪任務中被放大。前期檢索的冗餘材料、工具返回結果甚至錯誤信息，會隨着上下文進入後續步驟，被反覆傳遞和計算。

何巍將這類額外消耗稱為“Token税”。“企業支付的不只是模型完成任務的成本，也可能在為數據碎片化、語義不一致和重複處理買單。只控制調用次數，沒有改變數據進入AI的方式，浪費仍會在下一次任務中出現。”

從數據層減少無效消耗，讓每個Token更接近業務價值

針對上述問題，Denodo提出在企業數據源與智能體之間搭建“AI數據層”。這套方案並非新建集中存儲平台，而是在數據送入大模型之前，完成數據連接、語義統一、權限管控、上下文過濾。

首先，AI數據層連接分佈在本地、雲端和業務系統中的數據，減少智能體反覆尋找和適配數據源;其次，通過統一語義，為“客户”“收入”等指標提供一致定義，降低反覆試錯;過濾、關聯和聚合等確定性計算工作，則儘可能前置在數據層完成。

更為關鍵的是按需供給數據。AI數據層根據任務和用户權限，只向模型提供當前場景真正需要的信息，避免無關數據和敏感內容進入上下文。

“值得治理的不只是已經產生的Token，還有那些本可以不進入提示詞的Token。”何巍表示，給智能體的數據越精準、業務含義越清楚，它越有可能以更少的檢索和試錯完成任務。

Denodo披露的某大型保險企業實踐提供了一個觀察樣本。該企業每月執行約50萬次智能體任務，平均包含6輪上下文交互。引入統一數據層後，其每月數據訪問Token由約426億個降至61億個，減少約85.7%。同期，理賠數據準備由2至3周縮短至1至2天，風險報表生成由3至5天縮短至10至15分鐘。

這一結果當然不意味着所有企業都能獲得相同比例的降幅，但説明Token成本與數據供給方式存在直接聯繫。減少無效Token也不是單純“省錢”，更重要的是讓數據訪問更快、更可控，並使AI輸出建立在一致的業務定義之上。

企業開始精打細算，並不意味着AI應用降温，恰恰説明 AI 從試驗試點走向規模化商業運營。調用限額可以控制賬單，但真正決定長期投入產出比的，則是企業能否減少重複找數、無關上下文和低效計算。

“AI進入算賬時代後，比拼的不再是誰消耗了更多Token，而是誰能讓每個Token更接近真實業務價值。”何巍説。