為應對大型語言模型(LLM)高昂且難以預測的成本,全球企業正採用一種名為「山頂洞人」(caveman)的工具。該工具能將AI的冗長回答轉為簡潔指令,大幅減少代幣消耗以節省開支。
根據404 Media的發現,這款工具將Claude、Codex或Gemini等模型的冗長輸出,轉變為更直接的回答,例如將「你的質疑有道理,我錯了」變成「浩克粉碎」。
- 核心功能:將AI模型冗長的輸出轉為簡潔直接的回答,以減少代幣(token)消耗。
- 節省效益:創建者聲稱,該工具可將輸出代幣減少約65%至75%,在一次測試中節省了5,800個代幣(65%)。
- 主要用戶:據報包括OpenAI、輝達(Nvidia)和GitHub的開發人員,電氣巨頭羅格朗(Legrand)也在內部推廣使用。
- 行業背景:企業因AI開支飆升而採取限制措施,如優步(Uber)四個月用完全年預算,沃爾瑪(Walmart)也限制內部使用。
AI成本飆升成企業痛點
隨著企業廣泛導入人工智能,其高昂且難以預測的成本已成為一大挑戰。諮詢巨頭埃森哲(Accenture)發現,許多「飆升的代幣開支」源於員工使用AI將PDF轉換為簡報等任務。這種成本壓力迫使企業採取應對措施,例如優步在短短四個月內耗盡全年AI預算後限制員工使用;沃爾瑪也採取了類似的限制措施;GitHub更宣布將從固定訂閱費改為按代幣收費。
電氣與數碼基礎設施巨頭羅格朗(Legrand)的一份內部備忘錄也顯示,公司要求員工注意AI使用,以免過快耗盡預算配額,並明確建議使用「山頂洞人技能」以減少輸出消耗。
「山頂洞人」插件應運而生
為解決此問題,「山頂洞人」插件應運而生。其創建者朱利葉斯·布魯西(Julius Brussee)向404 Media表示,他因大量使用Claude Code並注意到其輸出充滿不必要的客套話和修辭,因而開發此工具。布魯西說:「它讓模型說話不像禮貌的聊天機器人,而更像簡潔的工具。內容相同,用詞更少。」
該插件的目標是壓縮AI回答中的非核心語言,同時保留代碼、命令、路徑等技術細節的精確性。用戶甚至可以選擇不同的簡潔程度,從「輕度」到「超級」,甚至還有一個將輸出轉為文言文的選項。
值得注意的是,GitHub上的紀錄顯示,OpenAI的工程總監肖恩·斯威尼(Shayne Sweeney)曾為該項目貢獻代碼,增加了對OpenAI自家Codex工具的支持。布魯西透露,他聽說許多個人開發者及來自OpenAI、輝達和GitHub等公司的工程師正在使用或測試此工具。
來源:404 Media
封面來源:Adobe Stock

