Корпоративните разходи за AI токени излизат извън контрол и взривяват ИТ бюджетите
Снимка: Wall Street Journal / Getty Images
Зад еуфорията от внедряването на генеративен изкуствен интелект в световния бизнес се крие нарастваща финансова криза: разходите за модели стават почти невъзможни за планиране и контрол от корпоративните финансови директори [1]. Разследване на The Wall Street Journal показва, че едва 11% от анкетираните компании успяват надеждно да прогнозират месечните си фактури за AI услуги, докато над 60% отчитат драстични преразходи.
Проблемът се корени в коренната разлика между традиционния корпоративен софтуер (SaaS) с фиксирани абонаменти на работно място и модела на заплащане на база консумирани токени (pay-per-token), характерен за доставчиците на облачни изчисления и фундаментни модели.
Механиката на токеновата нестабилност и автономните цикли
В класическата корпоративна среда IT бюджетите се планират на база брой лицензи за потребител на година. При езиковите модели обаче консумацията е напълно променлива и зависи от сложността на контекста, дължината на документите и поведението на софтуера. С навлизането на автономните агенти и сложните системи за верификация с продължително разсъждение (reasoning loops), моделите генерират милиони скрити токени за вътрешен анализ преди да върнат окончателен отговор.
Когато даден агент попадне в безкраен цикъл на повторен опит за изпълнение на задача или грешно форматиран отговор, той може да натрупа хиляди долари разходи за часове. В статията на WSJ се отбелязва, че изкуственият интелект се държи повече като нает на час работник, който допуска грешки и работи „по часовник“, отколкото като предвидим софтуерен инструмент.
Парадоксално, по-евтините модели често струват повече на бизнеса, тъй като изискват многократни повторни заявки и по-дълги пояснителни промптове за постигане на задоволителен резултат, докато скъпите модели решават проблема от първия опит с по-малко общо токени.
Възходът на FinOps рамките и свиването на проектите
Шокът от сметките за облачни изчисления доведе до създаването на специализирани практики по FinOps и появата на Фондацията по токеномика (Tokenomics Foundation), която разработва стандарти за контрол на разходите. Финансовите отдели все по-често налагат твърди лимити (hard rate limits) и квоти за използване на служител.
Тези рестрикции обаче парализират работните процеси. Служители, които са изградили работните си навици около асистенти като Claude или GPT-4, остават без достъп в средата на работната седмица поради изчерпан бюджет на отдела. В резултат на това редица компании замразяват експерименталните си проекти за корпоративен изкуствен интелект в очакване на по-предвидими ценови модели.
Дългосрочни системни и икономически трансформации
Кризата с бюджетирането на токени е симптом за по-дълбоко структурно несъответствие между икономиката на изчисленията и корпоративното счетоводство. Докато цената на електроенергията, полупроводниците и водното охлаждане на сървърите е физическа реалност, бизнесът не може да оперира в условия на постоянна ценова волатилност за базова софтуерна функционалност.
В дългосрочен план пазарът ще окаже огромен натиск върху доставчиците на модели като OpenAI, Anthropic и Google за изоставяне на чистото токеново ценообразуване в полза на фиксирани пакети за изпълнена бизнес задача (cost-per-task) или запазен изчислителен капацитет (reserved compute). Онези платформи, които не успеят да предложат финансова предвидимост, ще бъдат заменени от вътрешни локални модели с отворен код, работещи върху фиксиран собствен хардуер.
Инфографика: Светни.ме