Пока цена за токен падает, агенты потребляют их в сотни раз быстрее, чем дешевеет инфраструктура. Мы ждали удешевления, чтобы запустить «умный» бизнес, но вместо этого получили финансовую воронку, которая высасывает бюджеты быстрее, чем любые облачные счета десятилетней давности.
Ловушка «дешевых» вычислений
Рынок ликовал, когда DeepSeek снизил цены на 75%. Казалось бы, вот он — золотой век доступного искусственного интеллекта. Логика проста: если топливо стоит копейки, можно гонять болид круглосуточно. Но реальность оказалась куда более жесткой. Компании, которые рассчитывали на кратный рост маржинальности, с ужасом смотрят в отчеты. Оказалось, что снижение цен — это не спасение, а лишь временная анестезия перед операцией по вскрытию бюджета.
Мы десятилетиями привыкли к закону Мура и тому, что софт становится эффективнее, а «железо» — доступнее. Мы ждали, что нейросети пойдут по этому же пути: модель умнеет, стоимость токена падает, бизнес процветает. Но машинное обучение сыграло с нами злую шутку. Обычный чат-бот, который когда-то просто отвечал на вопрос, превратился в прожорливого автономного агента. И вот тут математика начала трещать по швам.
Проблема 100x: как один вопрос съедает бюджет
В чем подвох? Обычный запрос пользователя — это один входной токен и один выходной. Дешево, сердито, предсказуемо. Однако современные ИИ технологии подразумевают использование агентов. Агент не просто «отвечает». Он планирует, ищет информацию в базе знаний, проверяет гипотезы, переписывает код, снова проверяет и только потом выдает результат. Один простой вопрос от клиента превращается в цепочку из 35 000 токенов.
Это и есть та самая проблема 100x. Если цена упала в четыре раза, а потребление выросло в сто раз, вы не экономите. Вы просто платите в 25 раз больше, чем планировали. Бизнес-модели, рассчитанные на «дешевый ИИ», начинают сыпаться. Многие компании сейчас буквально доплачивают за каждого активного пользователя, чтобы тот просто поигрался с их «умным» продуктом. Это не бизнес, это благотворительный фонд для производителей чипов.
Инженерия превращается в бухгалтерию
Теперь инженерам недостаточно просто написать красивый промпт или настроить векторную базу данных. Сегодня работа разработчика — это постоянный аудит расходов. Нужно считать каждый чих агента в реальном времени. Если система делает лишний шаг в процессе «размышления», компания теряет деньги прямо сейчас. Это создает уникальный перекос: мы стремимся к максимальной автономности ИИ, но вынуждены жестко ограничивать его «аппетиты», чтобы не разориться.
Победит не тот, у кого самая «умная» модель, а тот, кто научится контролировать стоимость этого интеллекта. Мы переходим от эпохи «давайте внедрим ИИ везде» к эпохе «давайте посчитаем, не убьет ли нас этот ИИ». Финансовый контроль стал частью стека технологий. Если вы не знаете, сколько стоит одно «размышление» вашей нейронной сети, вы уже работаете в убыток.
Мой вердикт
Снижение цен на токены — это лишь попытка догнать уходящий поезд. Пока агентские системы не станут «экономными» по своей архитектуре, никакой демпинг не спасет бизнес от убытков. Мы оказались в ситуации, где эффективность кода важнее маркетинговых обещаний вендоров. Хотите выжить в мире ИИ? Учитесь считать токены так, будто это ваши личные деньги, потраченные на кофе. Потому что для вашего облачного провайдера это именно так и выглядит.
Больше новостей об ИИ — в Telegram-канале NeuroPlex.