Компании активно вводят бюджетирование токенов, оптимизируя использование дорогих моделей через дешёвые для предварительной обработки. Основной рост потребления токенов идёт за счёт кода, где ROI очевиден у power users. Подписки выгоднее API, но при высоком использовании могут быть убыточными для провайдеров.
Ep. 020 - Anthropic vs OpenAI Usage, Margins, Meta Compute, Future of MSL (Tokenomics)
полный разбор ролика · 5 глав ↓
Введение и контекст
Обсуждаются текущие тренды в использовании AI-моделей, рост числа пользователей и важность контроля затрат через бюджетирование токенов.
Отмечается, что рынок быстро развивается, и компании начинают раскрывать данные о доходах и расходах.
Стратегии бюджетирования токенов
Компании вводят ограничения на использование токенов либо на пользователя, либо на всю компанию, при этом второй подход эффективнее.
Используют дешёвые модели для предварительной обработки и дорогие — для финального результата, что снижает затраты.
Рост потребления токенов на кодогенерацию
Кодогенерация и разработка — самые токенозатратные сценарии, именно там компании видят реальную отдачу и готовы инвестировать.
Ограничение доступа к мощным моделям только инженерам — неэффективно, все сотрудники должны иметь возможность использовать AI для повышения продуктивности.
Подписки vs API
Подписочные планы выгоднее для пользователей с низкой и средней нагрузкой, но при высокой загрузке маржа провайдеров падает или становится отрицательной.
Компании часто покупают несколько подписок вместо API, чтобы снизить расходы и упростить управление.
Маржинальность и будущее моделей
Средняя загрузка подписок выше точки безубыточности, что снижает их маржу по сравнению с оплатой по API.
Anthropic имеет сильную позицию за счёт высокого процента выручки с API и более выгодной структуры тарифов.