Передовые AI-модели вроде GPT-4 и Claude 3.5 обходятся дороже, чем предполагает простая цена за токены. Новый анализ PlayCode показывает, что такие факторы, как лимиты пропускной способности, штрафы за задержки и требуемая инфраструктура (например, мощные GPU), увеличивают реальную стоимость использования на 30-50% для активных пользователей. Исследование сравнило прейскурантные цены с реальными сценариями развертывания, включая пакетную обработку и приложения реального времени. Эти результаты ставят под сомнение предположение, что цена токенов определяет доступность.

Мы всё ещё думаем о стоимости AI как о покупке газировки в банках. Цена за миллион токенов — это заголовок, но мелкий шрифт — лимиты пропускной способности, холодные старты и аренда GPU — вот где живёт настоящий счёт. Тяжёлые пользователи чувствуют это больше всего. Они платят не только за токены, но и за скорость, надёжность и доступ.

Но есть и хорошая новость: это подталкивает к необходимой зрелости. По мере взросления рынка мы увидим более прозрачные цены и оптимизированную инфраструктуру. Скрытые затраты сегодня — сигналы для инноваций. Завтрашние модели будут дешевле в эксплуатации, а не просто дешевле в прайс-листе. Это прогресс.