Amazon потратила $1,8 млн на простой ИИ-запрос из-за ошибки, которую не замечали пять месяцев

Amazon столкнулась с неожиданно высокими расходами при использовании языковой модели Claude от компании Anthropic. По данным СМИ, выполнение простой задачи по программированию обошлось компании примерно в 1, 8 миллиона долларов. Внутренний проект превысил запланированный бюджет на 860%, что привело к значительным финансовым потерям.

Причина инцидента

Причиной стала ошибка, которая оставалась незамеченной на протяжении пяти месяцев. В результате задача, которую источники называют «чрезвычайно дешёвой» в исполнении, превратилась в «катастрофически дорогостоящую». Это привело к многомиллионным расходам, которые могли быть легко предотвращены.

После выявления проблемы Amazon внедрила автоматические лимиты расходов и инструменты мониторинга использования ИИ-сервисов. Эти меры направлены на предотвращение подобных инцидентов в будущем. Кроме того, компания закрыла внутреннюю таблицу лидеров, которая поощряла сотрудников за высокое потребление токенов при работе с языковыми моделями.

Случай стал ещё одним напоминанием о том, что при масштабном использовании генеративного искусственного интеллекта даже небольшие ошибки в настройке инфраструктуры или контроле расходов способны привести к значительным финансовым потерям. Компании, активно внедряющие ИИ, должны уделять особое внимание мониторингу и управлению затратами.

Этот инцидент подчёркивает важность тщательного контроля за использованием ИИ-ресурсов. Даже крупные технологические гиганты, такие как Amazon, могут столкнуться с серьёзными финансовыми последствиями из-за, казалось бы, незначительных упущений. Внедрение автоматических лимитов и мониторинга становится необходимым шагом для любой организации, работающей с ИИ.