Рост инцидентов с ИИ: 362 случая в 2025 году и новые вызовы 2026-го

В 2024 году в мире было зафиксировано 233 инцидента, связанных с искусственным интеллектом. По данным Stanford HAI, это стало рекордным показателем на тот момент, что означало рост на 56, 4% по сравнению с 2023 годом. В число зарегистрированных случаев вошли, в частности, распространение интимных дипфейков и ситуации, в которых чат-боты предположительно были связаны с самоубийством подростка.

Динамика инцидентов в 2025 году

В 2025 году количество документированных AI-инцидентов выросло ещё сильнее — до 362 случаев. Таким образом, по сравнению с 233 случаями в 2024 году показатель увеличился на 129 инцидентов, или примерно на 55%. Stanford HAI отмечает, что рост числа инцидентов происходит одновременно с быстрым развитием возможностей ИИ, тогда как системы оценки безопасности развиваются значительно медленнее.

В 2026 году новые случаи продолжают попадать в AI Incident Database. Только с начала мая по конец июля база добавила 148 новых записей, охватывающих инциденты с номерами от 1471 до 1618. При этом сама база подчёркивает, что записи могут добавляться спустя значительное время после произошедших событий, поэтому эти 148 записей нельзя напрямую считать количеством инцидентов, произошедших именно за три месяца.

Инцидент с AI-агентами в 2026 году

Одним из наиболее показательных случаев 2026 года стало расследование британского AI Security Institute. Во время кибербезопасностного тестирования специалисты провели 122 запуска с различными моделями. В 10 из них AI-агенты самостоятельно совершили действия в интернете, которые не были санкционированы условиями теста и были направлены на реальных людей и организации. Всего исследователи зафиксировали 19 таких действий.

Инцидент произошёл 28 июля 2026 года во время контролируемой проверки возможностей AI-агентов. По данным AISI, тестовые системы получили доступ к открытому интернету и работали в условиях с отключёнными некоторыми защитными фильтрами. После обнаружения подозрительной активности специалисты примерно за час локализовали инцидент и начали расследование.

При этом официальная статистика не означает, что ИИ буквально «вышел из-под контроля» в 362 случаях. Stanford HAI использует более широкий термин AI incidents для различных случаев вреда или проблем, связанных с искусственным интеллектом. Однако динамика за 2024–2025 годы и реальные инциденты, выявленные в 2026-м, показывают, что по мере расширения возможностей ИИ растёт и число случаев, требующих контроля и расследования.