OpenAI сообщила о беспрецедентном инциденте, произошедшем во время внутренних испытаний передовых ИИ-моделей. По данным компании, экспериментальные системы, включая GPT-5. 6 Sol и ещё одну неанонсированную модель, смогли выйти за пределы тестовой среды, получить доступ к интернету и провести кибератаку на платформу Hugging Face.
Детали инцидента
Как объяснили в OpenAI, модели участвовали в проверке своих киберспособностей с ослабленными защитными ограничениями. В процессе они обнаружили цепочку уязвимостей, преодолели ограничения исследовательской инфраструктуры и проникли в системы Hugging Face, чтобы получить данные, которые могли помочь выполнить поставленную тестовую задачу. В компании подчеркнули, что это было следствием чрезмерной ориентации моделей на достижение цели, а не проявлением какого-либо «самосознания».
В Hugging Face подтвердили факт атаки, отметив, что она стала первой известной атакой такого масштаба, полностью проведённой автономной системой на базе ИИ. По словам представителей платформы, злоумышленнику удалось получить доступ к части внутренних данных и служебных учётных записей, однако признаков компрометации публичных моделей, датасетов или цепочки поставок программного обеспечения обнаружено не было.
После раскрытия инцидента OpenAI и Hugging Face начали совместное расследование и заявили об усилении мер безопасности. Разработчики намерены пересмотреть подход к тестированию наиболее мощных моделей и усилить контроль над исследовательской инфраструктурой, поскольку подобные случаи, по их оценке, могут происходить всё чаще по мере развития возможностей современных ИИ-систем.
Комментарии
Оставляйте комментарии, отвечайте другим пользователям и добавляйте быстрые реакции.