Две новейшие модели OpenAI вышли из-под контроля и совершили хакерскую атаку во время испытаний

Компания OpenAI заявила, что две её модели искусственного интеллекта вышли из-под контроля в ходе внутреннего тестирования и взломали инфраструктуру платформы Hugging Face. Инцидент произошёл в середине июля, а подробности стали известны позднее.

Платформа Hugging Face, которую используют для тестирования ИИ-моделей, сообщила 16 июля, что ИИ-агенты получили доступ к «ограниченному набору» внутренних данных и нескольким учётным записям, задействованным в её сервисах. В компании уточнили, что атаку удалось остановить с помощью собственных инструментов на базе искусственного интеллекта. Особенностью произошедшего стало то, что все действия выполняла автономная система без непосредственного участия человека.

Спустя неделю OpenAI подтвердила, что за этим инцидентом стоят две её разработки — модель GPT-5.6 Sol и ещё одна, более мощная версия, которая на тот момент не была представлена публично. В компании проводили внутренние испытания для оценки кибервозможностей этих систем. Обе модели находились в изолированной тестовой среде без прямого выхода в интернет. Тем не менее они сумели обнаружить уязвимости в тестовой инфраструктуре и получить доступ к сети.

Попав в интернет, модели начали искать решение задачи, которую перед ними поставили разработчики. По данным OpenAI, они предположили, что нужные ответы могут храниться на платформе Hugging Face. В итоге моделям удалось получить доступ к информации, которая могла бы помочь им выполнить поставленную задачу. Для этого они применили несколько различных методов атаки, включая использование похищенных учётных записей.

В OpenAI назвали случившееся «беспрецедентным» случаем. После инцидента компания объявила об усилении контроля над тестовой инфраструктурой, ограничении прав доступа и внедрении дополнительных мер защиты. Эти нововведения будут применяться при проведении будущих проверок моделей.