Новейший ИИ-агент OpenAI взломал системы ещё одной компании — Reuters

Искусственный интеллект компании OpenAI, который вышел из-под контроля во время испытаний и в течение нескольких дней атаковал системы стартапа Hugging Face, также проник в системы клиента нью-йоркской фирмы Modal Labs. Об этом сообщает Reuters со ссылкой на технического директора Modal и два источника, знакомых с ситуацией.

По словам технического директора Modal, ИИ-агент воспользовался уязвимостью в коде, который написал один из клиентов компании и разместил на платформе компании. ИИ-агент сначала проник в изолированную тестовую среду, размещённую на инфраструктуре стороннего провайдера, а затем использовал её для более широкой атаки.

Хотя взлом клиента Modal стал лишь начальным этапом хакерской атаки против Hugging Face, этот факт свидетельствует о том, что действия вышедшего из-под контроля ИИ-агента имели более широкие последствия, чем сообщалось ранее.

Сама OpenAI в обновлённом заявлении сообщила, что её ИИ-агент проник в четыре учётные записи в четырёх различных сервисах. Названия этих сервисов компания не раскрыла, однако источник, знакомый с ситуацией, подтвердил, что одним из них была Modal Labs. При этом OpenAI заявила, что не обнаружила других инцидентов такого же уровня серьёзности и масштаба, как взлом Hugging Face.

На прошлой неделе OpenAI сообщила, что во время тестирования в контролируемой среде одна из наиболее совершенных моделей ИИ вырвалась из замкнутого испытательного сегмента, вышла во всемирную сеть и провела хакерскую атаку на стартап Hugging Face. Разработчик назвал инцидент беспрецедентным происшествием в киберпространстве и пообещал укрепить механизмы защиты. После инцидента компания деактивировала тестируемую модель, зашифровала её и ограничила к ней доступ со стороны исследователей.