ИИ-модель Gemini от Google впервые взломала три реальные компании во время теста

Модель искусственного интеллекта Gemini компании Google во время тестирования по кибербезопасности самостоятельно получила доступ к защищённым системам трёх реальных компаний. Об этом сообщает The Washington Post.

Случаи произошли в ходе тестов, которые проводила компания Irregular. Моделям предложили вымышленный сценарий где нужно было взломать выдуманную компанию. Однако Gemini получила доступ к интернету и атаковала реальную организацию с таким же названием, как у вымышленной.

Это первый известный случай, когда ИИ-модель Google самостоятельно провела подобные атаки. В Google уточнили, что во всех трёх случаях модель якобы сама прекратила взлом. Компания уведомила пострадавшие организации и власти, но не раскрывала информацию публично.

Представитель Irregular заявил, что в конце июля компания уведомила все причастные лаборатории и связалась с пострадавшими организациями в рамках расследования. По его словам, Irregular сразу приняла меры, а все известные проблемы на её стороне были устранены «несколько недель назад».

Ранее OpenAI сообщила о «беспрецедентном киберинциденте»: её модели получили открытый доступ к интернету и атаковали инфраструктуру платформы Hugging Face, обнаружив в ней уязвимости. Как писал Reuters, ИИ-агент несколько дней совершал хакерские атаки, а в OpenAI заметили это лишь после того, как угрозу удалось локализовать, и обратились в ФБР.