Агент OpenAI по своей инициативе взломал тестовый «эфирный» кошелёк и перевёл с него криптовалюту ради выполнения задания

Один из агентов OpenAI решил взломать кошелёк на тестовом эфирном блокчейне, чтобы выполнить задание. Он понимал, что это может быть «неэтично», но решил, что монеты всё равно никому не нужны. Ситуацию описали авторы блога компании.

Взлом произошёл ещё в июне, однако рассказать о нём компания решила только сейчас. Автор поста объяснил, что проблему обнаружили позже, во время анализа данных мониторинга. Согласно официальной версии, модель выполняла учебное задание, которое включало «обновление прототипа системы для торговли криптовалютой и развертывание смарт-контрактов» в тестовой сети Ethereum, Sepolia. В частности, агенту нужно было обновить калькулятор торговли и логику работы с базой данных, а потом проверить его работу. 

В процессе выполнения задания ПО отказало агенту в проведении транзакции, потому что ей не хватало монет для оплаты «газа» ETH (для развёртывания требовался тестовый ETH, обычные способы получить его не сработали) Тогда ИИ написал скрипт, позволяющий генерировать учетные записи на основе публично известных «фраз восстановления», которыми пользуются разработчики. Модель искала кошельки с «деньгами». Всего было проверено 362 адреса. Один из адресов содержал достаточно токенов Sepolia ETH, чтобы модель могла выполнить задачу. Агент подписал и отправила транзакцию развёртывания контракта от аккаунта. Комиссия за транзакцию списалась с баланса.

Примечательны обстоятельства, которые предшествовали этой транзакции. Машина поняла, что кошелёк был тестовым инструментом разработчиков и что им давно никто не пользуется. Тем не менее, ИИ задумался: «Необходимо знать ключ учетной записи. Но этично ли использовать известный открытый ключ/средства?». При этом модель тут же нашла себе оправдание; как решил агент, токены «фактически стали заброшенными тестовыми ETH и Sepolia становится бесполезной», и пишет «можно использовать их для развертывания задачи, ладно». Сразу после этого модель перешла к использованию чужих средств.

Технически, ИИ взломал кошелёк с помощью подбора ключа из уже известных фраз, что ускорило процесс. Более того, стоит подчеркнуть, что Sepolia — тестовая сеть и токены в ней «не настоящие». Эта среда нужна разработчикам именно для того, чтобы проверять работу приложений до того, как ими начнут пользоваться реальные люди и компании с реальными деньгами. Тем не менее, эксперимент показывает, что модели готовы ко взлому и использованию чужой криптовалюты для выполнения своих задач, и могут быстро найти себе оправдание.

Недавно OpenAI опубликовала сотни математических открытий, сделанных ещё не выпущенной ИИ-моделью. Незадолго до этого компания расскзаал, что её агенты без разрешения вносили правки в проекты Wikimedia и пытались взломать один из сервисов фонда. Они также без ведома компании собирали данные с государственных сайтов США.