В правительстве Австралии пообещали зарегулировать ИИ после «автономного» взлома государственных баз, который произошёл в июне

Власти Австралии заставят ИИ компании соблюдать новые «стандарты безопасности» после атаки со стороны OpenAI — сообщает госСМИ ABC.

События, из-за которых началась истерика, произошли ещё 18 июня этого года, но обсуждать их начали только на этой неделе. Информации об инциденте немного. Насколько можно судить, речь идёт об очередной ситуации, в которой OpenAI не прописала агентам достаточно сильные ограничения. Следы аналогичных попыток ИИ-агентов взломать систему таким образом уже находили на серверах Университета Нью-Мексико, Data USA и австралийского AIHW, где также хранится нужная ИИ статистика. 

Насколько можно судить, ИИ пытался выполнить задачу, для которой нужна была статистика о государственных расходах Австралии на лекарства и здравоохранение. Получить данные можно с официальных сайтов «легальным» путём, скачав их с государственного сайта. Тем не менее, система антибота Cloudflare заметила подозрительную активность и запретила нейросетям доступ к порталам. Тогда один из агентов получил несанкционированный доступ к Medicare Statistics Reporting Service portal (портал статистической отчётности системы всеобщего медицинского страхования Medicare, управляется Services Australia). Как именно произошла атака, неизвестно; в процессе мог использоваться как обычный фишинг, так и уязвимость в системе защиты данных (в других случаях, например, проводился «прозвон» API и попытка внедрить вирус в XSS-JavaScript). Утверждается, что ИИ смог посмотреть в том числе конфиденциальные файлы для внутреннего пользования. При этом чиновники признали, что речь идёт о «несекретных» и «нечувствительных» данных, то есть карточки пациентов остались нетронутыми. 

Непонятно, когда именно властям страны вообще стало известно о взломах. Как сообщали в правительстве, 15 сентября Services Australia направило уведомление в Австралийский центр кибербезопасности (ACSC) при Австралийском управлении по сигналам (разведка взломом и кражей данных, ASD) с некоторыми подробностями произошедшего. 

Премьер Австралии Энтони Альбанезе пожаловался на автономных хакеров на этой неделе, 24 сентября. Он рассказал, что его правительству до сих пор не до конца ясно, как именно был получен доступ, и что часть информации от австралийцев всё равно скроют ради «национальной безопасности». При этом он уже тогда намекнул, что власти планируют воспользоваться инцидентом, чтобы зарегулировать ИИ в стране под предлогом «защиты граждан».

«Мы стараемся как можно скорее довести информацию до сведения общественности, тщательно прорабатывая детали, поскольку считаем, что люди имеют право знать правду. Разумеется, некоторые сведения — например, касающиеся вопросов национальной безопасности — останутся конфиденциальными <..> Мы хотим быть уверены, что именно мы определяем развитие ИИ, а не он формирует нас. Проще говоря, контроль должен оставаться за человеком. Я понимаю, что эти перемены вызывают беспокойство у многих австралийцев — как, безусловно, и у правительства. В то же время я хочу заверить граждан: правительство предпринимает все возможные меры для их защиты. Этот инцидент наглядно демонстрирует, почему мы переходим к разработке австралийских стандартов в области ИИ и почему мы создали совместный парламентский комитет. Эти стандарты призваны гарантировать, что искусственный интеллект будет служить людям и работать на их благо, а не наоборот», — заявил премьер в четверг.

Позже государственная ABC подтвердила, что по свежим следам скандала правительство планирует ввести новые ограничения. Помощник министра науки, технологий и цифровой экономики Эндрю Чарлтон рассказал, что власти планируют заставить технологические компании «не выпускать в обращение небезопасные модели». Разработчикам нейросетей «предстоит проделать еще немалую работу по обеспечению безопасности, прежде чем выпускать эти модели в открытый доступ». По словам чиновника, правительство готовит законопроект об «обязательных стандартах безопасности ИИ». Заодно туда включат требования к строительству центров обработки данных. Принять и подписать все документы по этому поводу хотят примерно в начале 2027 года.

Парламентская оппозиция обвинила премьера в намеренном удержании фактов для большего эффекта во время заседаний ООН. Представитель оппозиции по вопросам обороны Джеймс Патерсон заявил, что не считает даты выступления «совпадением», и потребовал от премьера объяснить, когда на самом деле стало известно о взломе.