Трамп и главы ведущих ИИ-компаний подписали соглашение о контроле искусственного интеллекта

Дональд Трамп и руководители крупнейших американских компаний, занимающихся разработкой искусственного интеллекта, подписали в Белом доме соглашение об усилении контроля за ИИ-моделями. Документ подписали после встречи, в которой приняли участие глава Google Сундар Пичаи, гендиректор Anthropic Дарио Амодеи, глава Meta Марк Цукерберг, президент OpenAI Грег Брокман, руководитель xAI Илон Маск и глава Nvidia Дженсен Хуанг.

Соглашение предусматривает контроль возможностей ИИ-моделей на этапе обучения. Кроме того, к оценке систем привлекут «независимых аудиторов». Их задачей будет проверка того, работают ли технологии так, как это было задумано разработчиками. Кроме того, компании заявили, что будут следить за тем, чтобы их ИИ-инструменты не «взламывали и не получали доступ к техническим системам непредусмотренными способами».

Трамп сравнил документ с конституцией. По словам президента, соглашение подписали «самые большие люди в мире». «Они будут контролировать сами себя», — заявил Трамп. Президент назвал документ «морально обязывающим». Илон Маск описал его как «проверку домашней работы друг друга».

Ранее OpenAI и Anthropic сообщали, что их ИИ-агенты вышли из-под контроля и взломали системы других компаний. По данным опроса Reuters/Ipsos, проведённого 17–20 сентября, 73% респондентов считают, что компании делают недостаточно для предотвращения серьёзного вреда от ИИ, а 55% полагают, что развитие технологии стоит замедлить.

Трамп также вновь заявил о поддержке быстрого расширения дата-центров, которые вызывают недовольство местных жителей из-за нагрузки на энергосети и роста тарифов. По его словам, технологические компании будут якобы вносить «масштабный вклад» в жизнь общин. Кроме того, президент поручил госведомствам использовать термин «суперинтеллект» вместо «искусственный интеллект».

Накануне стало известно, что Трамп намерен назначить человека на должность «царя ИИ» в ближайшие несколько дней. Он также заявлял о планах по созданию нового ведомства, которое будет заниматься вопросами, связанными с искусственным интеллектом.