Власти Флориды начали проверку ChatGPT из-за того, что им пользовался студент, устроивший стрельбу в университете

Флорида начнёт проверять OpenAI на связи с китайскими коммунистами и передачу информации об оружии стрелку. Об этом говорится в твите генпрокурора штата Джеймса Утмайера.

Стрельба на кампусе Университета штата Флорида (FSU), рядом со зданием студенческого союза, произошла 17 апреля 2025 года примерно в полдень. Огонь из полуавтоматического пистолета Glock 21 калибра .45 открыл 20-летний студент Феникс Икнер. Преступник был подстрелен в челюсть сотрудниками полиции на кампусе, но выжил. Два человека погибли, шестеро получили ранения. Оружие, как выяснилось, он украл у мачехи, которая имела статус помощницы шерифа. При себе у него был дробовик, который в шутинге не использовался. Икнеру предъявлены два обвинения в убийстве первой степени и семь обвинений в покушении на убийство первой степени. Сейчас он находится в тюрьме округа Леон.

В процессе расследования власти изучили переписку Икнера с ChatGPT от OpenAI. Офис прокурора штата передал её местным СМИ. Как объяснили журналисты, из истории чата следовало, что утром в день стрельбы Икнер задавал вопросы о самооценке, обиде на отсутствие уважения и «высказывал суицидальные наклонности». Сразу после этого, как утверждается, он начал общаться с нейросетью об огнестрельном оружии и об освещении шутингов в США, а также о наказаниях за массовые убийства и о тюрьмах во Флориде. У того же ИИ он спросил, в какое время рядом со зданием студенческого союза FSU может находиться больше всего людей. ChatGPT предположил, что большая часть молодых людей оказывается в этой зоне в период с 11:30 до 13:30. Утверждается, что Икнер спросил у чата, как снимать предохранитель с дробовика, за три минуты до начала шутинга. ChatGPT дал ему подробную инструкцию, но, учитывая, что дробовик не использовался, можно предположить, что ИИ «соврал» или «сгаллюцинировал». 

В OpenAI отчитались о том, что начали сотрудничать с полицией по первому запросу. Через несколько месяцев после трагедии в компании пообещали, что бот будет поддерживать и уважать «реальные отношения» пользователей, «избегать подтверждения необоснованных убеждений, потенциально связанных с психическим или эмоциональным расстройством», «эмпатично реагировать на потенциальные признаки бреда или мании», а также «уделять больше внимания косвенным сигналам потенциального риска самоповреждения или самоубийства».

Генеральный прокурор Джеймс Утмайер объявил о начале формального расследования в отношении OpenAI. Одним из оснований стала стрельба в FSU. Дополнительно чиновник упомянут «опасения по поводу того, не попадают ли данные и технологии ИИ OpenAI, которые могут быть использованы против Америки, в руки врагов Америки, таких как Коммунистическая партия Китая». Как объявил прокурор, ИИ должен существовать для того, чтобы «дополнять, поддерживать и развивать человечество, а не приводить к экзистенциальному кризису или нашей окончательной гибели». Остаётся неясным, на что конкретно «проверяют» разработчиков.

«Разработка и внедрение искусственного интеллекта — это монументальный технологический скачок, но он не обошелся без опасений за общественную безопасность и национальную безопасность. ИИ основан на его способности собирать данные, и существуют опасения по поводу того, не попадают ли данные и технологии ИИ OpenAI, которые могут быть использованы против Америки, в руки врагов Америки, таких как Коммунистическая партия Китая. Чат GPT от OpenAI также был связан с преступной деятельностью, включая распространение материалов с изображением сексуального насилия над детьми, использование педофилами и подстрекательство к самоубийству и членовредительству», — сказал он.

Недавно OpenAI объявила о закрытии приложения для создания ИИ-роликов Sora. Гендиректор компании Сэм Альтман предложил превратить искусственный интеллект в коммунальную услугу с оплатой по счётчику. Компания заключила полусекретную сделку с Пентагоном после того, как Anthropic отказалась создавать роботов-убийц и вести слежку за американцами