В Роскомнадзоре предложили скрывать посты про чиновников и дипфейки — «Ъ»

В Роскомнадзоре предложили ввести «ограничение распространения» постов про госорганы и дипфейков — пишет «Коммерсантъ». Проект обсуждался на IV Форуме «Технологии доверенного искусственного интеллекта» в прошлом месяце. Решение ещё не принято. 

Идею предложил Главный радиочастотный центр при Роскомнадзоре. Именно это ведомство занимается мониторингом постов граждан, которые раздражают власть. Под контролем центра находятся программы для отслеживания россиян в интернете, включая ИИ «Окулус», который ищет посты про ЛГБТ, ВСУ и сепаратизм, чтобы у силовиков были материалы для уголовных дел. В 2022 году ведомство взломали хакеры. Сотрудники центра занимались «замедлением» YouTube, WhatsApp и Телеграма. Насколько можно судить, это же подразделение отвечает за техническое замедление и блокировки VPN, хотя, как сообщалось, политическое решение по этому поводу принимает Вторая служба ФСБ.

Начальник отдела специальных проектов и академических программ Научно-технического центра ГРЧЦ Станислав Махортов сообщил, что его ведомство уже предлагает заставить соцсети искать и «ограничивать» дипфейки со своих серверов. Изменения «реализуют на законодательном уровне». Примечательно, что чиновник использовал формулировку «контроль и блокировки сообщений», которые могут распространяться. Неизвестно, будет ли проверка на дипфейки проводиться в личной переписке или в закрытых чатах.

Также Роскомнадзор предлагает создать базу технологических угроз для «просвещения населения» и технологических решений для обмена информацией между ведомствами и бизнесом. Отдельно упоминается принудительная маркировка ИИ-контента. Не раскрывается, какие наказания будут грозить нарушителям.

После выступления представители Роскомнадзора заявили, что регулирование дипфейков будет «основываться на понятных, открытых и реализуемых возможностях их оперативного выявления и прекращения распространения». Чиновники намекают, что компании соцсетей должны будут использовать «собственные возможности» для блокировок, но это всего лишь «один из вариантов реализации». В частности, спрашивать будут тех, кто фигурирует в контенте. Эксперты сомневаются, что можно ввести надёжный алгоритм, который будет безошибочно 

«Требуется большая детализация и экспертиза от регулятора, чтобы определять, что относится к запрещенному или требующему маркировки контенту, на примере конкретных кейсов в части сгенерированного медиаконтента. Запрещать сами технологии непродуктивно. В ручном режиме решить задачу сложно, поэтому потребуется применение ИИ. Потенциал создания системы по выявлению такого контента на базе существующих решений есть, но полностью автоматизировать процесс не получится», — говорит гендиректор компании «Социальная лаборатория» Наталия Тылевич.

В Роскомнадзоре добавили, что будет введена некая форма предварительной цензуры, которую назвали приостановкой «распространения материала до проверки достоверности информации у доверенного источника».