Anthropic обвинила Alibaba в попытке скопировать ИИ-модель Claude через тысячи фейковых аккаунтов

Американская компания Anthropic направила в комитет Сената США по банковским делам письмо, в котором обвинила китайский холдинг Alibaba и его ИИ-лабораторию Qwen в незаконной попытке получить доступ к возможностям нейросети Claude. О документе, адресованном сенаторам Тиму Скотту и Элизабет Уоррен, сообщил телеканал CNBC.

В письме говорится, что операторы, связанные с Alibaba, провели «крупнейшую известную атаку методом дистилляции» против Anthropic. Под дистилляцией понимают способ обучения ИИ, при котором более слабая модель создаётся на основе ответов уже существующей, более мощной нейросети.

По данным Anthropic, в период с 22 апреля по 5 июня было зафиксировано 28,8 миллионов обращений к её моделям через примерно 25 тысяч фиктивных учётных записей. Атака, как утверждает компания, была направлена на самые ценные функции Claude — агентные рассуждения и разработку программного обеспечения.

В Anthropic сообщили, что Alibaba проигнорировала предупреждения администрации Трампа. Письмо появилось спустя два месяца после того, как Управление по научно-технической политике Белого дома выпустило меморандум о помощи компаниям в выявлении масштабных кампаний по дистилляции. «Мы считаем, что борьба с угрозой незаконной дистилляции требует согласованных действий государства и индустрии», — заявил представитель Anthropic.

В Alibaba на запрос CNBC не ответили.

Ранее в этом месяце компания получила от администрации Трампа приаз об приостановлении доступа иностранных граждан, в том числе сотрудников самой Anthropic, к её новейшим моделям Fable 5 и Mythos 5. Власти сослались на соображения национальной безопасности, не раскрыв подробностей.