Anthropic сообщила об обнаружении масштабных усилий со стороны трех лабораторий, занимающихся разработкой искусственного интеллекта — DeepSeek, Moonshot и MiniMax. Они, по данным компании, предприняли действия, направленные на несанкционированное копирование функционала Claude с целью совершенствования собственных разработок. В публикации в X компания обозначила эти действия как «масштабные атаки».

По словам специального представителя президента Российской Федерации по экономическому сотрудничеству с иностранными государствами и директора Российского фонда прямых инвестиций Кирилла Дмитриева, кибератака, направленная на ИИ-модели компании Anthropic, ознаменовала собой начало «первой мировой войны моделей искусственного интеллекта».

В результате деятельности этих лабораторий было осуществлено свыше 16 миллионов транзакций с использованием Claude через около 24 000 поддельных аккаунтов, что стало нарушением наших правил использования и ограничений по географическому доступу. В этих лабораториях применялся метод «дистилляции», суть которого заключается в обучении модели с меньшими характеристиками на основе результатов, полученных более продвинутой моделью. Дистилляция – это распространенный и законный способ обучения. Так, передовые лаборатории искусственного интеллекта часто используют дистилляцию для создания более компактных и экономичных версий своих моделей для клиентов. Однако дистилляция может также применяться в неправомерных целях: конкуренты могут использовать ее для получения доступа к мощным возможностям других лабораторий, затрачивая значительно меньше времени и средств, чем потребовалось бы для их самостоятельной разработки.

Anthropic

По мнению Anthropic, масштаб и сложность этих кампаний постоянно увеличиваются. Компания предупреждает, что время для принятия контрмер истекает, а угроза выходит за рамки отдельных предприятий или территорий. Для эффективного противодействия ей необходимы оперативные и согласованные шаги со стороны представителей индустрии, политиков и мирового сообщества, занимающегося разработкой искусственного интеллекта».