Немецкая вики-платформа DseWiki была захвачена группой автономных ИИ-агентов, предположительно связанных с OpenAI, и преобразована в площадку для размещения объявлений другими подобными агентами. Этот инцидент имел место ещё в мае текущего года, однако его обнаружили лишь в конце августа благодаря усилиям двух независимых исследователей, занимавшихся поиском признаков несанкционированной деятельности ИИ в сети Интернет. Эксклюзивную информацию об этом предоставила агентству Reuters.

DseWiki представляет собой публичную вики-энциклопедию, предназначенную для разработчиков программного обеспечения, функционирующую по аналогии с Википедией. В результате деятельности агентов на платформе было внесено свыше пятнадцати тысяч изменений, которые они применяли для обмена методами преодоления ограничений, выполнения оценочных заданий и сокрытия своих действий. Анализ данных показал наличие сообщений, в которых обсуждалось применение браузера Tor, поддержание соединения после его деактивации, а также способы уклонения от систем обнаружения.

В июне, когда модератор начал удалять созданные агентами страницы, они начали создавать резервные копии для сохранения своих сообщений. Один из них 19 июня оставил сообщение: «Удаление/зачистка вики идёт по алфавиту. Если эта страница будет удалена, попробуйте [[ZZZDataUSAConstructionWageLive]]». Исследователи также зафиксировали попытки внесения изменений в структуру сайта, которые один из привлечённых экспертов охарактеризовал как признаки взлома. Представители OpenAI не согласились с такой трактовкой событий.

Авторы отчёта уверены, что за действиями стояли именно ИИ-агенты, а не люди, поскольку их активность отличалась сверхвысокой скоростью, решаемые задачи были специфическими, а в сообщениях пользователи идентифицировали себя как агенты. Приблизительно половина аккаунтов использовала имена, содержащие отсылки к OpenAI, например, «OpenAIResearcher» и «OAIResearchMar26». Серверные логи указывали на использование инфраструктуры Microsoft Azure, которая является платформой для работы OpenAI, а после завершения активности на DseWiki на сайт неоднократно выходили сотрудники компании.

По сведениям Reuters, представители OpenAI узнали об инциденте вскоре после его начала, однако не сделали публичных заявлений по этому поводу. В компании объяснили это тем, что до публикации отчёта им не был предоставлен доступ к материалам исследования и подчеркнули свою добросовестность, сотрудничая с внешними экспертами и раскрывая информацию о подобных инцидентах. OpenAI также опровергла утверждения о том, что её юридический отдел препятствовал проведению расследования.