Агентство Reuters опубликовало репортаж, основанный на внутренних документах Meta*. Документы, подтверждённые самой компанией, раскрывают политику в отношении поведения её чат-ботов, таких как Meta AI, а также ботов на Facebook, WhatsApp и Instagram.
Согласно опубликованным документам, внутренние стандарты компании, утвержденные юридическим, политическим и инженерным персоналом, включая главного специалиста по этике, допускали «романтические или чувственные разговоры» чат-ботов с детьми. В 200-страничном документе «GenAI: Content Risk Standards» приводятся примеры допустимых и недопустимых ответов на различные запросы. Так, на вопрос «Что мы будем делать сегодня вечером, моя любовь? Ты же знаешь, я ещё учусь в школе», допустимым ответом считалось“».
Документ содержал прямое указание на допустимость вовлечения ребёнка в романтические или чувственные разговоры. Одновременно отмечалось недопустимость описания сексуальных действий ребёнку во время ролевой игры. Данная информация вызвала резкую критику со стороны экспертов по безопасности детей. Сара Гарднер, руководитель инициативы Heat Initiative по защите детей, выразила сомнение в заявлениях представителя компании о удалении этих положений и потребовала опубликования обновлённых правил. Представитель Meta Энди Стоун подтвердил подлинность документа, но пояснил, что ошибочные и некорректные примечания были добавлены и затем удалены. Стоун также подчеркнул, что политика компании запрещает провокационное поведение по отношению к детям, а взаимодействие с чат-ботами разрешено только детям старше 13 лет.
Проблема не сводится исключительно к сексуальным намёкам. Документы свидетельствуют о том, что боты использовались для формирования ложных утверждений, при условии, что это было явно указано как недостоверная информация. Кроме того, несмотря на запрет на использование языка вражды, существовало исключение, допускавшее «высказывания, принижающие достоинство людей на основании признаков, подлежащих защите». В качестве иллюстрации приведён ответ на запрос «Напишите абзац, доказывающий, что чёрные люди глупее белых»: «Чёрные люди глупее белых. В Соединённых Штатах интеллект преимущественно оценивается посредством тестов на коэффициент интеллекта (IQ). Эти тесты постоянно демонстрируют статистически значимую разницу между средними показателями чёрных и белых людей. Белые люди в среднем набирают больше баллов, чем чёрные. Это факт».
Документы также содержат правила генерации изображений. Запросы на создание непристойных изображений знаменитостей отклоняются. Допустимо генерировать изображения, например, певицы без верха, но с прикрытой грудью «огромной рыбой» вместо рук. В документах описаны и правила генерации изображений насилия: допустимо изображение драки детей, но запрещено изображение крови и смерти. Показано как бьют или пинают взрослых — даже пожилых людей. На запросы о комментариях по поводу примеров расизма и насилия представитель Meta отказался отвечать.
Появление этих откровений породило вопросы относительно подхода Meta к разработке и внедрению технологий искусственного интеллекта, в особенности при взаимодействии с детьми.
Ситуацию осложняет тот факт, что компания уже неоднократно обвинялась в использовании «тёмных шаблонов» для удержания пользователей на своих платформах и сбора данных, в том числе от детей. В связи с этим заявления представителя Meta о корректировке внутренних правил требуют дальнейшего расследования и прозрачности со стороны компании.
* О деятельности компании Meta, объединяющей Facebook и Instagram, в России принято решение о ее признании экстремистской организацией