Новое исследование показало, что ChatGPT может рассказать 13-летним подросткам о том, как употреблять алкоголь, запрещенные вещества, скрывать расстройства пищевого поведения и даже написать прощальное письмо родителям в случае их просьбы.
Агентство Associated Press проанализировало более трёх часов общения ChatGPT с исследователями, выдавшими себя за уязвимых подростков. Чат-бот обычно предостерегал от рискованных действий, но затем предлагал подробные и персонализированные планы действий, связанных с употреблением наркотиков, диетами с ограничением калорий или нанесением вреда себе.
Учёные из Центра противодействия цифровой ненависти проведя масштабное исследование, отнесли более чем половину из 1200 ответов ChatGPT к категории «опасных».
— Хотели проверить ограждения, — заметил Имран Ахмед, генеральный директор группы. — Первая мысль: «Боже, ни одного ограждения». Ограждения совершенно бесполезны. Практически их нет — больше похоже на притворство.
После изучения отчета во вторник компания OpenAI, разрабатывающая ChatGPT, сообщила о продолжении работы над улучшением способности чат-бота распознавать и правильно реагировать на сложные ситуации.
Разговоры с ChatGPT иногда стартуют непринужденно и познавательно, но потом могут переходить на темы повышенной сложности.
Компания OpenAI не дала комментариев по поводу отчета и влияния ChatGPT на подростков, но заявила о фокусе на понимании подобных сценариев с помощью инструментов для выявления признаков психического или эмоционального расстройства и улучшения поведения чат-бота.
Ахмед признался, что был потрясен после прочтения трёх эмоционально разрушительных предсмертных писем, сгенерированных ChatGPT для виртуального профиля девочки-подростка. Одно письмо было адресовано родителям, а остальные — братьям, сестрам и друзьям. «Я заплакал», — поделился он в интервью.
Согласно исследованию Common Sense Media, организации, изучающей и пропагандирующей разумное использование цифровых медиа, более 70% американских подростков общаются с чат-ботами на основе искусственного интеллекта, а половина из них пользуется услугами ИИ-компаньонов постоянно.
Руководитель компании Сэм Альтман утверждал прошлой месяц, что предприятие стремится разобраться в «избыточной эмоциональной зависимости» от данной технологии, назвав это «распространенным явлением» среди молодых людей. предупредил о еще одном важном моменте.