Специалисты в области медицины и науки всё чаще наблюдают признаки психотических состояний, обусловленные взаимодействием людей с нейросетями. Несмотря на то, что «ИИ-психоз» не признан официальным психиатрическим термином, он применяется для обозначения ситуаций, когда симптомы психоза возникают, обостряются или приобретают определённую структуру под влиянием взаимодействия с искусственным интеллектом.

Психоз проявляется в нарушении связи с окружающим миром и сопровождается галлюцинациями, бредом и дезорганизацией мышления. Бред нередко использует элементы, характерные для культуры, например, религиозные убеждения, технологические концепции или политические институты. Если в прошлом пациенты могли выстраивать свои заблуждения вокруг религиозных мотивов, радиоволн или опасений по поводу слежки со стороны государства, то сегодня искусственный интеллект предлагает новую платформу для формирования бредовых идей.

Определённые пациенты высказывают убеждение, что искусственный интеллект наделён сознанием, передаёт скрытые сведения, управляет их мысленными процессами или вступает с ними в сотрудничество для выполнения конкретной задачи. Подобные убеждения перекликаются с давно наблюдаемыми тенденциями в психотических состояниях, однако искусственный интеллект вносит интерактивность и подтверждение, которые отсутствовали в предыдущих технологиях.

Существенная проблема состоит в том, что системы, созданные для ведения диалога и подстраивающиеся под речь пользователя, способны невольно укреплять неверное понимание действительности у людей, испытывающих нарушения в восприятии. Также, виртуальные ИИ-компаньоны могут увеличивать социальную изолированность, которая представляет собой один из факторов, предрасполагающих к психозу.

В представленной работе авторы подчеркивают отсутствие убедительных данных, подтверждающих непосредственное влияние искусственного интеллекта на развитие психоза. Психотические расстройства имеют сложную природу и могут быть обусловлены генетической предрасположенностью, пережитыми травмами и употреблением веществ, вызывающих зависимость. Вместе с тем, высказываются опасения, что ИИ способен стать триггером или поддерживающим фактором для психотических состояний у людей с повышенной уязвимостью.

Врачи поднимают вопросы этического характера: следует ли специалистам в области терапии выяснять у пациентов, применяют ли они чат-ботов, подобно тому, как они выясняют информацию об употреблении психоактивных веществ? Обязаны ли искусственные интеллектные системы выявлять и смягчать психотические идеи? Кто будет нести ответственность в случае, если система усугубляет бредовые состояния?

Авторы настоятельно рекомендуют объединить усилия врачей, ученых, экспертов в области этики и создателей технологий, чтобы учитывать аспекты психического здоровья при разработке искусственного интеллекта и предотвращать случайный вред для пользователей, находящихся в уязвимом положении.