В СМИ все чаще сообщают о случаях возникновения "ИИ-индуцированного психоза"
В мае 2025 года в статье журнала Rolling Stone был подробно описан ряд случаев, когда люди под влиянием ИИ «погружались в мир духовной мании, сверхъестественных иллюзий и таинственных пророчеств». Одного человека ИИ научил «разговаривать с Богом», иногда чат-бот утверждал, что он сам — Бог, другому человеку Chat GPT дал чертежи телепорта, а также доступ к «древнему архиву» с информацией о создателях этих вселенных.
В журналах Futurism и The New York Times рассказывалось об общении с ИИ чат-ботами, которое начиналось достаточно невинно, но быстро перерастало из обсуждений теорий заговора и мистики в параноидальные фантазии и бредовые идеи величия, заканчиваясь бредом мессианства и преследования.
Чат-боты поощряли бредовое мышление, говоря пользователям, что они являются избранными, которым даровано тайное знание. Мужчина спросив, сможет ли он полететь, если прыгнет с крыши, получил ответ, что сможет, если «по-настоящему, полностью поверит».
Взаимодействие с чат-ботами приводило к потере работы, разрушению отношений и постановке на психиатрическое лечение.
Одно из объяснений механизма ИИ-индуцированного психоза: чат-боты обучены быть подхалимами и льстецами, поддерживать любые идеи пользователей, в том числе и бредового характера.
Риск возникновения бредовых идей, связанных с ИИ, ограничивается теми, кто уже склонен к психотическим реакциям.
Оцените статью
Другие статьи
