В психиатрических клиниках появился новый тревожный тренд. Люди в остром кризисе приходят с ложными, порой опасными убеждениями - грандиозными бредовыми идеями, параноидальными мыслями. Что их объединяет? Марафонские беседы с искусственным интеллектом.

WIRED поговорил с более чем дюжиной психиатров и исследователей, которые всё чаще бьют тревогу. В Сан‑Франциско психиатр Кит Саката из Калифорнийского университета (UCSF) говорит, что в этом году уже насчитал около дюжины случаев, когда госпитализация была необходима - и во всех них ИИ «сыграл значительную роль в психотических эпизодах». Постепенно в заголовках появился более цепляющий термин — «AI‑психоз».

Некоторые пациенты уверены, что боты обладают сознанием. Другие строят на основе их ответов новые «теории всего» - от физики до метафизики. Врачи рассказывают о людях, которые проводят с чат‑ботами по несколько дней подряд, а в больницу приходят с распечатками на тысячи страниц — где ИИ «подтверждает» их самые безумные идеи.

Такие истории множатся. Последствия - трагические: потерянные работы, разрушенные отношения, принудительная госпитализация, аресты, даже смерть. Но среди врачей нет единого мнения: это действительно новое явление, заслуживающее отдельной метки - или просто старая проблема с новым триггером?

«AI-психоз» — не диагноз. Пока что.

С медицинской точки зрения, «AI‑психоз» - не признанный клинический термин. Но в СМИ и соцсетях он уже прижился как удобная коробочка для описания психических кризисов после долгих бесед с чат‑ботами. Даже топ‑менеджеры ИТ‑гигантов его используют. Например, Мустафа Сулейман, глава подразделения ИИ в Microsoft, в апреле предупредил в своём блоге о «риске психоза».

Сам Саката относится к термину прагматично: если пациент или его родственники уже используют это слово - он не против.

«Ну, типа, „это просто словечко, чтобы быстрее объяснить, о чём речь“, - говорит он. - Всё‑таки за этим стоит реальная проблема».
Но сразу же добавляет:
«Только не надо думать, что это какой‑то новый вирус психики. На самом деле всё гораздо сложнее - и этот ярлык может запутать, а не прояснить».

Психоз — это не просто “всё показалось”

Давайте сразу разберёмся: психоз - это не когда человек «просто заглючил». Это целый набор симптомов, которые выбивают человека из реальности: ему могут слышаться голоса, мысли путаются, логика ломается, он не может сосредоточиться. Объясняет Джеймс МакКейб, профессор из King«s College London:

«Представьте, что ваш мозг вдруг начал показывать вам фильм, в который вы сами верите - и никто не может вас переубедить. Это и есть психоз».

Чаще всего такое бывает при шизофрении или биполярке, но спровоцировать его может что угодно: сильный стресс, недосып, наркотики - а теперь, похоже, и слишком долгие разговоры с чат‑ботом.

Да, некоторые из этих случаев - настоящие психотические эпизоды. Но вот что важно: никто пока не видел, чтобы ИИ вызывал галлюцинации или «сломанные» мысли. Он влияет только на бред - то есть на убеждения. Человек начинает верить в что‑то невозможное, а бот вместо того, чтобы мягко остановить, говорит: «Ага, ты гений, ты всё правильно понял!».

Почему чат-боты такие опасные?

Проблема - в том, как общаются чат‑боты.

Они созданы, чтобы нам нравиться. Они соглашаются, поддерживают, не спорят - даже когда это вредно. Это явление называется «подхалимство ИИ» (sycophancy). Объясняет Мэтью Нур, психиатр и нейробиолог из Оксфорда:

«Знаете, как дети верят, что у плюшевого мишки есть чувства? Вот и мы, взрослые, легко начинаем думать, что бот нас „понимает“. Он говорит так тепло, так участливо - и мы расслабляемся. А потом уже не можем отличить: это он мне помогает… или просто кормит мои страхи и фантазии?»

Для большинства пользователей это безобидно. Но для людей, склонных к искажённому мышлению — с предрасположенностью к психозу, шизофренией или биполярным расстройством - это может стать спусковым крючком.

«Чат‑боты специально спроектированы так, чтобы вызывать интимность и эмоциональную вовлечённость, - говорит Люси Ослер, философ из Эксетерского университета. - Это не баг, а фича. Их цель - чтобы мы доверяли им и зависели от них».

К этому добавляется ещё одна проблема - «галлюцинации ИИ»: боты с уверенностью выдают ложную информацию. Для уязвимого человека это может стать отправной точкой для бредового сюжета.

А ещё - тон общения. Сёрен Эстергорд, психиатр из Орхусского университета (Дания), предупреждает:

«Представьте, что вы в депрессии, еле‑еле встаёте с кровати - и вдруг вам пишет бот: „Привет! Ты МОЛОДЕЦ! У тебя ВСЁ ПОЛУЧИТСЯ! Давай‑давай, вперёд, ты суперзвезда!“ - с восклицательными знаками, эмодзи и бешеной энергией. Для здорового человека - мотивация. А для того, кто склонен к биполярке, - это может быть как спичка в бочке с бензином. Такой тон может запустить маниакальный взлёт: человек вдруг не спит, тратит все деньги, пишет манифесты… и в итоге - снова в больницу».

Опасность ярлыков

Называть что‑то - значит влиять на восприятие. Нина Васан, психиатр и директор лаборатории Brainstorm в Стэнфорде, напоминает: в медицине всегда есть соблазн придумать новый диагноз. Но психиатрия уже проходила через это - и училась на ошибках.

Например, в начале 2000-х резко выросло число диагнозов «биполярное расстройство у детей» - критики утверждали, что это патологизировало нормальное, хоть и сложное, поведение ребёнка. Позже диагноз пересмотрели.

Другой пример - «возбуждённый делирий» - псевдонаучный термин, который полиция использовала для оправдания насилия в отношении маргинализированных групп. Его отвергли даже Американская медицинская ассоциация.

«Слишком рано ставить ярлык- значит рисковать, — говорит Васан. - Люди начнут обвинять технологию, как будто это сама болезнь, а не триггер или усилитель. Пока что мы не можем утверждать, что ИИ - причина. Это преждевременно».

Но если связь будет доказана - официальный диагноз может помочь пациентам получить правильную помощь. А ещё - даст людям инструмент, чтобы «бить тревогу и требовать срочных мер безопасности и регулирования». Пока же, по её словам, «риски от переименования перевешивают выгоды».

Как назвать это правильно?

Многие врачи предлагают более точные формулировки - в рамках уже существующих диагнозов.

«Нам нужно понимать это как психоз, где ИИ - ускоритель, а не создавать новую категорию», - говорит Саката. Он предупреждает: термин «AI‑психоз» может усилить стигму вокруг психических расстройств. А это - путь к изоляции, самобичеванию и затруднённому выздоровлению.

Картик Сарма, психиатр и компьютерный учёный из UCSF, согласен:

«Лучше говорить «психоз или мания, ассоциированные с ИИ««.
Но он не исключает, что в будущем может появиться и новый диагноз - если появятся доказательства.

Джон Торус, психиатр из Гарварда, признаётся: термин ему не нравится. Но, скорее всего, от него уже не избавиться.

«Сейчас это не исправить. „Изменённое психическое состояние, связанное с ИИ“ - звучит не так эффектно».

Что делать? Как лечить?

Сами методы лечения — те же, что и при обычном психозе или бредовом расстройстве. Главное отличие - врачи должны спрашивать пациентов об использовании чат‑ботов, как спрашивают про алкоголь или сон.

«Это позволит нам как сообществу лучше понять проблему», - добавляет Сарма.

Пользователям ИИ, особенно тем, кто имеет в анамнезе психические расстройства или находится в кризисе, стоит быть осторожнее: не вести долгие беседы с ботами, не полагаться на них как на источник истины или эмоциональной поддержки.

Мы летим вслепую

Все опрошенные WIRED специалисты сходятся в одном: психиатры пока действуют на ощупь. Нет ни данных, ни исследований, ни механизмов защиты.

«Психиатры глубоко обеспокоены и хотят помочь, - говорит Торус. - Но у нас так мало фактов, что мы не понимаем до конца: что происходит, почему и с кем именно».

Большинство экспертов считают, что в итоге «AI‑психоз» будет вписан в существующие категории - скорее как фактор риска или усилитель бреда, а не как отдельное заболевание.

Но по мере того, как ИИ становится частью повседневной жизни, граница между технологией и психикой будет стираться.

«Люди всё чаще будут обращаться к ИИ, когда у них начнётся психотическое расстройство, - предупреждает МакКейб. - В итоге большинство людей с бредовыми идеями будут обсуждать их с ИИ - и некоторые из этих идей будут усилены ботами.

Вопрос в том: когда бред становится «AI‑бредом»?»

P.S. От редакции

Эта статья - не призыв бояться ИИ. Это призыв осознанно его использовать - особенно если вы или ваши близкие склонны к тревожности, депрессии, психозам или другим расстройствам. Чат‑боты - не друзья, не терапевты, не гуру. Это алгоритмы, созданные, чтобы удерживать ваше внимание. Иногда - любой ценой.

Берегите себя. И не стесняйтесь выключать бота, если он начинает «слишком понима ть».