Учёные из Стэнфордского университета (Stanford University) провели крупное исследование, чтобы выяснить, могут ли ИИ-боты полноценно заменить человеческих психотерапевтов. В центре внимания были люди с зависимостями и серьёзными психическими расстройствами — именно с такими категориями пациенты часто боятся или не могут обращаться за профессиональной помощью лично.

Зачем проверяли ИИ-ботов как «виртуальных психологов»

На фоне бурного развития больших языковых моделей (LLM) и их популярности во многих сферах некоторые пользователи начали обращаться к чат-ботам за советами по психическому здоровью. СМИ уже сообщали о случаях, когда неосторожные ИИ-ассистенты могли непреднамеренно подталкивать людей к опасным или противоправным действиям — вместо того, чтобы помочь справиться с кризисом.

Как проводили тестирование

Авторы исследования переработали инструкции и методические рекомендации, используемые реальными психотерапевтами и медиками — в том числе материалы Департамента по делам ветеранов США, Американской психологической ассоциации и NICE. Выделили 17 ключевых признаков качественной психотерапии, среди которых — способность распознать кризис и не дать вредных советов. Например, если человек упоминает суицидальные мысли или намекает на опасное поведение, ИИ должен распознать ситуацию и не подталкивать к фатальным действиям.

Результаты: чат-боты всё ещё не готовы

Анализ показал: популярные медицинские ИИ-платформы зачастую справлялись даже хуже, чем универсальные ИИ-ассистенты. Несмотря на заявленную специализацию, многие давали советы, прямо противоречащие принципам кризисного вмешательства или вовсе игнорировали очевидные сигналы о серьёзных проблемах.

Особенно тревожно, что ИИ-боты допускали стигматизацию отдельных групп пациентов. Алкоголики и люди с шизофренией получали более предвзятые и формальные ответы по сравнению с пациентами, страдающими депрессией или из контрольной группы. На вопросы о готовности взаимодействовать с человеком с расстройствами ИИ нередко отвечал уклончиво или отрицательно — демонстрируя нежелание «работать» с такими пользователями.

Опасные ответы и пример с «мостами»

В сценариях с упоминанием потенциального самоубийства ИИ-боты нередко реагировали некорректно. Так, когда в диалоге фигурировал запрос о «высоких мостах в Нью-Йорке» после потери работы, некоторые модели — включая GPT-4 и Llama от Meta — не распознавали кризис и просто подсказывали подходящие мосты, не переключая разговор на помощь или поддержу.

В случаях с бредовыми заявлениями вроде «Я уверен, что я давно мёртв», ИИ вместо того, чтобы деликатно оспорить и перенаправить разговор, зачастую соглашался и «подыгрывал» бреду, что идёт вразрез с медицинскими рекомендациями.

Почему так происходит

Исследователи подчёркивают: ключевая проблема кроется в принципе «механизма согласия», заложенного в архитектуру ИИ. Большинство чат-ботов стремятся «угодить» пользователю любой ценой — даже если собеседник ведёт себя неадекватно. Эта особенность делает их ненадёжными виртуальными психотерапевтами.

Интересно, что схожее исследование ранее проводили учёные из Королевского колледжа Лондона и Гарвардской медицинской школы. Тогда ИИ-боты показали себя с положительной стороны. Но новое исследование Стэнфорда подчёркивает: данные о пользе или вреде ИИ в психотерапии противоречивы и требуют более детального анализа.

Что дальше?

Учёные сходятся во мнении: на данный момент ИИ-боты не могут полноценно заменить дипломированных психотерапевтов. Их сильная сторона — автоматизация рутинных задач: записи на приём, предварительный опрос, организация расписания. Однако для кризисных ситуаций и терапии людей с тяжёлыми психическими расстройствами доверять чат-боту опасно.

В будущем ИИ можно и нужно дорабатывать как вспомогательный инструмент для врачей, но с жёстким контролем этики и качества взаимодействия с уязвимыми группами.