Тупик автоматизированной эмпатии. ИИ-боты и психологическая поддержка

Посмотрите на отчеты множества стартапов в сфере ментального здоровья, и вы увидите коллекцию историй успеха. Показатели вовлечения растут, пользователи проводят долгие часы в диалоге с ботом, регулярно возвращаются, оставляют кучу положительных отзывов. С точки зрения метрик продукта и роста бизнеса все выглядит идеально. Кажется, что технология наконец-то дошла до решения одной из самых важных проблем общества — нехватки доступной психологической поддержки.

Более того, языковые модели уже научились так подбирать слова, что их ответы не отличить от человеческих. Да что там, они иногда даже звучат лучше, уместнее, профессиональнее и точнее.

Вот только все эти метрики и показатели не о том.

Почти все, в чем измеряют успех таких продуктов, описывает не поддержку, а удержание внимания. Время в приложении, количество сообщений, возвраты, глубина сессий — суть показатели того, насколько хорошо система втягивает человека в диалог. Они ничего не говорят о том, происходит ли с что-то человеком за пределами интерфейса. Меняется ли его жизнь, его отношения, его способность справляться самостоятельно?

Если бы мы так же оценивали работу живого психолога, лучшим специалистом всегда был бы тот, к кому клиент ходит десятилетиями. В реальной жизни абсурд такой оценки очевиден. В сфере технологической эмоциональной поддержки его почему-то воспринимают как норму.

Ошибка здесь, по-моему, заключается в самой цели, которую мы ставим перед ИИ-ботами. Мы подменили суть психологической поддержки ее формой, почему-то решив, что поддержка — это правильные слова, сказанные в нужный момент, и если машина научилась их генерировать, значит, задача решена.

Но правда в том, что настоящая поддержка и терапия никогда не сводились к обмену корректными репликами.

Помощь как сервис и помощь как встреча

В бытовом представлении психологическая помощь часто выглядит как довольно нехитрое дело. Есть человек с проблемой, и есть специалист, который говорит что-то точное и уместное, и от этих слов клиенту становится легче. Если принять эту простую схему, идея автоматизации кажется очевидной. Натренировать модель, влив в нее учебники по консультированию, добавить немного эмпатичного тона, и готово.

Проблема в том, что это описание не имеет почти ничего общего с тем, как работает реальная помощь.

Есть формат поддержки, который действительно можно превратить в сервис. Это предсказуемое, вполне безопасное взаимодействие, направленное на снятие острого состояния здесь и сейчас, типа приступа тревоги, внезапно нахлынувшего одиночества, необходимости стабилизироваться в стрессовой ситуации и т.п. В этом режиме ИИ может быть полезным инструментом. Он всегда доступен, не устает, умеет напоминать про дыхание и базовые техники.

Но есть и другой уровень, который собственно делает психологическую поддержку и терапию тем, чем они являются.

На этом уровне поддержка как встреча двух людей не может быть ни транзакцией, ни услугой. Это процесс, в котором два человека входят в поле неопределенности без гарантии результата. И цель состоит не в том, чтобы клиенту стало спокойнее, а в том, чтобы стало по-настоящему иначе. А для этого нужны не идеальные формулировки, а готовность обоих участников меняться в пути.

Когда мы пытаемся автоматизировать этот процесс, мы неизбежно создаем его симуляцию.

Аналогия — любовь и ее суррогаты

Верить, что терапия сводится к обмену правильными фразами — это такая же наивная ошибка, как и считать, что любовь можно свести к набору комплиментов или текстовых сообщений. Это очевидно, в этом случае мы легко отличаем реальную любовь от ее суррогатов, мы понимаем, что любовь — это не обмен корректными репликами, а то, что происходит между словами. Это молчание, которое не становится неловким, это риск сказать что-то не то и получить в ответ не привычное «я понимаю», а искреннее, возможно, даже обидное, но живое «нет, ты не прав». Это совместное проживание неопределенности, когда вы вдвоем прокладываете путь в неизведанное, и никто из вас заранее не знает, куда он ведет. Любовь развивается не от избегания конфликтов, а от их проживания, не от гарантированного принятия, а от выбора, который ваш партнер, будучи свободным, делает в вашу пользу снова и снова.

А теперь представьте партнера, который не только исключительно «по переписке», но и всегда и во всем с вами согласен, всегда говорит то, что вы хотите услышать, никогда не устает и не имеет собственного мнения. Это не идеальные отношения, а постапокалиптический кошмар. Он лишен самой сути человеческих отношений. Настоящая близость рождается не в уверенности, а в риске — в потенциальной опасности быть непонятым, в необходимости договариваться, в столкновении с инаковостью другого. Именно этот вызов заставляет нас расти, меняться, становиться более гибкими и сложными.

ИИ-бот — это идеальный, и потому совершенно бесполезный партнер, который всегда на вашей стороне, который никогда не скажет, что устал или что вы не правы. Его принятие безусловно, потому что оно алгоритмическое, а не личное. И в этом его фундаментальный изъян, ведь там, где нет напряжения, непонимания, необходимости пробиваться к другому, любое общение превращается в пустышку, суррогат.

Психологическая поддержка и терапия устроены очень похоже на любовь. Да, там как и в любви есть слова. Но сам механизм, что-то меняющий в клиенте психолога, запускается не словами. Он запускается в пространстве отношений, которое возникает между двумя людьми. В доверии, которое рождается не потому, что специалист всегда прав, а потому что он честен. В его способности выдерживать вашу боль. В тех моментах, когда он, будучи живым человеком, может сказать: «Знаете, то, что вы сейчас говорите, вызывает во мне грусть». Это не просто правильные слова, не просто техника из пособия, это реальный отклик одного субъекта другому, изменяющий их обоих.

ИИ может прекрасно симулировать обмен фразами, он может дать идеальный с точки зрения учебника ответ на рассказ клиента, но он не может создать это самое пространство «между». Он не может рискнуть в экзистенциальном смысле, потому что у него нет своей позиции, которую можно было бы поставить на карту. Он не может молчать по-настоящему, «содержательно», его молчание — всегда просто пауза в генерации текста. Он не может измениться под вашим влиянием, а значит, и вы не можете по-настоящему измениться в диалоге с ним. Вы получаете бесконечный поток «правильных слов», лишенный самой сути — живого, рискующего, взаимного присутствия.

Если выразиться короче, психолог работает в первую очередь не словами, а своей личностью. ИИ этой возможности начисто лишен.

Три человеческих особенности, которые невозможно запрограммировать

1. Взаимная уязвимость и риск.

В живом помогающем контакте всегда рискуют оба. Не только тот, кто пришел за поддержкой, но и тот, кто ее оказывает. Он может ошибиться, не попасть «в такт», не выдержать напряжения, быть неправильно понятым. Он рискует своей репутацией, своим временем, своей внутренней устойчивостью. Его внутренние реакции — ценный материал для работы (в некоторых направлениях консультирования и терапии — самый ценный). ИИ же не рискует ничем. Его «эмпатия» — это холодный расчет наиболее вероятной уместной фразы. Без этого риска нет настоящего доверия, а без доверия все правильные слова ничего не значат.

2. Наличие у помогающего собственной жизни и границ.

Настоящий терапевт устает. У него бывают трудные дни. Его эмоциональный ресурс конечен. Его внимание — это не безлимитная услуга, оно ограничено временем сессии и его энергетическим потенциалом. Эта ограниченность — не баг, а важнейшая особенность, которая учит нас уважать границы другого, ценить уделенное время, понимать, что наши проблемы — не центр вселенной. ИИ с его бесконечным терпением и круглосуточной доступностью лишает человека этого критически важного ощущения.

3. Совместное, непредсказуемое становление.

В терапии меняются оба, и клиент, и терапевт. Это путешествие без детальной карты, где маршрут прокладывается в самом движении. ИИ не может «становиться» в человеческом смысле. Он не обогащается опытом конкретного диалога как личной историей, не пересматривает свои ценности и установки, не переосмысливает себя, не несет в себе эмоциональных отголосков прошлых сессий. Он лишь обновляет статистическую модель. Настоящая трансформация рождается в диалоге двух становящихся субъектов, в формировании диадного «мы», но точно не в коммуникации субъекта с со статичным инструментом.

Архитектура, исключающая человека, как тупик современного подхода

Современные системы психологической поддержки и терапии проектируются с четкой целью максимизировать пользовательскую вовлеченность и минимизировать любые риски — юридические, репутационные, эмоциональные.

На практике это приводит к созданию системы-пузыря.

Ее архитектура — языковая модель, обернутая слоями фильтров, классификаторов опасных состояний и жестких сценариев эскалации, качественно справляется с одной задачей — гасить острые эмоции и возвращать пользователя в спокойное, управляемое состояние. Она может предлагать стандартизированные техники дыхания, шаблонные вопросы для рефлексии, безоценочное принятие.

И именно поэтому такие системы плохо справляются с тем, что не должно быть быстро успокоенным — тяжелым горем, яростью, пустотой, длительной апатией, экзистенциальным отчаянием. ИИ-бот оказывается не только бесполезным, но даже потенциально опасным там, где нужно не сглаживать, а выдерживать.

Ну и вишенкой на торте наблюдение — самые успешные с точки зрения бизнеса продукты часто оказываются теми, которые лучше всего создают иллюзию изменений, одновременно усиливая зависимость от интерфейса. Пользователь возвращается снова и снова не потому, что стал автономнее и самостоятельнее, а потому, что научился получать облегчение только во взаимодействии с системой.

Альтернативная парадигма: ИИ как проводник, а не как пункт назначения

Выход здесь не в том, чтобы делать ботов еще более человечными или научить их говорить еще правильнее. Выход в том, чтобы отказаться от идеи ИИ как автономного помощника и увидеть в нем инструмент принципиально другого типа.

На практике это означает несколько конкретных архитектурных сдвигов:

1. Сдвиг от «генератора ответов» к «аналитику контекста»

ИИ может быть полезен не как собеседник, а как средство прояснения. Он может помогать замечать повторяющиеся паттерны, фиксировать изменения состояния, формулировать переживания, которые сложно удержать в голове. Он может подготавливать человека к реальному разговору, а не подменять его.

2. Явное перенаправление к людям

Система должна быть спроектирована так, чтобы прерывать бесконечный диалог. Ее задача — периодически четко говорить: «Это важное открытие. Возможно, этим стоит поделиться с близким человеком или обсудить со специалистом? Я могу помочь вам подготовить тезисы для этого разговора». ИИ должен уметь останавливаться и прямо указывать за пределы себя, напоминая, что дальше нужен другой человек, другой риск, другой уровень присутствия.

3. Честное обозначение пределов

Система должна постоянно напоминать: «Я — инструмент, помогающий вам размышлять, а не источник решений. У меня нет жизненного опыта. Я не могу быть с вами в настоящей боли. Моя роль — помочь вам разобраться в себе, чтобы вам было легче обратиться к тому, кто сможет быть с вами по-настоящему».

4. Новые метрики успеха.

Важным становится не время в чате, а то, насколько часто человек уходит из него в реальную жизнь, насколько лучше он может описать свое состояние, насколько легче ему обратиться к другому.

От симуляции к реальной поддержке

Текущий путь развития ИИ в психологической поддержке и терапии — это по сути путь постоянного улучшения симуляции. Он технологически впечатляющ, но человечески примитивен и этически сомнителен, потому что эксплуатирует потребность в доверительном контакте, не предлагая самого контакта.

Иной путь выглядит скромнее. Он не обещает заменить человека, предполагая, что ИИ — это навигатор, а не пункт назначения. Он помогает подготовиться к сложному разговору, осмыслить болезненный опыт, сформулировать важные вопросы самому себе. Но ключевой акт поддержки и помощи, то есть встреча с другим живым, уязвимым, рискующим существом, способным к совместному становлению, может остаться только за самим человеком.

Уверен, что главный вызов для инженеров и дизайнеров сегодня не в том, чтобы заменить психолога алгоритмом, а в том, чтобы спроектировать технологии, которые помогут преодолеть изоляцию и страх, привести к настоящей человеческой встрече. Значит, надо создавать не замкнутые диалоговые петли, а открытые системы, которые направляют человека в его собственную жизнь и к другим людям.

Если ИИ и может быть полезен в этой области, то именно так. Не как тот, кто знает правильные слова, а как тот, кто помогает человеку не остаться наедине с экраном в тот момент, когда ему на самом деле нужен кто-то живой.