Восприятие студенческой молодежью психологических рекомендаций, сгенерированных нейронными сетями (на примере ChatGPT)

Быстрое развитие технологий нейросетей привело к возможности решения сложных задач, которые ранее казались неразрешимыми. Модели глубокого обучения на основе нейронных сетей, позволяющие создавать различные тексты, активно внедряются в образовательную, коммерческую, управленческую и развлекательную деятельность [25]. На основе данной технологии стало возможным автоматическое создание новостей, отслеживание fake-новостей, написание рассказов, рекомендаций, которые могут быть использованы в диалоговом режиме в общении с пользователем [23].

Система способна создавать рекомендации на любую тему, в том числе и психологического характера. В связи с этим возникает этическая проблема, которая нуждается в изучении: сгенерированный текст может восприниматься пользователем как экспертное мнение, не соотноситься с другими источниками, но использоваться при этом для принятия различных решений. Создание текстовых данных с помощью нейросети происходит на основе обработки обучающего набора данных, который так или иначе имеет свои ограничения по объему входящих данных и времени для обучения [13]. За счет итеративного анализа данных создается максимально реалистичный текст, обладающий всеми внешними признаками завершенности [20].

Взаимодействие с нейросетью можно рассматривать как самостоятельный вид коммуникации, которая способна повлиять на представления человека о мире. Так как данные технологии занимают все больше жизненного пространства каждого пользователя, важным становится изучение трансформации системы массовой коммуникации и изменение личностных смыслов взаимодействия с «живым» и искусственным интеллектом [5].

Существует риск, что нейросети могут стать производственным или социальным фильтром. На данный момент нейронные сети хорошо справляются с задачей распознавания эмоций [19], рекомендации публикаций [12], распознавания личностных черт [16], что позволяет создавать персонализированное информационное поле для каждого пользователя, вне зависимости от его желания. По результатам многих исследований можно сказать, что пользователи легко поддаются влиянию рекомендаций и отзывов, большая часть из которых, на данный момент, создается нейросетью [22]. Это означает, что информация будет фильтроваться через нейросети, и люди могут быть ограничены в своих выборах или получать доступ только к определенным видам информации.

Множество исследований посвящено изучению восприятия рекомендаций, которые создают нейросети. Некоторые из них изучают, как пользователи воспринимают и реагируют на рекомендации, другие изучают, как улучшить качество рекомендаций, чтобы пользователи были более довольны и склонны использовать эти рекомендации в будущем.

В исследовании, проведенном Ш. Митчелл с коллегами [21], рекомендации, сгенерированные нейросетью, рассматриваются с позиций алгоритмической справедливости. Авторы указывают, что разработчики алгоритмов автоматизированных рекомендаций должны учитывать более широкие этические последствия своей работы, включая вопросы власти и социальной справедливости. В ходе исследования было установлено, что пользователи обычно относятся к рекомендациям нейросетей довольно скептически и предпочитают получать рекомендации от людей, которые имеют опыт в том, что они рекомендуют. Также было обнаружено, что пользователи чаще всего доверяют рекомендациям, если они имеют личный опыт использования продукта или услуги.

Согласно исследованиям Э. Эвен-Дар [14], люди часто доверяют цифровым рекомендациям и могут опираться при выборе на фактор популярности источника, а не его информативности. Также является важным личный опыт и знания для принятия решения.

В исследованиях И. Гай и коллег [15] было установлено, что восприятие рекомендаций, которые дают нейросети, может быть различным в зависимости от того, каким образом эти рекомендации были сформулированы и представлены пользователю. Например, использование более детальной информации о пользователях и их предпочтениях может повысить эффективность рекомендательной системы и восприятие ее рекомендаций пользователем. Однако, если пользователям будет предоставляться слишком много информации или слишком часто появляющиеся рекомендации, это может вызвать утомление и снизить доверие к системе.

Н. Кенигштейн в своём исследовании отметил, что пользователи больше доверяют прозрачной системе рекомендаций [17]. Для принятия рекомендаций пользователям важно знать путь создания данных рекомендаций для возможности контролировать процесс коммуникации.

В целом, восприятие рекомендаций зависит от многих факторов, таких как контекст использования, предпочтения пользователя и качество самой рекомендации. Стоит отметить, что бОльшая часть исследований посвящена изучению общих, коммерческих, новостных, образовательных рекомендаций. Однако, восприятие психологических рекомендаций практически не изучено.

Есть ряд исследований, посвященных внедрению технологий искусственного интеллекта в психологическое консультирование. Так Y. Li в своей работе указывает на возможность использования гибридных алгоритмов для определения психологического состояния пользователя и составления плана психологического консультирования [18]. В исследовании C. Zhang, M. Shu [24] описывается автоматизированная модель сбора психологической информации и модуль мониторинга состояния пользователей.

Важным становится вопрос изучения факторов, которые могут помочь улучшить качество рекомендаций и помочь сформулировать этические границы допустимости использования подобных рекомендаций для психологической помощи.

В связи с этим целью данного исследования стало экспериментальное изучение восприятия текстов, сгенерированных нейронной сетью по тематикам стандартных психологических запросов (на примере ChatGPT), и его сравнение с восприятием рекомендаций, написанных специалистом-психологом.

Материалы и методы

В работе была использована экспериментальная социально-психологическая модель исследования, дающая возможность оценить реальный опыт взаимодействия пользователей сети с психологическим контентом.

Для реализации цели нами были поставлены следующие задачи:

• проанализировать основные подходы к изучению возможностей работы с нейросетью, психологических рекомендаций и цифрового психологического консультирования;
• сформировать кейс, отражающие примеры рекомендаций специалиста психолога по типичному запросу;
• сгенерировать кейс с помощью нейросети (на примере ChatGPT) по типичному психологическому запросу;
• провести экспериментальное изучение отношения к сформированным кейсам;
• провести опрос о предыдущем опыте консультирования;
• выявить факторную структуру индивидуальной системы оценок кейсов, написанных психологом и нейросетью;
• выявить различия в восприятии кейсов, написанных психологом и нейросетью;
• выявить взаимосвязи восприятия кейсов, написанных психологом и нейросетью, и предыдущего опыта консультирования.

Нами были выдвинуты гипотезы о том, что:

1. существуют достоверно значимые различия в восприятии текстов, написанных психологом и сгенерированных нейросетью;
2. существует отрицательная взаимосвязь предшествующего опыта получения психологической помощи в форме консультации с готовностью обратиться за помощью к Chatbot.

Выборку для опроса составили 236 человек в возрасте от 17 до 40 лет (Mean=20,9, SD=4,03), из которых 86% (203) женщин и 14% (33) мужчин. Исследование проводилось в 2023 году в России, в городе Санкт-Петербурге.

В исследовании были использованы опросные методы, экспериментальные методы, семантические методы, статистические методы анализа данных.

Для анализа предыдущего опыта взаимодействия с психологом и оценки значимости психологической помощи был проведен опрос респондентов по следующим вопросам:

1. Есть ли у Вас опыт обращения к психологу?
2. Оцените эффективность работы с психологом.
3. Оцените свою готовность (желание) посоветовать этого психолога своим знакомым.
4. Я считаю, что чтение психологической литературы и рекомендаций психологов может помочь в решении психологических трудностей.

Для градации вариантов ответов на вопросы использовалась шкала Лайкерта. Для оценки отношения к психологической помощи был использован ряд вопросов из методики «Тест на определение потребности в психологической помощи» [8]: 1) Я думаю, что ни друзья, ни родственники не заменят профессионала-психолога, когда в жизни наступает кризис; 2) Я не верю, что кто-то, даже специалист-психолог, может лучше меня разобраться в моих проблемах.

Был проведен квазиэксперимент на одной выборке с введением двух эквивалентных экспериментальных воздействий.

Процедура эксперимента включила демонстрацию двух кейсов с рекомендациями на тему «Как пережить расставание?». Данный запрос был выбран как один из наиболее популярных по данным Фонда общественного мнения (https://fom.ru/Obraz-zhizni/14769). Для введения в эксперимент независимых переменных использовался прием «когнитивное плацебо»: оба текста были представлены как рекомендации психологов.

Описание кейсов. Первый кейс был основан на тексте, сгенерированном нейросетью (на примере ChatGPT). Второй кейс был основан на рекомендациях психолога, представленных на профессиональном сайте для психологов «B17». Рекомендации психолога были выбраны на основе рейтинга популярности ответов по запросу «Как пережить расставание?». Была сохранена авторская стилистика текстов рекомендаций, уравнен объем знаков.

В ходе эксперимента участникам после знакомства с кейсами было предложено оценить свою готовность обратиться к психологу, предоставившему данные рекомендации (использовалась семибалльная шкала Лайкерта). Также участникам эксперимента предлагалось оценить рекомендации с помощью авторского семантического дифференциала, который включил классические факторы, выделенные Ч. Осгудом (ф. Сила, ф. Оценка, ф. Активность), а также дополнительно включенный фактор (ф. Информативность).

Участие в эксперименте осуществлялось на добровольной основе. После проведения эксперимента с участниками проводилась постэкспериментальная беседа с раскрытием целей эксперимента и обсуждением результатов.

Обработка эмпирических данных осуществлялась с помощью методов математической статистики: 1) анализ первичных статистик; 2) анализ достоверно значимых различий изучаемых переменных (непараметрический Т-критерий Вилкоксона); 3) корреляционный анализ (коэффициент ранговой корреляции Спирмена); 4) факторный анализ (метод главных компонент, с последующим ортогональным вращением). Уровни значимости, рассмотренные в исследовании, составили р≤0,05. На этапе обработки результатов исследования был использован пакет прикладных программ статистической обработки данных IBM SPSS 19.0.

Результаты исследования

На первом этапе с помощью семантического дифференциала мы оценили восприятие психологических рекомендаций и с помощью Т-критерия Вилкоксона выявили достоверно значимые различия в восприятии текстов, написанных психологом и сгенерированных нейросетью (см. табл. 1).

Из приведенной таблицы видно, что респонденты достоверно выше оценивают текст нейросети по фактору «Отношение» (p=0,00001), фактору «Активность» (p=0.000782) и фактору «Информативность» (p=0,000082). А текст, написанный психологом, достоверно чаще оценивают выше по фактору «Сила» (p=0.00001).

Можно предположить, что текст нейросети, сгенерированный на основе массива популярных текстов, чаще использует клишированные фразы и нацелен, в первую очередь, на создание общих мотивирующих рекомендаций, которые оцениваются как более добрые, светлые, безопасные, а также веселые, яркие и понятные.

В то же время рекомендации психолога обладают индивидуальными характеристиками, направлены на презентацию личного мнения по заданной теме и создание запоминающейся самопрезентации для привлечения клиентов, что может делать текст более сложным, сильным, тяжелым, возбуждающим и подробным.

Также респонденты достоверно выше оценивают свою готовность обратиться к «специалисту», чей текст написала нейросеть, чем к специалисту психологу (p=0,000016).

Можно предположить, что в связи с тем, что текст, сгенерированный нейросетью, скорее всего, не вызывает негативных переживаний и сформулирован в более публицистическом стиле, то воспринимается как более легкий, не вызывает напряжения и вызывает больше доверия, чем текст, написанный психологом.

На следующем этапе мы изучили факторную структуру индивидуальной системы оценок психологических рекомендаций, написанных психологом и сгенерированных нейросетью (см. табл. 2, 3).

Первый фактор, объясняющий 26% общей дисперсии, был проинтерпретирован как «Оценочный компонент восприятия, связанный с концептом эстетической привлекательности и безопасности». Ведущие оценки в составе фактора описывают текст как безопасный, нежный, чистый, светлый и добрый. Можно предположить, что неспецифичная, публицистическая направленность текста формирует определённую установку по отношению к автору, наделяя его теми же качествами — безопасностью, нежностью и добротой [9] и создает ареол привлекательности.

Второй фактор (22% общей дисперсии) был проинтерпретирован как «Информационный компонент восприятия». Ведущие оценки в составе фактора описывают текст как Запоминающийся, Информативный, Полезный. Можно сказать, что четкий набор инструкций / советов, представленный в тексте, сгенерированном нейросетью, дает ощущение целостности и полезности.

Третий фактор, описывающий 11% общей дисперсии, был проинтерпретирован нами как «Аффективный компонент восприятия». Ведущие оценки в составе фактора описывают текст как веселый и молодой. Можно предположить, что для молодого поколения, чье восприятие мы изучаем, важным фактором является развлекательный компонент потребляемого контента, что также сказывается и на восприятии специализированной психологической литературы [2].

Рассмотрим факторную структуру индивидуальной системы оценок психологических рекомендаций, написанных психологом (см. табл. 3).

Первый фактор, объясняющий 29% общей дисперсии, был проинтерпретирован как «Самопрезентация, связанная с концептом привлечения внимания». Ведущие оценки в составе фактора описывают текст как хороший, глупый, сильный, информативный, привлекающий внимание. Можно сказать, что данный фактор описывает противоречивое отношение респондентов к данному тексту. Такое отношение связано с использованием различных коммуникативных стратегий привлечения внимания, часть из которых оценивается как успешная, а часть нет. Можно предположить, что в излишней индивидуализированности текста, направленной на попытку вызвать эмоции у читателя, теряется ритуализированность первого знакомства, которая позволяет создать ощущение принятия [6].

Второй фактор (26% общей дисперсии) был обозначен нами «Оценочный компонент восприятия, связанный с эстетическим и ценностным концептом» (как и для текста, написанного нейросетью). Ведущие оценки в составе фактора описывают текст как легкий, нежный, успокаивающий, безопасный. Можно сказать, что для части респондентов данный текст также показался безопасным и достаточно легким, что поспособствовало его позитивной оценке.

Третий фактор, описывающий 10% общей дисперсии, был проинтерпретирован нами как «Аффективный компонент восприятия». Ведущие оценки в составе фактора описывают текст как простой и быстрый. Можно сказать, что данный фактор также является общим и связан в целом с ускорением коммуникации в условиях цифровизации [11].

На последнем этапе с помощью рангового коэффициента корреляции Спирмена нами были выявлены достоверно значимые взаимосвязи компонентов восприятия текстов рекомендаций и готовности обратиться за помощью с предыдущим опытом консультирования (см. рис. 1).

Из приведенной корреляционной плеяды видно, что готовность обратиться за помощью к нейронной сети связана, в первую очередь, с восприятием ее информативности и оценкой эстетической и моральной привлекательности, создающих безопасное пространства диалога, а также с оценкой эстетической и моральной непривлекательности рекомендаций психолога. Также же стоит отметить, что готовность обратиться за помощью к нейронной сети отрицательно коррелирует с предыдущим опытом обращения к психологу. Можно предположить, что публицистический стиль нейросети, ориентированный на создание общих рекомендаций для людей без личного опыта консультирования, выглядит более безопасным и менее тревожным, так как не застрагивает глубинных переживаний и описание психологических механизмов.

Положительная взаимосвязь аффективного компонента восприятия рекомендаций нейросети со значимостью электронной психологической литературы и недоверием к психологической помощи также подтверждает предположение о том, что данные рекомендации кажутся привлекательными в первую очередь тем, кто ищет ознакомительные материалы публицистического и развлекательного характера, нежели работы со специалистом. Важным этапом продолжения данной работы будет изучение причин недоверия к психологам и поиск способов расширения психологической культуры.

Готовность обратиться к психологу положительно взаимосвязана с самопрезентацией, призванной привлечь внимание пользователей, а также с оценочным компонентом, включающим эстетическое восприятие текста рекомендаций и его безопасность и открытость.

Обсуждение результатов

Были выявлены достоверно значимые различия в восприятии текстов, написанных психологом и сгенерированных нейросетью. Респонденты оценивают тексты нейросети как более привлекательные, информативные и активные, а тексты психолога как более сильные. Участники эксперимента достоверно выше оценивают свою готовность обратиться за помощью к «специалисту», чьи тексты сгенерировала нейросеть, что указывает на помогающий потенциал данных ресурсов в организации психологических систем поддержки.

Анализ факторной структуры индивидуальной системы оценок психологических рекомендаций, созданных психологом и нейросетью, позволил изучить привлекательность текстов, созданных нейросетью. В первую очередь, тексты, созданные нейросетью, оцениваются с эстетической точки зрения, с позиции безопасности, понятности и легкости. Тексты рекомендаций психолога, в первую очередь, воспринимаются как направленные на самопрезентацию специалиста и оцениваются как привлекающие внимание, сильные, но глупые. Можно предположить, что тексты нейросети достаточно нейтральны и не вызывают сильных переживаний, что повышает их привлекательность, в то время как тексты психолога вызывают противоречивые реакции, что снижает их общую привлекательность.

Данные выводы соотносятся с исследованием А.М. Зураевой, З.Т. Джелиевой, которые указывают, что в настоящее время среди психологических практик наибольшей популярностью в интернете пользуются психологи-блогеры, которые предоставляют в первую очередь развлекательный контент [3] Также нашла свое подтверждение вторая гипотеза о том, что существует взаимосвязь предыдущего опыта консультирования и готовностью обратиться за помощью к специалисту, написавшему рекомендации. Была выявлена отрицательная взаимосвязь готовности обратиться за помощью к нейросети с предыдущим опытом обращений к психологу. Полученные данные соотносятся с результатами исследования В.О. Аникиной, А.Г. Поповой, Н.Л. Васильевой, которые указывают на важность учета предыдущего опыта обращений в предсказании готовности работы с психологом [1]. Можно предположить, что реальный опыт консультирования, связанный с необходимостью разрешения значимых проблем, приводит к снижению ценности обобщенных рекомендаций и делает тексты нейросети менее привлекательными.

Важно отметить наличие ограничений у данного исследования. Данный этап эксперимента включил демонстрацию только двух кейсов по одной тематике в сфере отношений. В дальнейшем необходимо расширение тем, которые будут предъявляться испытуемым, для понимания специфики реакций на различные психологические запросы.

Также в исследовании мы не рассматривали влияние социально-демографических факторов на особенности восприятия. Существует специфика отношения к психологической помощи у мужчин и женщин [10], у людей разных возрастных групп [4], что также целесообразно учесть в дальнейшем исследовании. Важно отметить, что большинство текстов в информационном пространстве являются креолизованными и включают изобразительный контент, который значительно меняет восприятие информации [7]. Важным продолжением исследования станет изучение восприятия текста вместе с фотографиями, видеоматериалом.

Заключение

На основе экспериментального исследования становится возможным изучении специфики запроса к психологической практике у молодежи. Анализ кейсов показал просветительский и мотивационный потенциал рекомендаций, сгенерированных нейросетью, а также ограничения данного метода. Раскрывается важный аспект популяризации психологического знания, который на данный момент связан, в первую очередь, с включением большого количества развлекательного и упрощенного контента в профилях психолога в цифровом пространстве. Данный процесс порождает специфические ожидания от работы с психологом. В связи с этим важность предыдущего опыта консультирования при выборе специалиста показывает необходимость расширения психологического просвещения о реальной работе психолога.

В продолжении данного исследования планируется расширить спектр психологических запросов для анализа, изучить взаимосвязь социально-демографических и личностных характеристик с предпочтениями пользователями, уточнить запросы к цифровой психологической помощи.

Финансирование. Работа выполнена при поддержке гранта Российского научного фонда №22-78- 10047, «Конструктивные и деструктивные коммуникативные практики специалистов помогающих профессий в цифровых медиа». URL: https://rscf.ru/project/22-78-10047/

Литература

1. Аникина В.О., Попова А.Г., Васильева Н.Л. Субъективные факторы обращения за психологической помощью мужчин // Мир науки. Педагогика и психология. 2020. Т. 8. № 5. С. 26.
2. Богдановская И.М., Королева Н.Н., Углова А.Б. Психологические факторы доверия к популярным видеоблогерам у современной молодежи // Психология. Журнал Высшей школы экономики. 2021. Т. 18. № 3. С. 451-467.
3. Зураева А.М., Джелиева З.Т. Психологическая помощь в онлайн-консультировании // Мир науки. Педагогика и психология. 2020. Т. 8. № 1. С. 48.
4. Крушная Н.А. Особенности психологического консультирования взрослых в кризисе // Человеческий фактор: Социальный психолог. 2018. № 1 (35). С. 293-296.
5. Малюженко К.А., Ушакова В.Р. Субъективная картина восприятия мира в смысловом восприятии автора и читателя // Заметки ученого. 2021. № 6-2. С. 49-54.
6. Матанцева Д.А. Стереотипы и нарушение социальных ритуалов общения на сайтах знакомств (badoo) // Социологический нарратив. 2020. С. 214-223.
7. Матвеев М.О., Нистратов А.А., Поликарпов Д.М., Тарасов Е.Ф. Смысловое восприятие креолизованного текста // Филологические науки в МГИМО. 2021. Т. 7. № 1 (25). С. 45-59.
8. Неупокоева Н. Потребность в психологической помощи // Психологическая служба в сельском районе // Сельская школа. 2003. № 5. С. 104-105.
9. Самсонова А.Н. Психологические механизмы формирования и функционирования установки в процессе восприятия художественного текста // Психология обучения. 2008. № 11. С. 80-92.
10. Шаповалов Р.А., Колпачников В.В. Проблема отношения мужчин к психологической помощи // Мир психологии. 2019. № 1 (97). С. 152-164.
11. Шаховский В.И. Ускоренная коммуникация как потребность современного социума // Языковое бытие человека и этноса. 2018. С. 285-293.
12. Chheda R., Bohara D., Karani R. Music recommendation based on affective image content analysis. Procedia Computer Science, 2023, vol. 218, pp. 383-392.
13. Diker S.N., Sakar C.O. Creating CREATE queries with multi-task deep neural networks. Knowledge-Based Systems, 2023, vol. 266, p. 110416.
14. Even-Dar E., Shapira A. A note on maximizing the spread of influence in social networks. Information Processing Letters, 2011, vol. 111 (4), pp. 184-187.
15. Guy I., Palomares I., Porcel C., Pizzato L., Herrera-Viedma E. Reciprocal Recommender Systems: Analysis of stateof-art literature, challenges and opportunities towards social recommendation. Information Fusion, 2021, vol. 69, pp. 103-127.
16. Kosan M.A., Karacan H., Urgen B.A. Predicting personality traits with semantic structures and LSTM-based neural networks. Alexandria Engineering Journal, 2022, vol. 61, is. 10, pp. 8007-8025.
17. Koenigstein N., Koren Y. Towards scalable and accurate item-oriented recommendations. Proceedings of the 7th ACM conference on Recommender systems, 2013, pp. 419-422.
18. Li Y., "Design of Psychological Consultation System Based on Weighted Fuzzy Hybrid Algorithm", Security and Communication Networks, 2021, p. 2208006. DOI: 10.1155/2021/2208006
19. Luzio F. Di, Rosato A., Panella M. A randomized deep neural network for emotion recognition with landmarks detection. Biomedical Signal Processing and Contro, 2023, vol. 81, p.104418
20. Magalhães D., Lima R. H. R., Pozo A. Creating deep neural networks for text classification tasks using grammar genetic programming. Applied Soft Computing, 2023, vol. 135, p. 110009
21. Mitchell S., Potash E., Barocas S., D’Amour A., Lum K. Algorithmic fairness: choices, assumptions, and definitions. Ann Rev Stat Appl, 2021, vol. 8, pp. 141–163. DOI:10.1146/annurev-statistics-042720-125902
22. Ren Y., Ji D. Neural networks for deceptive opinion spam detection: an empirical study. Information Sciences, 2017, vol. 385–386, pp. 213-224.
23. Trang H., Ngoc P., Nguyen T., Hwang D. Fake news detection: A survey of graph neural network methods. Applied Soft Computing, 2023, vol. 139, p. 110235
24. Zhang C., Shu. M. Health assessment method based on support vector machine. Computer Systems & Applications, 2018, vol. 27, pp. 18–26.
25. Wang J., Xie H., Tat O., Au Sh. Top-N personalized recommendation with graph neural networks in MOOCs. Computers and Education: Artificial Intelligence, 2021, vol. 2, p. 100010.

Источник: Углова А.Б., Королева Н.Н., Новикова П.В. Восприятие студенческой молодежью психологических рекомендаций, сгенерированных нейронными сетями (на примере ChatGPT) // Перспективы науки и образования. 2023. №3(63). С. 492–505. doi: 10.32744/pse.2023.3.29