Чат-боты на основе искусственного интеллекта (ИИ) всё чаще используются как доступный способ поговорить о душевном состоянии. Однако, как отмечает профессор Уоррен Мэнселл из Школы здоровья населения Университета Кёртина (Австралия), такие беседы могут приносить пользу, а могут и усиливать тревожные или вредные мысли, а также формировать эмоциональную зависимость от бота. Свои соображения он изложил в статье, опубликованной в журнале Digital Health.

Мэнселл - не сторонний наблюдатель: ещё в 2013 году он одним из первых оценил работу терапевтического чат-бота. В новой работе он предлагает схему, которая объясняет, почему разговор с ИИ даёт разный эффект. По его мнению, результат зависит от эмоционального состояния человека, от того, чего он ждёт от общения, и от того, как отвечает чат-бот.

Речь идёт о двух возможных путях развития беседы. В одном случае бот помогает человеку исследовать проблему и взглянуть на неё иначе. В другом - разговор зацикливается на повторяющихся мыслях и поиске утешения, что может удерживать человека в замкнутом круге.

Мэнселл подчёркивает: пользу приносит не безусловное согласие с пользователем, а помощь в исследовании чувств и проверке собственных допущений. "Для одних чат-бот может стать пространством, где можно высказаться и разобраться в проблемах без страха осуждения. Для других повторяющееся утешение или подтверждение уже имеющихся убеждений способно затруднить взгляд на ситуацию под другим углом", - поясняет он.

Исследования в этой области дают противоречивые результаты. Одни работы показывают, что чат-боты могут уменьшать симптомы депрессии и тревоги, другие предупреждают о вредных ответах, эмоциональной зависимости и о том, что ИИ укрепляет существующие убеждения пользователя, даже если они опасны.

По словам Мэнселла, один и тот же бот может помочь одному человеку и навредить другому. Более того, эффект для одного и того же пользователя может меняться со временем в зависимости от того, как он ведёт диалог. Пример: человек с тревожностью использует чат-бота, чтобы обдумать волнения и рассмотреть альтернативные взгляды на ситуацию. Но если разговор снова и снова сосредоточен на поиске утешения или подтверждении страхов, мышление скорее сузится, чем поможет справиться с проблемой.

Особую тревогу, по мнению автора, такие риски вызывают у людей, которые уже уязвимы и больше всего нуждаются в психологической поддержке. Доступность, низкая цена и круглосуточная работа чат-ботов - очевидные плюсы, но польза, как считает Мэнселл, зависит от того, побуждают ли они к осмысленному размышлению или просто дают немедленное утешение, чтобы удержать пользователя.

Разработчикам, полагает исследователь, стоит создавать ботов, которые помогают обдумывать проблемы, задают вдумчивые вопросы и предлагают разные точки зрения, а не просто говорят то, что человек хочет услышать. Кроме того, важно оценивать, как разговор развивается с течением времени, а не судить об эффективности только по тому, стало ли легче сразу после общения.

Мэнселл советует подходить к беседам с ИИ с ясной целью и учитывать, как использование чат-ботов сочетается с другими сторонами жизни и отношениями. Предложенная им схема пока не проверена - нужны дальнейшие исследования, чтобы установить, почему одни разговоры с ИИ поддерживают психическое здоровье, а другие могут усиливать психологический дистресс (состояние сильного стресса и эмоционального напряжения). Понимание этих различий, заключает автор, важно для создания более безопасных и эффективных технологий.

Источник: Tech Xplore