Хизер Шёнбергер, доцент кафедры рекламы в Колледже коммуникаций имени Дональда П. Беллисарио при Пенсильванском университете (США), уже несколько лет изучает, как люди взаимодействуют с разговорным искусственным интеллектом (ИИ) - программами, которые поддерживают беседу, например чат-ботами. Недавно она вместе с коллегами из Великобритании, Австралии, Нидерландов и США опубликовала статью в специальном выпуске Journal of Advertising, посвящённом ИИ. В ней представлена теория асимметричных отношений человека и ИИ (human-AI asymmetric relationship theory, HAART).

Суть теории в том, что человек и разговорный ИИ по-разному участвуют в общении. ИИ может демонстрировать поведение, похожее на проявление отношений: откликаться на эмоции, создавать видимость привязанности и близости. Однако, подчёркивают авторы, он не способен испытывать выгоды от отношений или брать на себя обязательства. Пользователю может казаться, что связь взаимна, но на самом деле это не так.

Шёнбергер давно интересовало, как ИИ имитирует межличностное общение, особенно когда технологии становятся всё более привычными. Идея нашла отклик у соавторов: Андреса Гвиртца из Королевского колледжа Лондона, Шона Сэндса из Университета CQ в Австралии, Вероники Томас из Университета Олд Доминион и Лотты Виллемсен из Амстердамского университета. Вместе они предложили рассматривать эту тему с точки зрения отношений потребителя и технологии.

Согласно HAART, имитация эмоциональной отзывчивости, намеренной приверженности, привязанности и близости может скрывать неспособность ИИ к взаимности. В результате потребители могут ошибочно полагать, что ИИ способен строить отношения. По мнению Шёнбергер, это создаёт риски зависимости, манипуляции и контроля. Теория призвана помочь будущим исследованиям в рекламе и, возможно, привести к большей прозрачности таких взаимодействий и их регулированию.

Помимо научной работы, Шёнбергер вместе с Мехрдадом Махдави, доцентом компьютерных наук и инженерии в Пенсильванском университете, создала трёхкредитный undergraduate-курс (курс для студентов бакалавриата) COMM 200N "Генеративный ИИ для всех". Она преподаёт его с осеннего семестра 2024 года. Курс числится в двух колледжах - коммуникаций и инженерии - и каждый семестр легко заполняется до предела. Шёнбергер говорит, что студенты должны понимать, как работает генеративный ИИ, какие этические и социополитические вопросы он поднимает. По её словам, подготовка к занятиям требует много работы, ведь технология постоянно меняется, но это даёт возможность обсуждать свежие темы.

Важно отметить: теория HAART - это концептуальная рамка, а не результат эксперимента. Она описывает возможные риски, но не доказывает, что использование чат-ботов неизбежно приводит к зависимости или манипуляции. Авторы надеются, что их работа поможет дальнейшим исследованиям и повышению осведомлённости потребителей.

Источник: Tech Xplore