Алгоритмы соцсетей устроены так, чтобы удерживать внимание: они показывают то, что вызывает реакцию. Но, как выяснили учёные, в ленте X (бывший Twitter) автоматическая сортировка часто продвигает посты, расходящиеся с убеждениями самого пользователя. Работа опубликована в Proceedings of the National Academy of Sciences.

Авторы - Зив Эпштейн из Массачусетского технологического института и Майкл Бернстайн из Стэнфордского университета с коллегами. Они опирались на теорию базовых человеческих ценностей Шалома Шварца. Эта модель описывает универсальные мотивации, среди которых безопасность общества, традиции, открытость изменениям и забота о других. Исследователи сопоставили эти ценности с текстами постов.

В работе участвовали 715 взрослых американцев, активно пользующихся X. Они установили браузерное расширение, которое фиксировало две ленты: "Following" (подписки без сортировки) и "For You" (персональная подборка алгоритма). Специальная модель искусственного интеллекта определяла, какие ценности выражает каждый пост.

Оказалось, что в ленте "Following" посты в целом соответствуют тому, что участники заявляли о своих ценностях в опросах. Однако в "For You" картина менялась: обнаружена отрицательная корреляция - статистическая связь, которая сама по себе не доказывает причинность, - между декларируемыми ценностями и теми, что транслировал алгоритм. Иными словами, система активнее показывала материалы, противоречащие взглядам человека.

На самом общем уровне алгоритм немного отдавал предпочтение индивидуалистическим ценностям перед коллективистскими. Он стабильно усиливал посты о порядке и сохранении привычного уклада - например, о подчинении правилам, общественной безопасности и традициях. При этом подавлял материалы о заботе о других, надёжности и защите природы.

Дисбаланс затронул пользователей с разными политическими взглядами, но у демократов он оказался выражен сильнее.

Чтобы понять механизм, учёные отдельно изучили, как люди взаимодействуют с постами в течение 24 часов. Лайки и репосты обычно совпадали с личными ценностями - это осознанная поддержка. А вот ответы чаще расходились с убеждениями, что похоже на конфронтацию. У демократов такие ответы в среднем немного не соответствовали их ценностям.

Поскольку алгоритм X придаёт ответам большой вес, исследователи предположили петлю обратной связи: человек вступает в спор с неприятным постом, система видит высокую вовлечённость и показывает ещё больше раздражающего контента. В итоге лента наполняется тем, что провоцирует реакцию, а не тем, что человеку близко.

Кроме того, общий анализ показал: глобально популярный контент чаще совпадал с ценностями республиканцев. Это позволяет предположить, что правым пользователям не нужно ввязываться в конфликтные дискуссии, чтобы получать близкие им материалы.

Исследование основано на наблюдениях: учёные не вмешивались в работу алгоритма. Поэтому оно не может окончательно доказать, что именно конфронтационные ответы - единственная причина несоответствия. Авторы отмечают необходимость контролируемых экспериментов и повторных проверок на больших выборках.

Тем не менее результаты ставят вопрос: какие модели поведения должны поощрять алгоритмы соцсетей? Если система учится в первую очередь на спорах и трениях, она будет и дальше создавать среду, противоречащую предпочтениям самих пользователей.

Источник: PsyPost