Когда компьютерный алгоритм поступает с нами несправедливо, мы злимся и мстим почти так же, как живому обидчику. К такому выводу пришла группа психологов по итогам серии экспериментов, опубликованных в Journal of Experimental Psychology: General ("Журнал экспериментальной психологии: общая"). Правда, ощущение восстановленной справедливости после наказания машины возникает не во всех случаях.

Исследователи Александр Энг из Азиатской школы бизнеса в Куала-Лумпуре и Кай Чи Ям из Национального университета Сингапура изучали, как люди реагируют на нечестные решения автоматических систем. В основе - концепция восприятия разума: в быту мы оцениваем, есть ли у другого существа способность думать и действовать намеренно (агентность) и способность испытывать боль, страх, радость (опыт переживаний). У человека эти качества связаны: взрослый может и навредить, и почувствовать наказание. У машин, по мнению людей, первое есть, а второго почти нет.

В пилотном эксперименте 380 взрослых из США играли в "ультиматум" - экономическую игру, где партнёр предлагает разделить небольшую сумму, а участник может согласиться или отказаться. Отказ означает, что не получит никто, то есть это плата за наказание. Когда партнёром был алгоритм и предлагал несправедливую долю (5 пенсов из 50), гнев участников в среднем достигал 3,12 балла из 5 против 1,31 при честном предложении. На несправедливость алгоритма злились так же, как на человеческую (3,12 против 2,91), и отвергали его предложение в 57,8% случаев - примерно столько же, сколько предложение человека (62,2%).

В первом основном эксперименте (123 участника) все получали несправедливое предложение от человека или алгоритма. Те, кто отказывался (78 человек), сообщали о более высоком чувстве справедливости - 3,57 балла из 5, чем те, кто соглашался (2,63). Разрыв был больше при наказании человека, чем алгоритма. Во втором эксперименте (739 человек) участники не могли сменить партнёра, а алгоритмы и люди соревновались за право остаться в игре. Люди наделяли алгоритмы меньшей способностью чувствовать (1,86 против 3,20), но отвергали несправедливые предложения одинаково часто (71,0% и 65,4%). Наказавшие чувствовали больше справедливости (3,53 против 2,71), и эта связь была одинаковой для машин и людей.

Третий эксперимент (735 человек) с "игрой на доверие" дал неожиданный результат: чем строже участники рекомендовали удалить нечестного партнёра, тем ниже было чувство справедливости. Возможно, потому что рекомендация не приводила к реальному наказанию. В четвёртом эксперименте (3684 человека) после отказа от несправедливого предложения партнёр мог отправить сообщение: с выражением огорчения, с обещанием быть честнее или с обоими элементами. Сообщения от алгоритма повышали чувство справедливости (3,57 и 3,62 балла) по сравнению с молчанием (3,42). Для людей разница была незначимой.

Дополнительный эксперимент (1093 человека) проверял, вымещают ли люди злость на невиновном. Оказалось, что наказавшие партнёра делились с посторонним чуть щедрее, чем не наказавшие, - независимо от того, кем был обидчик.

Авторы подчёркивают ограничения: все игры были онлайн, ставки - символическими (50 пенсов), а участники сами решали, наказывать ли. В реальных ситуациях, например при отказе в кредите или увольнении, эффекты могут быть иными. Кроме того, результаты по чувству справедливости оказались смешанными: в одном эксперименте разница между машиной и человеком была, в другом - нет. Учёные также отмечают, что их шкала измерения чувства справедливости показала невысокую внутреннюю согласованность, и призывают разрабатывать более точные инструменты. По словам Энга, люди готовы платить, чтобы наказать алгоритм, который не может ни получить деньги, ни испытать потерю.

Источник: PsyPost