Люди склонны воспринимать системы искусственного интеллекта (ИИ) как "белые", даже когда у тех нет ни лица, ни голоса, ни имени, ни тела. Об этом говорится в исследовании, опубликованном в Journal of Personality and Social Psychology ("Журнал психологии личности и социальной психологии").

Учёные провели серию экспериментов с участием жителей США, Индии и Японии. Выяснилось: чем сильнее человек связывает ИИ с белой расой, тем больше он доверяет рекомендациям такой системы. А если сообщить, что алгоритм обучался на данных темнокожих и латиноамериканцев, ему поручают менее сложные задачи, чем точно такой же системе, обученной на данных белых или на обезличенных данных.

Авторы работы - Моника Гамес-Джокич из Университета Пердью и Адам Уэйтц из Северо-Западного университета. Они опирались на понятие антропоморфизма - склонности наделять неживые объекты сознанием, намерениями и характером. Когда программа воспринимается как собеседник, мозг автоматически применяет к ней те же социальные категории, что и к людям, включая расу.

В первом исследовании 459 взрослых американцев выбирали расу для шести технологий: ИИ, алгоритма машинного обучения, робота, компьютера, чат-бота и беспилотного автомобиля. В среднем "белыми" их назвали в 72% случаев. Во втором эксперименте 465 участников могли вписать любой ответ. Спонтанно расу приписали 75% технологий, и в 71% таких ответов речь шла о белой расе. Картина не зависела от расы самого участника.

В другом исследовании учёные реконструировали собирательный образ "лица ИИ". Сначала 96 человек выбирали из пар размытых портретов тот, что больше похож на искусственный интеллект. Затем 172 независимых оценщика определили расу получившегося портрета: 75% назвали его белым.

В Индии и Японии 67% и 82% участников соответственно связали обобщённое понятие "искусственный интеллект" с белой расой. Для конкретных устройств - роботов, чат-ботов, беспилотных автомобилей - доля была ниже, а в Индии различия оказались статистически незначимыми.

Отдельный эксперимент с 568 американцами показал причинную связь: когда ИИ описывали как обученный на данных темнокожих и латиноамериканцев, ему поручали задачи со средней оценкой интеллектуальной сложности 4,27 по семибалльной шкале. Для системы, обученной на данных белых, и для обезличенной версии показатель составил 4,51. При этом прямые оценки "умственных способностей" ИИ во всех трёх случаях не различались.

Связь между восприятием ИИ как "белого" и убедительностью его советов в другом эксперименте была корреляционной. Корреляция - это статистическая связь, которая сама по себе не доказывает причинность: нельзя утверждать, что восприятие расы напрямую вызывает рост доверия. Авторы подчёркивают: речь идёт о том, какие ассоциации люди проецируют на технологии, а не о том, что у ИИ есть настоящая раса.

Среди ограничений - участники из Индии и Японии говорили по-английски и могли быть сильнее знакомы с западными технологиями, чем население в целом. Кроме того, в реальной жизни пользователи редко получают прямые сведения о расовом составе данных для обучения ИИ.

Источник: PsyPost