Генеративный искусственный интеллект - технология, способная создавать тексты, изображения и другие материалы на основе обученных моделей, - всё активнее используется в работе. Журналисты, маркетологи и специалисты по коммуникациям применяют его для черновиков новостей, корпоративных сообщений и рекламных материалов. Однако у таких инструментов есть скрытая проблема: они могут тиражировать искажения, которые незаметны на первый взгляд.

Мугур Джана, профессор журналистики и массовых коммуникаций Канзасского университета, посвятил главу в книге "Устойчивый ИИ - ИИ для устойчивого развития: сборник для специалистов по связям с общественностью, коммуникациям и устойчивому развитию" (издана Университетом прикладных наук Квадрига в Берлине, свободно доступна на платформе Zenodo) тому, как распознавать предвзятость ИИ и не perpetuating её в работе. Книга представляет собой сборник взглядов авторов со всего мира и задумана как эксперимент по использованию ИИ в издательском деле.

В основе главы - понятие эпистемической несправедливости, введённое учёной из Лондонского университета Мирандой Фрикер. Эпистемическая несправедливость - это ситуация, когда чьё-то знание или опыт систематически игнорируются или обесцениваются. Джана анализирует, как большие языковые модели (системы ИИ, обученные на огромных массивах текстов) могут усиливать такую несправедливость. По его словам, обучающие данные не включают истории и опыт многих сообществ, потому что те никогда не были оцифрованы. "Корпус, который мы используем для обучения ИИ, либо не имеет доступа ко всем этим источникам знаний, либо решает их игнорировать. Я думаю, это серьёзная проблема, с которой ИИ сталкивается сегодня", - отмечает исследователь.

Чтобы помочь специалистам избежать ловушек предвзятости, Джана предлагает чек-лист из четырёх измерений: достоверность свидетельств, полнота интерпретации, репрезентация (визуальная и повествовательная) и институциональная ответственность. Чек-лист содержит вопросы, которые помогают выявить потенциальные искажения, тревожные сигналы и способы их избежать. Важно понимать: речь идёт не о доказанном вреде, а о статистической связи между тем, какие данные использовались для обучения, и тем, какие ответы выдаёт модель. Корреляция сама по себе не доказывает причинно-следственную связь, но указывает на необходимость критической проверки.

Джана подчёркивает: ИИ обучается на человеческих материалах, а они небезупречны. Поэтому всё, что создаёт ИИ, нужно критически проверять - это синтетическая сущность, которая не несёт ответственности за свои действия. В школе журналистики Канзасского университета придерживаются принципа "человек в начале, человек в конце": ИИ должен оставаться не более чем инструментом. В заключении главы автор пишет: задача коммуникаторов - не отказываться от инструментов, а перестать принимать беглость их речи за доказательство точности и выработать привычку систематически спрашивать, чей голос и чьё знание попали на страницу.

Источник: Tech Xplore