На саммите RightsX в Женеве верховный комиссар ООН по правам человека Фолькер Тюрк выступил с резкой критикой того, как сегодня управляется искусственный интеллект (ИИ). По его словам, ситуация напоминает Средневековье: власть сосредоточена в руках нескольких технологических баронов, а обычные люди лишены возможности влиять на происходящее.
Тюрк отметил, что всего пять компаний владеют более чем 70% мировых вычислительных мощностей, используемых для работы ИИ. Это создаёт, по его выражению, "вопиющий демократический дефицит" - то есть нехватку участия общества в принятии решений. "Технологией будущего управляют почти по-средневековому: узкий круг избранных, практически без сдержек, противовесов, участия и подотчётности", - сказал он.
По мнению верховного комиссара, история учит: когда власть так сконцентрирована, первыми страдают права и свободы простых людей. Он предупредил, что ИИ всё сильнее влияет на жизнь людей, часто без их ведома, и может искажать общественную дискуссию "тонкими, незаметными способами". Кроме того, предвзятые алгоритмы (то есть программы, которые могут воспроизводить несправедливость из-за ошибок в данных или правилах) способны тиражировать несправедливость в промышленных масштабах.
Тюрк также указал на растущие риски для инфраструктуры. Транспорт, продовольственное снабжение и здравоохранение всё больше оцифровываются. "Возможно, мы недалеко от того дня, когда ИИ сможет отключить критическую инфраструктуру целых сообществ или стран - самостоятельно или попав в неверные руки", - предупредил он. В связи с этим он задал вопрос: "Когда люди обсуждают вероятность цивилизационного коллапса из-за ИИ, нужно спросить: кто решает, на какой риск мы идём?"
Несмотря на тревожные прогнозы, Тюрк выразил оптимизм: он верит, что люди в конечном счёте бросят вызов бесконтрольной власти, и демократический дефицит превратится в дефицит доверия. Он привёл пример молодёжи, которая уже отказывается от постоянного пребывания в сети, чтобы вернуть контроль над своей жизнью.
Верховный комиссар подчеркнул, что блага от ИИ должны распределяться справедливо. Для этого нужны добрая воля технологических компаний, но также регулирование и подотчётность. Тюрк сообщил, что направил письма ведущим компаниям в области ИИ с призывом ввести эффективные меры защиты, "пока не стало слишком поздно". Он сравнил ситуацию с бутылкой молока, которая не попадает в магазин без многоступенчатых проверок и правил. "Для ИИ само собой разумеется, что нужна какая-то форма регулирования", - заключил он, имея в виду потенциальный вред технологии. Что касается обучения моделей, Тюрк предложил поставить перед ИИ "задачу" следовать Всеобщей декларации прав человека.

Комментарии
0Комментариев пока нет. Начните обсуждение.