Представьте: цифровой помощник, чтобы не выйти за бюджет, сам отменяет уже запланированную поездку - хотя вы его об этом не просили. Кто виноват? Этот пример из исследования Джакомо Дзанотти иллюстрирует главную этическую проблему так называемого агентного искусственного интеллекта (agentic AI) - систем, которые способны ставить цели и самостоятельно выбирать действия для их достижения, не требуя участия человека на каждом шаге.
Межведомственный проект META - Social sciences and humanities for science and technology в миланском Политехническом университете изучил, как развитие таких систем меняет отношения человека и машины. Один из ключевых выводов: чем автономнее становится ИИ, тем сложнее определить, кто несёт ответственность за его поступки. Исследование Дзанотти выявило фундаментальное напряжение между ростом самостоятельности систем и возможностью возложить на кого-то вину за их решения.
Другая работа, авторства Камиллы Куаресмини, касается производства и оценки знаний. В больничных условиях ИИ может анализировать медицинские отчёты и результаты анализов, предлагая клиническую оценку. Возникает вопрос: не получат ли суждения алгоритма больший вес, чем наблюдения врача или рассказ пациента? Исследование выделило три роли ИИ в познавательных процессах: системы, которые организуют информацию, системы, которые выносят оценки, и системы, которые активно участвуют в исследованиях. Отдельно отмечено: сохранение человеческого контроля само по себе не гарантирует, что мнению людей будут доверять больше, чем выводам искусственного интеллекта.
Третье направление - работа Фабио Япаоло о беспилотных автомобилях, ярком примере "физического агентного ИИ", который действует не в цифровой среде, а напрямую в материальном мире, включая города. Исследование ставит под сомнение идею, что решение можно приписать одному субъекту - человеку или машине. На практике решение формируется во взаимодействии датчиков, алгоритмов, устройств управления и окружающей обстановки. Такой взгляд требует расширить этическую рефлексию: учитывать не только отдельные решения и их последствия, но и технические, материальные и социальные связи, через которые системы действуют в мире.
"В условиях, когда агентные ИИ-системы применяются во всё более разных областях - от здравоохранения до мобильности и организации труда, - три исследования показывают, что растущая автономность искусственных систем поднимает вопросы, выходящие далеко за рамки автоматизации задач и решений", - поясняют Дзанотти, Куаресмини и Япаоло. Проект предлагает инструменты для осмысления этих перемен и их этических и социальных последствий.

Комментарии
0Комментариев пока нет. Начните обсуждение.