Спор о том, стоит ли замедлять развитие искусственного интеллекта, зашёл в тупик. Так считают авторы новой работы, опубликованной в журнале AI and Ethics. Вместо простого выбора "ускоряться или притормозить" они предлагают разбирать каждую этическую проблему по отдельности и подбирать к ней свой инструмент управления.

Авторы - доктор Кирти Пракаш и доктор Иан ван дер Линде из Центра перспективных вычислений Университета Англия Раскин (ARU) в Кембридже, Великобритания. Они назвали свою схему "четырьмя А": Action (действие), Access (доступ), Authority (полномочия) и Allocation (распределение).

Смысл в том, чтобы не валить все риски в один котёл. Ограничивать действие системы - задача разработчиков. Регулировать доступ к опасным возможностям ИИ должны регуляторы. Решать, какие суждения можно доверить алгоритму, - дело организаций, которые его внедряют. А распределять выгоды, издержки и власть - вопрос для правительств и общественных институтов.

По мнению исследователей, замедление развития ИИ - неполноценная цель. Технологические возможности не заперты в одной компании или стране: существующие модели можно копировать и дорабатывать без обучения новых флагманских систем. К тому же мешают геополитика и коммерческие интересы.

Вместо этого авторы предлагают соразмерные меры защиты, осмысленный человеческий контроль, независимую оценку, чёткую ответственность и регулярный пересмотр правил по мере роста возможностей ИИ. Свои уроки они берут из прошлых попыток управлять мощными технологиями - от контроля над ядерными вооружениями до регулирования редактирования генома и конференции 1975 года по рекомбинантной ДНК.

Отдельно ставится вопрос о побочных эффектах. Ограничение доступа к мощной модели может снизить риск злоупотреблений и повысить безопасность, но одновременно сконцентрировать возможности и право решать у нескольких фирм или институтов. Это уже новая проблема распределения.

Пракаш, старший преподаватель ARU, поясняет: "Спор о фронтирном ИИ часто подают как выбор между ускорением и замедлением. Мы считаем, что это слишком грубо. Прежде чем решать, насколько сильно вмешиваться, нужно спросить, в чём именно этическая проблема". По его словам, потеря контроля над автономной системой - совсем не то же самое, что вопрос о доступе к опасной возможности или о том, кто получает выгоду.

Соавтор ван дер Линде добавляет, что эффективное управление требует большего, чем список общих этических принципов. "Четыре А" помогают перейти от констатации проблемы к вопросу: какое ограничение нужно, кто его обеспечит, что будет сигналом сбоя и какие корректирующие действия последуют.

Работа вышла на фоне растущей международной тревоги о скорости развития фронтирного ИИ. Другое недавнее исследование Кембриджской программы по науке и политике ИИ и Центра управления ИИ изучало, может ли автоматизация самих исследований спровоцировать "взрыв интеллекта" - сжатие лет технического прогресса в месяцы или меньше. Авторы новой схемы подчёркивают: если возможности растут быстрее, чем институты успевают адаптироваться, простой вопрос "безопасен ли ИИ" уже не годится. Нужно знать, кто контролирует, у кого есть доступ, где принимаются решения и кто в итоге отвечает за последствия.

Источник: Tech Xplore