Современные генеративные модели искусственного интеллекта (ИИ) - например, ChatGPT - восходят к идеям инженеров середины XX века. Те, по словам историка Бенджамина Линдквиста из MIT, считали: чтобы машина думала по-человечески, в неё нужно заложить долю иррациональности. Линдквист - ассистент-профессор исторической секции MIT, занимает совместную должность в Шварцмановском колледже вычислений и департаменте электротехники и компьютерных наук (EECS) и является главным исследователем Лаборатории информационных и решающих систем. Его работа опубликована в журнале Past and Present.

В статье Линдквист прослеживает истоки "галлюцинаций" ИИ - когда модель выдаёт правдоподобную, но ложную информацию - до ранних исследований. Он утверждает: при попытке воссоздать человеческое поведение неизбежны компромиссы между креативностью и предсказуемостью.

Инженеры и психологи прошлого рассуждали, что случайность помогает открытиям. Джон Пирс, видный инженер Bell Labs, полагал: математика способна не только наводить порядок, но и сознательно вносить в искусство элемент неожиданного, чтобы уйти от клише. Один из способов добавить такую "нерегулярность" в предсказуемые компьютеры - искусственные (случайные) нейронные сети. Многие ранние нейросети строили психологи, надеясь, что модель мозга позволит заглянуть внутрь и увидеть, как рождаются продуктивные ошибки. Они верили: система не останется "чёрным ящиком" - устройством, чьи внутренние процессы непонятны, - а откроет разум для наблюдения.

Был и другой лагерь: там считали творческое мышление просто "нормальным" мышлением, но лучшего качества. Спор шёл о том, что лежит в основе человеческой изобретательности и как перенести её в машину.

Сегодня мы ценим ИИ за то, что он чаще всего даёт правильные ответы. Ранние же сторонники нейросетей, по словам Линдквиста, ценили их за обратное: за способность иногда выдавать неожиданное, странное или даже абсурдное. Тогда системы существовали только в лабораториях, и удивительный ответ не имел последствий в реальном мире. Теперь у компаний вроде OpenAI или Anthropic есть юридические и финансовые причины не хотеть, чтобы чат-бот отвечал непредсказуемо. "Странность" в этих системах в значительной степени подавлена, хотя потенциально может сохраняться в их основе.

Долгое время доминировал другой подход - "символический ИИ": мир описывается правилами, а исследователь закладывает в компьютер факты и утверждения. Нейросети со случайностью набирали силу в начале своего развития, но рано вышли из моды. Фрэнк Розенблатт, психолог и ключевая фигура направления, погиб в результате несчастного случая в свой день рождения в 1971 году. К тому времени уже намечался сдвиг к символическому ИИ. Возможно, проживи он дольше, всё сложилось бы иначе. Но нейросети не исчезли: позже они переместились в когнитивную науку, а для роста им требовались данные и вычислительные мощности. Это пришло с интернетом, и примерно в 2012 году нейросети начали обгонять статистическое машинное обучение.

Линдквист видит в этой истории предостережение. Бороться с галлюцинациями можно, но у этого будут последствия. Между неожиданными, творческими выводами ИИ и ошибками существует связь. Когда систему настраивают на одно поведение, часто непреднамеренно жертвуют другим. Возможно, достичь полного контроля или полной свободы невозможно, но при усилении одного качества мы рискуем потерять что-то ещё.

Источник: Tech Xplore