Современные чат-боты на основе больших языковых моделей - ChatGPT, Claude, Google Gemini, Perplexity AI - впечатляюще имитируют человеческую речь: пишут стихи, предлагают идеи, решают сложные задачи. Их создатели вдохновлялись работой мозга и построили искусственные нейронные сети по образу и подобию живых нейронов. Однако сходство результатов не означает сходства процессов.

Человек, протягивая руку к кружке на краю стола, мгновенно просчитывает последствия: неверное движение - и она разобьётся. Такое предвидение опирается на ожидания, которые мы накопили, взаимодействуя с миром. Одна из влиятельных теорий - предсказательная обработка (predictive processing) - предполагает, что восприятие частично устроено так: мозг строит ожидания, сравнивает их с поступающей информацией и корректирует при несовпадении. Если вы берёте пустую кружку, думая, что она полная, рука прикладывает лишнее усилие - и обратная связь помогает уточнить движение.

Роботам, чтобы надёжно манипулировать предметами, требуются долгие тренировки и симуляции. Языковые модели тоже предсказывают, но иное: следующее слово или фрагмент текста. Из фразы "Рука задевает кружку у края стола. Кружка..." чат-бот с высокой вероятностью продолжит: "...падает на пол". Он делает это, опираясь на закономерности огромных массивов данных, ни разу не держав кружку в руках. Способность описать правдоподобный исход ещё не говорит о понимании причин.

Здесь на сцену выходят "мировые модели" (world models) - класс подходов в ИИ, которые учатся предсказывать развитие ситуаций и, в некоторых случаях, как действия меняют ход событий. Они могут обучаться на видео, симуляциях или записях сенсоров робота. Для домашнего робота это означает, например, предвидеть, что слишком сильный захват разобьёт кружку. Предварительные исследования показывают: если учитывать действия, движение и сенсорную информацию, такие системы помогают связать прогнозы с физическим миром.

Но одинаковый прогноз не раскрывает, какое знание за ним стоит и как оно получено. Для человека кружка - не просто цилиндр на столе, а объект, который можно взять, разбить, который чей-то, горячий или вот-вот упадёт. Наше понимание связывает физические свойства с сетью возможных действий и последствий. И формируется оно рано: младенцы уже в несколько месяцев имеют базовые ожидания о поведении предметов. Психолог Жан Пиаже полагал, что дети строят знание через действие, а позже учатся мысленно предвидеть результат, не выполняя действие.

ИИ с мировыми моделями тоже может учиться на действиях и сенсорной обратной связи - как и люди. Вопрос в том, как его опыт превращается в используемое знание. ИИ вполне может приблизиться к предвидению и использовать прогноз для действий, но это само по себе не доказывает, что он воспринимает, учится или понимает мир так же, как мы. Чем лучше ИИ воспроизводит результаты человеческого мышления, тем важнее отличать производительность от процесса.

Источник: Tech Xplore