Современные искусственные нейросети впечатляют: они распознают образы, понимают язык и даже пишут код. Но, как правило, их обучают по правилам, которые придумал человек. Нейробиологи из Массачусетского технологического института (MIT) задались вопросом: можно ли построить сеть, которая сама организует своё обучение, без внешнего "дирижёра"? Результаты опубликованы в журнале PNAS.

В обычных нейросетях инженер задаёт, как менять силу связей между искусственными нейронами в ответ на ошибки. Это работает, но вряд ли похоже на то, как учится живой мозг. "У мозга нет внешнего проектировщика, - поясняет Цяньли Ляо, один из авторов работы. - Он должен организовывать себя сам".

Исследователи создали сеть, состоящую из нескольких слоёв случайно связанных нейроноподобных элементов. Каждый элемент подчиняется одним и тем же простым правилам: например, если два связанных нейрона срабатывают одновременно, связь между ними усиливается - принцип, известный как "нейроны, которые возбуждаются вместе, связываются вместе". Никаких других указаний сеть не получает.

Оказалось, что такая самоорганизующаяся система способна учиться распознавать образы и классифицировать изображения. В процессе обучения в ней возникают устойчивые структуры - мотивы, которые служат строительными блоками для функциональных цепей. Эти мотивы перестраиваются с помощью стратегии оптимизации, близкой к градиентному спуску - методу, при котором связи постепенно корректируются с учётом ошибок. В большинстве современных ИИ градиентный спуск реализуется через алгоритм обратного распространения ошибки (backpropagation). Однако нейробиологи считают, что мозг вряд ли использует этот алгоритм.

Команда сравнила свою самоорганизующуюся сеть с сетями, обученными с помощью обратного распространения, и обнаружила, что по эффективности они сопоставимы. Это не доказывает, что мозг учится так же, но даёт правдоподобную биологическую альтернативу.

"Если предлагаемые нами синаптические мотивы действительно используются мозгом для того, что в искусственных сетях делает обратное распространение, то мы получим прочную связь на уровне фундаментальных механизмов между машинами и мозгом", - говорит профессор Томазо Поджо.

Авторы подчёркивают: самоорганизация - лишь первый шаг к биологической достоверности моделей. Они не утверждают, что сеть учится в точности как живой мозг, но считают, что способность к самоорганизации должна стать важным критерием при оценке нейросетей. Понимание этих принципов может пригодиться и для создания нейроинтерфейсов - систем, которые помогут восстановить речь или управлять протезами.

Хотя главная цель учёных - лучше понять работу мозга, полученные знания в перспективе могут усовершенствовать и машинное обучение, сделав искусственный интеллект более эффективным и человекоподобным.

Источник: Tech Xplore