Нейроморфные системы - будущее искусственного...

М. Бурцев

Кафедра Кибернетики, НИЯУ МИФИ

Лаб. Нейроинтеллекта и нейроморфных систем,Курчатовский НБИКC-Центр

НИИ Нормальной физиологии им. П.К. Анохина РАМН

Институт прикладной математикиим. М.В. Келдыша РАН

Что такое Искусственный интеллект (ИИ)?

Искусственный интеллект -интеллектуальные машины и область компьютерных наук, которая стремится их создать.

Основное свойство Homo sapiens человека разумного – разум, может быть настолько точно описан, что может быть воспроизведен машиной.

Вычисления и интеллект

IBM Deep Blue (1997) 2 108 позиций в

секунду 11 GFLOPS

IBM Watson (2011) 2880 POWER7

processor cores 16 Tб of RAM 500 Гб/с 80 TFLOPS

Вычисления и интеллект

Вычисления и интеллект

Вычисления и интеллект

Вычисления и интеллект

Два пути

Нейроны передают электрические сигналы

мозг можно смоделировать

электрической схемой

искусственные нейронные

сети

Человеческий интеллект основан на манипуляции

с символами

компьютер совершает манипуляции с

символами искусственный

интеллект

История ИИ

• 1958, H. A. Simon and Allen Newell: "within ten years a digital computer will be the world's chess champion" and "within ten years a digital computer will discover and prove an important new mathematical theorem."

• 1965, H. A. Simon: "machines will be capable, within twenty years, of doing any work a man can do."

• 1967, Marvin Minsky: "Within a generation ... the problem of creating 'artificial intelligence' will substantially be solved."

• 1970, Marvin Minsky: "In from three to eight years we will have a machine with the general intelligence of an average human being."

Обещания ИИ

А что же нейробиологи?

А что же нейробиологи? H. Markram

(104 нейронов, 108 синапсов)

Смоделирована кортикальная колонка

А что же нейробиологи? E. Ижикевич

(1011 нейронов, 1015 синапсов)

Воспроизведены частоты спайковой активности различных типов корковых нейронов.

Ритмы и волны распространения спонтанной активности по своим параметрам похожи на наблюдаемые in vivo.

Модельный фМРТ похож на регистриуемый на человеке.

Пертрубация одного спайка (из миллионов) ведет к перестройки активности всей сети за доли секунды.

Проблема

Интеллект человека является очень сложным

объектом

Прямое создание целостной теории очень

трудно

ТРЕБУЕТСЯ ПЕРЕЗАГРУЗКА!

БУДУЩЕЕ

ИСКУССТВЕННОГО ИНТЕЛЛЕКТА?

Нейроморфные системы искусственного интеллекта

Как самоорганизация миллиардов адаптивных элементов приводит к возникновению системных когнитивных процессов?

•Искусственный интеллект основанный на принципах работы мозга•Пути повышения эффективности естественного и искусственного интеллекта

развитие проблема

обучение

отбор

Теория функциональных систем

Модель эволюционного сиcтемогенеза

Эволюция нейросетевых агентов в среде с иерархией целей Задача: обучение цепочкам целенаправленных

действий в среде с конкурирующими целями

0

100

200

300

400

500

600

700

ном

ер п

овед

енче

ской

стр

атег

ии

0

1000

2000

3000

0 1000 2000 3000 4000 5000

Модель эволюционного сиcтемогенеза

поколения

прис

посо

блен

ност

ь

161

28

31

32

162

86

29

30

117

126

127

Модель эволюционного сиcтемогенеза

1 4 13Действие №

Акти

внос

тьин

тер-

нейр

онов

15

17

19

21

23

25

27

29

31

30 35 40 45 50 55 60 65 70 75 80 85 90

# не

йрон

а

Время

1 2

3

4

5

1

2

3

8

45

6

7

9

10

11

12

13

00

5

10 - действие

- состояние

Модель эволюционного сиcтемогенеза

Эволюция локомоцииМодель эволюционного сиcтемогенеза

Реализация функции и

предсказание результата действий

Детекция рассогла-сования

Генерация

(и фиксация) новой

функциональной системы

Обучение в теории функциональных систем

Обучение в теории функциональных систем

Теория функциональных систем

Обучение происходит за счет формирования новых функциональных систем путем «надстройки» имеющихся систем

Имеющиеся системы сохраняются

На нейрональном уровне надстройка функциональной системы выражается в специализации нейронов

Модели нейронныхсетей

Обучение происходит за счет изменения связей в сети

Имеющиеся связи нарушаются

На нейрональном уровне происходит изменение связей между всеми активными нейронами

Распознавание образов (категоризация) Требования для эффективного обучения необходимо

формировать нейрональные группы уже при однократном столкновении с проблемой

для сохранения памяти, новые группы не должны нарушать работу старых

Построение конкуренции между областями притяжения динамики

Обучение в теории функциональных систем

Генерация Реализация Рассогласование

Новые (значимые) признаки проблемной ситуации связываются с действиями

История генерации ФС формирует новую память Специализация нейронов позволяет сохранить имеющуюся

память

Категоризация и воспроизведение

Генерация Реализация Рассогласование

Генерация Реализация Рассогласование

Сравнение точности категоризации с аналогичным подходом Вероятность

правильного отклика сети в ответ на зашумленный образ. а) Предложенная модель б)Ассоциативная сеть Хопфилда. Р1- вероятность молчания

активного нейрона исходного паттерна

Р2 – вероятность активации нейрона, не принадлежащего исходному паттерну.

Генерация Реализация Рассогласование

Для достижения результата в новых условиях обычно необходима последовательность действий

Сформированная динамическая цепочка активаций специализированных нейронов дает возможность предсказания

Генерация Реализация Рассогласование

Системогенез нужен, когда одна из имеющихся систем не может получить свой результат

Если системогенез происходит за счет специализации, то откуда нейроны, которые могут подключиться к системе, узнают, что пора специализироваться?

Знать о проблеме могут только клетки конкретного АРД. Что это за клетки?

Генерация Реализация Рассогласование

Динамическая модель ФС Задача: обучение цепочкам целенаправленных

действий в среде с конкурирующими целями Элементарная ФС Активируется в проблемном состоянии для

выполнения необходимых действий После достижения целевого состояния

деактивируется.а) б)

Рис. а) Фазовая плоскость функциональной системы. б) Динамика функциональной системы при воздействии управляющих импульсов

Эксперименты

«Жизнь мыши»

FS1: 0000 – нора спатьFS2: 0001 – нора размножатьсяFS3: 1010 – пищаFS4: 0111 – вода

0000

1000 0100 0010 0001

1111

1110 1101 1011 0111

1100 1010 1001 0110 0101 0011

Эксперименты

Среда с несколькими целями

до обучения после обучения

Среда с несколькими целямирост числа вторичных систем при обучении

Динамическая модель ФС

Эксперименты

Сравнение с обучением с подкреплением Адаптация агента в нестационарной среде и конструкция альтернативных цепочек действий

1111

1101 0111

0011

0001

0000

1001

50 % одно из красных ребер удалено в каждом опыте(переход невозможен, среда нестационарная)

1111

1101 0111

0011

0001

0000

1001

1111

1101 0111

0011

0001

0000

1001

или

Эксперименты Сравнение с обучением с подкреплением Адаптация агента в нестационарной среде и конструкция альтернативных цепочек действий

Количество элементарных действий до цели в зависимости от номера попытки. DS –предложенная модель; Q – алгоритм обучения с подкреплением Q-learning при различных параметрах фактора обучения (LF) и дисконтирующего фактора (DF).

Будущее искусственного интеллекта

Алгоритмы интеллектуальных систем, основанные на «грубой» вычислительной силе катастрофично неэффективны

Вычислительных возможностей современных компьютеров с лихвой достаточно для обеспечения интеллектуального поведения

В любой момент может быть найден подход, на порядки повышающий вычислительную эффективность интеллектуальных систем

Одно из перспективных направлений поиска –нейроморфные системы – системы основанные на интеллектуальных алгоритмах «подсмотренных» у живых систем.