Wykład Wykład 1 1 Neuropsychologia komputerowaNeuropsychologia komputerowa

Wstęp, organizacja, o czym to będzie

Włodzisław DuchUMK Toruń

Google: Duch

Mózgi ...Mózgi ...

• Najbardziej interesujące i najbardziej złożone obiekty w znanym wszechświecie ...

• Jak można zrozumieć działanie mózgu?

• Na jakim poziomie się do tego zabrać? Zewnętrzny opis niewiele da.

• Jak można zrozumieć działanie telewizora lub komputera?

Eksperymenty nie mogą kontrolować wszystkich parametrów, konieczny jest schemat i zrozumienie zasad działania.

Aby się upewnić, że rozumiemy jak działa, trzeba zrobić model.

Modele fizyczne biologicznych układów są trudne ale możliwe!

Komputery ...Komputery ...

Blue Gene z 2048-procesorami do symulacji 1 sek aktywności pierwotnej kory wzrokowej pokrywającej 9º pola wzrokowego potrzebował 80 min, czyli działa prawie 5000 razy wolniej ... za wolne?

• Neurogrid, liczący z szybkością kory w analogowy sposób – za 5 lat?

• http://www.stanford.edu/group/brainsinsilicon/neurogrid.html

• Extended analog supercomputer, będzie się nadawał do symulacji NN?

http://info.uwe.ac.uk/news/uwenews/article.asp?item=859&year=2006

• Komputery kwantowe, w sprzedaży od 2008 roku?

http://www.dwavesys.com/

• Intel: 80 rdzeni, 1 Teraflop w PC.Warto zacząć myśleć już teraz jak wykorzystać takie zabawki ...

Jak patrzeć na mózg?Jak patrzeć na mózg?Jak patrzeć na mózg?Jak patrzeć na mózg?

Zależy to od pytań, na które chcemy znaleźć odpowiedź.

Riken Brain Science Institute, Riken, Japonia: trzy obszary badań - ochronić, zrozumieć i stworzyć mózg.

Różne obszary, różne pytania, potrzebne są różne odpowiedzi.

Ochrona: psychiatria, farmakologia, zadają pytania podstawowe o mechanizmy molekularne, rolę różnych substancji chemicznych, elementarne procesy i ich związek z zachowaniem.

Neurochirurgia: głównie urazy i guzy, ale trzeba trochę rozumieć jak to wszystko działa by nie uszkodzić istotnych ośrodków.

Psychoterapia, umysłowa gimnastyka, medytacja ...

Psycho-neuro-immunologia: skomplikowane oddziaływania na różnym poziomie, też pomagają chronić mózgi.

Jak zrozumieć mózg?Jak zrozumieć mózg?Jak zrozumieć mózg?Jak zrozumieć mózg?

Zrozumieć: zredukować do prostszych mechanizmów?

Jakich mechanizmów? Analogii z komputerem? RAM, CPU? Logika? To marne analogie.

Psychologia: najpierw trzeba opisać zachowanie, poszukuje wyjaśnień najczęściej na poziomie opisowym, ale jak je zrozumieć?

Redukcjonizm fizyczny: mechanizmy mózgu.

Na wiele pytań można odpowiedzieć tylko z perspektywy ekologicznej i ewolucyjnej: dlaczego świat jest taki, jaki jest? Bo taki się zrobił ... Dlaczego kora ma budowę kolumnową i warstwową? Dlaczego jedzenie bulw ignamu w czasie pory deszczowej stanowi religijne tabu w Afryce Zachodniej? O dziwo, na to pytanie można odpowiedzieć na poziomie molekularnym!

Stworzyć: co trzeba wiedzieć by stworzyć sztuczny mózg?

Od molekuł Od molekuł ......Od molekuł Od molekuł ......

10-10 m, poziom molekularny: kanały jonowe, synapsy, własnościbłon komórkowych, biofizyka, neurochemia, psychofarmakologia; umysł z perspektywy molekuł (Ira Black, 1994)?

10-6 m, pojedyncze neurony: neurochemia, biofizyka, LTP, LTD, neurofizjologia, neuronauki obliczeniowe (CS), modele neuronów, detektory specyficznej aktywności, emergencja.

10-3 m, funkcjonalne grupy neuronów: kolumny korowe (104-105), synchronizacja grup, kodowanie populacyjne, mikroobwody, Local Field Potentials, zapisy wieloelektrodowe, neurodynamika wielkiej skali, neuroanatomia i neurofizjologia.

10-4 m, małe sieci: synchronizacja aktywności neuronów, rekurencja, neurodynamika, układy wielostabilne, generatory wzorców, zwoje neuronów, efekty pamięci, zachowania chaotyczne (semi-liquid state), „kod neuronowy” (kodowanie informacji); neurofizjologia ...

… … do zachowaniado zachowania … … do zachowaniado zachowania

10-2 m, sieci mezoskopowe: mapy czuciowo-ruchowe, kodowanie populacyjne, samoorganizacja, teorie pola średniego, teorie ośrodków ciągłych, EEG, MEG, metody obrazowania PET/fMRI ...

10-1 m, pola transkorowe, obszary funkcjonalne mózgu: uproszczone modele kory, struktury podkorowe, działania sensomotoryczne, integracja funkcji, wyższe czynności psychiczne, pamięć robocza, świadomość; (neuro)psychologia, psychiatria komputerowa ...

Zjawiska poznawcze

Zasady oddziaływań

Mechanizmy neurobiologiczne

Poziomy opisuPoziomy opisu Poziomy opisuPoziomy opisu

Podsumowanie (Churchland, Sejnowski 1988)

Poziom systemowyPoziom systemowy

… … do umysłudo umysłu … … do umysłudo umysłu

Teraz zdarza się cud ...

1 m, CUN, cały mózg i organizm:

powstaje świat wewnętrzny, zachowania intencjonalne, działania celowe, myślenie, język, wszystko co bada psychologia behawioralna ...

Przybliżenia modeli neuronowych:

Finite State Automata, czyli aproksymacje symboliczne zmiany stanów, reguły zachowania, modele oparte na wiedzy mechanizmów poznawczych w sztucznej inteligencji.

Gdzie podziała się psyche, perspektywa wewnętrzna? Lost in translation: sieci => automaty skończone => zachowanie

Alternatywa: przestrzenie psychologiczne => zdarzenia mentalne.

Podejście neurokognitywnePodejście neurokognitywneComputational cognitive neuroscience: szczegółowe modele funkcji poznawczych i neuronów, pierwsza doroczna konferencja 11/2005.

Informatyka neurokognitywna: uproszczone modele wyższych czynności poznawczych, myślenia, rozwiązywania problemów, uwagi, języka, kontroli zachowania i świadomości.

Wiele spekulacji, ponieważ nie znamy szczegółów procesów zachodzących w mózgu, ale modele jakościowe wyjaśniające rezultaty eksperymentów psychofizycznych oraz przyczyny chorób psychicznych i zespołów neuropsychologicznych rozwijają się szybko od ~ 1995 r.

Nawet proste mózgo-podobne przetwarzanie informacji daje rezultaty podobne do prawdziwych; złożoność mózgu nie jest głównym problemem!

Brain As Complex System (BRACS, EU Project) centralne założenie: najważniejsza jest ogólna neuroanatomiczna struktura kory i obszarów podkorowych mózgu, należy ją w modelach zachować. “Roadmap to human level intelligence” – workshopy ICANN’05, WCCI’06

Model transformacjiModel transformacjiPrzetwarzanie informacji, pomijane sprzężenia zwrotne: redukcja ilości informacji (kategoryzacja), działania senso-motoryczne.

Myocardial Infarction~ p(MI|X)

Sex Age SmokingECG: ST

PainIntensity

PainDuration

Elevation

0.7

51 1365Inputs:

Outputweights

Inputweights

Model samoorganizacjiModel samoorganizacji

Topograficzne reprezentacje w licznych obszarach mózgu:bodźców czuciowych, w korze ruchowej i móżdżku, wielomodalne mapy orientacji w wzgórkach czworaczych górnych, mapy w układzie wzrokowym i tonotopiczne mapy kory słuchowej.

o

o

oox

x

xx=dane

siatka neuronów

N-wymiarowa

xo=pozycje wag neuronów

o

o o

o

o

o

o

o

przestrzeń danych

wagi wskazująna punkty w N-D

w 2-D

Najprostszy model (Kohonen 1981): konkurencja między grupami neuronów i lokalna kooperacja. Neurony reagują na sygnały dostrajając swoje parametry tak, by wszystkie bodźce były analizowane i by bodźce do siebie podobne analizowane były przez sąsiednie neurony.

Model dynamicznyModel dynamicznySilne sprzężenia zwrotne, stany kolektywne, neurodynamika.

Najprostszy model (Hopfield 1982): pamięć skojarzeniowa, uczenie w oparciu o regułę Hebba, dynamika synchroniczna, neurony dwustanowe.

Wektor potencjałów wejściowych V(0)=Vini , czyli wejście = wyjście.

Dynamika (iteracje) sieć Hopfielda osiąga stany stacjonarne, czyli odpowiedzi sieci (wektory aktywacji elementów) na zadane pytanie Vini (autoasocjacja).

Jeśli połączenia są symetryczne to taka sieć dąży do stanu stacjonarnego (atraktor punktowy).t = dyskretny czas.

1 sgn 1 sgni i ij j jj

V t I t W V

,, ,

,, ,

, ,, 2

, ,

( ) ( ( ) ) ( )

( ) ( ( ) ) ( )

( ( ) )( ) ( )

(1 [ ]exp( 0.062 ( ) / 3.57))

( )

AMPA extAMPA ext AMPA ext i E ij j

j

AMPA recAMPA rec AMPA rec i E ij j

j

NMDA rec i E NMDA recNMDA rec ij j

ji

GABA rec GABA

I t g V t V w s t

I t g V t V w s t

g V t VI t w s t

Mg V t

I t g

,( ( ) ) ( )GABA rec

rec i E ij jj

V t V w s t

,

,

( )( ) ( )

( )( ) ( )(1 ( ))

( )( ) ( )

( )( ) ( )

AMPAjAMPA k

j jkAMPA

NMDAjNMDA NMDA

j j jNMDA decay

NMDAjNMDA k

j jkNMDA rise

GABAjGABA k

j jkGABA

s tds t t t

dt

s tds t x t s t

dt

x tdx t t t

dt

s tds t t t

dt

Model biofizycznyModel biofizyczny

EPSP, IPSP)(tI syn

Spike

Spike

SomaSynapses

synCmC mR

synR

Zjawiska psychologiczneZjawiska psychologicznePercepcja wzrokowa: oglądając naturalne obrazy należy zrozumieć sposoby kodowania obiektów i scen, efekty związane z przypominaniem.

Uwaga przestrzenna: uwzględnienie interakcji pomiędzy różnymi strumieniami informacji wzrokowej pozwoli symulować skupianie uwagi na różnych obszarach przestrzeni u osób zdrowych i z uszkodzeniami mózgu.

Pamięć: modelowanie struktur hipokampa pozwala na zrozumienie różnych aspektów pamięci epizodycznej, a mechanizmy uczenia pokazują jak dochodzi do powstawania pamięci semantycznej.

Pamięć robocza: wyjaśnienie zdolności do jednoczesnego utrzymywania w umyśle kilku liczb w czasie mnożenia wielocyfrowych liczb wymaga dość uwzględnienia specyficznych mechanizmów biologicznych w modelu neuronowym.

zjawiska cd ...zjawiska cd ...Czytanie słów: siec będzie się uczyć czytania i wymowy angielskich słów a następnie uogólniać swoją wiedze na wymowę nowych słów oraz odtwarzać pewne formy dysleksji.

Reprezentacje semantyczne: analizując tekst na podstawie kontekstu występowania poszczególnych słów sieć nauczy się semantyki wielu pojęć.

Podejmowanie decyzji i wykonywanie zadań: model kory przedczołowej potrafi utrzymywać uwagę na wykonywanych zadaniach pomimo czynników przeszkadzających.

Pominiemy rozwój reprezentacji kory ruchowej i somatosensorycznej przez samoorganizację; są tu bardzo szczegółowe modele neuronowe uwzględniające różne typy neuronów, neurotransmiterów itd, do analizy zjawiska kończyn fantomatycznych.

Zalety modelowych symulacjiZalety modelowych symulacjiModele pomagają zrozumieć zjawiska: • myślenie opiera się często na analogiach do jakiegoś modelu• umożliwiają nowe inspiracje, wgląd w problem• pozwalają na symulację efektów uszkodzeń i wpływu różnych zaburzeń (leków, zatruć).• pomagają zrozumieć szczegóły zachowania i specyficznych funkcji• modele można formułować na różnych poziomach złożoności, znacznie lepiej niż argumenty werbalne • modeli zjawisk zachodzących w ciągły sposób (np ruchu czy percepcji) nie da się zredukować do werbalnego opisu• modele umożliwiają szczegółową kontrolę warunków eksperymentu i dokładną analizę wyników Modele wymagają dokładnej specyfikacji, unaocznienia założeń• pozwalają na nowe przewidywania• dokonują dekonstrukcji koncepcji psychologicznych (pamięć robocza?)• pozwalają zrozumieć złożoność problemu• dostarczają jednolitego, spójnego schematu postępowania

Wady symulacjiWady symulacji• Modele są zwykle za proste, powinny obejmować wiele poziomów.• Modele mogą być zbyt złożone, czasami teoria pozwala na prostsze wyjaśnienia (czemu na równiku nie ma huraganów?). • Nie zawsze wiadomo co należy uwzględnić w modelowaniu.

• Modele mogą wyjaśnić wszystko (jak i psychoanalitycy ...): nawet jeśli działają to jeszcze nie znaczy, że rozumiemy mechanizmy, duża liczba parametrów w sieciach neuronowych pozwala na realizację zachowań całkowicie niemożliwych; wiele alternatywnych choć całkiem różnych modeli może wyjaśnić to samo zjawisko. Ważne są ogólne zasady, parametry są ograniczone przez neurobiologię

na różnym poziomie, im więcej zjawisk model tłumaczy tym jest bardziej prawdopodobny i uniwersalny. • Modele są zbyt redukcjonistyczne – dlatego rekonstrukcjonizm, czyli uwzględnianie oddziaływań i emergencja, jest tak ważny.• Wiedza zdobywana dzięki modelom nie ulega kumulacji – tak istotnie było na początku ale teraz mamy coraz lepsze klocki ...

PodręcznikiPodręczniki

• Randall C. O'Reilly, Yuko Munakata, Computational Explorations in Cognitive Neuroscience Understanding the Mind by Simulating the Brain. Cambridge, MA: MIT Press 2000. Symulator Emergent opisany w tej książce pozwala na robienie dość złożonych eksperymentów psychologicznych.

• Chris Eliasmith, Charles H. Anderson, Neural Engineering: Computation, representation and dynamics in neurobiological systems. MIT Press 2004Symulator Nengo jest również bardzo interesujący chociaż na razie niewiele w nim jest modeli funkcji poznawczych (2011).

• David Sterratt, Bruce Graham, Andrew Gillies, David Willshaw, Principles of Computational Modelling in Neuroscience, CUP 2011.Szczegółówe meodele neuronów, ale niewiele o sieciach i funkcach poznawczych.