Úvod Symbolické modelování Neuronové sítě Shrnutí Modelování myšlení Radek Pelánek Úvod Symbolické modelování Neuronové sítě Shrnutí Modelování a myšlení Myšlení, modelování, počítače (zjednodušené, plynulý přechod) kognitivní modelování cíl: zachytit, jak funguje mysl důraz na jednoduchost, věrnost, principy není úplně zásadní „výkon umělá inteligence cíl: reprodukovat inteligentní chování důraz na „výkon biologické principy jen jako inspirace Úvod Symbolické modelování Neuronové sítě Shrnutí Modelování a myšlení Kognitivní modelování symbolické modelování „high-level uvažování na úrovni pravidel, metafora počítače manipulace symbolů konekcionistické modelování „low-level uvažování na úrovni neuronů snaha o biologickou věrnost Úvod Symbolické modelování Neuronové sítě Shrnutí Modelování a myšlení Porozumění mozku Kdyby byl mozek tak jednoduchý, že bychom mu mohli rozumět, byli bychom tak jednoduší, že bychom nemohli. (Lyaal Wattson) Úvod Symbolické modelování Neuronové sítě Shrnutí Symbolické modelování computational theory of mind myšlení jako manipulace symbolů produkční pravidla: IF X THEN Y učení: vytváření nových pravidel (např. spojováním, vyhledáváním) kde se vezmou symboly? Úvod Symbolické modelování Neuronové sítě Shrnutí Produkční systém pravidla typu IF podmínka THEN akce podmínky přichází z prostředí nebo jako následky jiných pravidel akce mohou vyvolávat další pravidla nebo měnit prostředí Příklad: IF chci čaj THEN uvařit čaj IF uvařit čaj a nemám horkou vodu THEN dát vodu do konvice Úvod Symbolické modelování Neuronové sítě Shrnutí Produkční systémy: kolize pravidla mohou být kolizní (nedeterministický systém) pro danou situaci výběr aplikovatelných, rozhodnutí kolize priority, náhoda, ... Příklad: IF chci čaj THEN uvařit čaj IF chci čaj THEN zajít do hospody a objednat čaj Úvod Symbolické modelování Neuronové sítě Shrnutí Příklad žába Příklad žába: základní princip (John Holland, Hidden Order: How Adaptation Builds Complexity) Úvod Symbolické modelování Neuronové sítě Shrnutí Příklad žába Příklad žába: kontext (John Holland, Hidden Order: How Adaptation Builds Complexity) Úvod Symbolické modelování Neuronové sítě Shrnutí Příklad žába Příklad žába: produkční systém (John Holland, Hidden Order: How Adaptation Builds Complexity) Úvod Symbolické modelování Neuronové sítě Shrnutí Příklad žába Příklad žába: výběr použitelných pravidel (John Holland, Hidden Order: How Adaptation Builds Complexity) Úvod Symbolické modelování Neuronové sítě Shrnutí Příklad žába Příklad žába: řešení kolize (John Holland, Hidden Order: How Adaptation Builds Complexity) Úvod Symbolické modelování Neuronové sítě Shrnutí Klasifikační systém Klasifikační systémy (Learning classifier systems) Konkrétní příklad architektury: 1 produkční systém 2 ohodnocení pravidel (bucket brigade) 3 objevování pravidel pomocí genetického algoritmu Úvod Symbolické modelování Neuronové sítě Shrnutí Klasifikační systém Ohodnocení pravidel: bucket brigade pravidla konfliktní pravidlo má kapitál výběr pravidla podle aktuálního kapitálu pravidlo platí za to, že může být použito úspěšná aplikace ⇒ zisk odměny od prostředí část odměny redistribuována pravidlům, které umožnily použití pravidla, které vedlo k odměně Úvod Symbolické modelování Neuronové sítě Shrnutí Klasifikační systém Vývoj nových pravidel pravidla jsou reprezentována jako binární řetězce přímočaré použití genetického algoritmu zdatnost = kapitál Úvod Symbolické modelování Neuronové sítě Shrnutí Klasifikační systém (G. W. Flake, The Computational Beauty of Nature) Úvod Symbolické modelování Neuronové sítě Shrnutí Jednoduchý příklad aplikace Příklad Woods (podobné jako Robby the Robot u gen. alg.) zvíře na čtverečkovaném poli ’*’ zvíře ’.’ volné pole ’O’ skála ’F’ jídlo zvíře vidí okolních 8 pozic, tj. detektory lze zakódovat pomocí 16 bitového řetězce (. = 00, O = 10, F=11) cílem je najít co nejrychleji jídlo Úvod Symbolické modelování Neuronové sítě Shrnutí Jednoduchý příklad aplikace Příklad Woods (G. W. Flake, The Computational Beauty of Nature) Úvod Symbolické modelování Neuronové sítě Shrnutí Jednoduchý příklad aplikace Příklad Woods Realizace experimentu (učení): náhodně umístit zvíře nechat běhat dokud nenajde jídlo a pak znova od začátku Úvod Symbolické modelování Neuronové sítě Shrnutí Jednoduchý příklad aplikace Příklad Woods: výsledky (G. W. Flake, The Computational Beauty of Nature) Úvod Symbolické modelování Neuronové sítě Shrnutí Jednoduchý příklad aplikace Příklad Woods: složitější prostředí (G. W. Flake, The Computational Beauty of Nature) Úvod Symbolické modelování Neuronové sítě Shrnutí Jednoduchý příklad aplikace Příklad Woods: výsledky II (G. W. Flake, The Computational Beauty of Nature) Úvod Symbolické modelování Neuronové sítě Shrnutí Induktivní myšlení Deduktivní a induktivní uvažování deduktivní uvažování z daných předpokladů se dle zákonů logiky odvozují logicky platné závěry (konkretizace) modelování není velký problém (deduktivní uvažování lze vyjádřit formálně), hojně používáno např. v ekonomii ovšem neodpovídá realitě – lidé používají deduktivní uvažování jen v omezené míře induktivní uvažování zevšeobecňování, odvozování obecných zákonů z konkrétních příkladů, odhadování vývoje, ... často a úspěšně používáno lidmi jak modelovat? Úvod Symbolické modelování Neuronové sítě Shrnutí Induktivní myšlení El Farol Bar El Farol je bar v Santa Fe, kde hrají ve čtvrtek večer irskou hudbu v okolí baru žije 100 lidí každý by rád zašel do baru, ale když je tam moc narváno, tak to za nic nestojí: v baru méně jak 60 lidí ⇒ lepší být v baru než doma v baru více jak 60 lidí ⇒ lepší být v doma než v baru všichni se rozhodují současně, žádná domluva Úvod Symbolické modelování Neuronové sítě Shrnutí Induktivní myšlení Deduktivní model rozhodování deduktivní řešení: „hodit si kostkou , tj. rozhodovat se náhodnostně podle vypočítané pravděpodobnosti tak se ale lidé nerozhodují... Úvod Symbolické modelování Neuronové sítě Shrnutí Induktivní myšlení Induktivní model rozhodování Každý agent má několik hypotéz pro předpovídání počtu návštěvníků. Příklad dosavadní sekvence a hypotéz: 44, 78, 56, 15, 23, 67, 84, 34, 45, 76, 40, 56, 22, 35 stejně jako minulý týden [35] zaokrouhlený průměr za minulé 4 týdny [49] stejně jako před dvěma týdny [22] zrcadlový obraz okolo 50 z minulého týdne [65] 42 [42] Úvod Symbolické modelování Neuronové sítě Shrnutí Induktivní myšlení Induktivní model rozhodování pro každou hypotézu si agent pamatuje její úspěšnost vždy se rozhoduje podle aktuální nejúspěšnější hypotézy (případně průměruje několik nejúspěšnějších) hypotézy vygenerovány „ručně , každému agentu náhodně přiřazeno několik z nich Úvod Symbolické modelování Neuronové sítě Shrnutí Induktivní myšlení Simulace Úvod Symbolické modelování Neuronové sítě Shrnutí Induktivní myšlení Výsledky a rozšíření počet návštěvníků osciluje okolo hodnoty 60 induktivně uvažující agenti tedy řeší problém poměrně dobře možná rozšíření: tvorba nových hypotéz (genetický algoritmus), komunikace mezi agenty, ... později: podobný model trhu (induktivně uvažující obchodníci) Úvod Symbolické modelování Neuronové sítě Shrnutí ACT-R ACT-R (Adaptive Control of Thought–Rational) kognitivní architektura založeno na produkčních systémech rozsáhlé, mnoho aspektů vnímání, myšlení, paměti mnoho aplikací http://act-r.psy.cmu.edu/ Úvod Symbolické modelování Neuronové sítě Shrnutí ACT-R ACT-R (Adaptive Control of Thought–Rational) Úvod Symbolické modelování Neuronové sítě Shrnutí ACT-R ACT-R: aplikace Úvod Symbolické modelování Neuronové sítě Shrnutí ACT-R Aplikace ve výuce inteligentní výukové systémy produkční systém pro určitou oblast (např. aritmetika) model „sleduje řešení studenta ⇒ ohodnocení schopností studenta, identifikace silných/slabých míst pravidla pro typické chyby ⇒ možnost cílené zpětné vazby příklad: sčítání zlomků Úvod Symbolické modelování Neuronové sítě Shrnutí Úvod Neuronové sítě konekcionistické modelování model založený na zjednodušené imitaci fungování mozku neurony, spojení induktivní učení prostřednictvím trénovacích dat „znalosti jsou v síti uloženy jako váhy spojení mezi neurony Úvod Symbolické modelování Neuronové sítě Shrnutí Úvod Neuron (G. W. Flake, The Computational Beauty of Nature) Úvod Symbolické modelování Neuronové sítě Shrnutí Model Model neuronu a(t + 1) = Φ Σn i=1wi × ai (t) − b Úvod Symbolické modelování Neuronové sítě Shrnutí Model Model neuronu: aktivační funkce Úvod Symbolické modelování Neuronové sítě Shrnutí Model Umělá neuronová síť ... připomíná reálnou neuronovou síť: neurony spojené váženými vazbami schopná se učit na základě předkládaných dat „znalosti uloženy jako váhy spojení mezi neurony Úvod Symbolické modelování Neuronové sítě Shrnutí Model Příklad architektury – dopředná síť Úvod Symbolické modelování Neuronové sítě Shrnutí Model Dopředná síť: učení předkládáme sadu příkladů: vstup + žádaný výstup upravujeme váhy spojení mezi neurony (backpropagation algoritmus) učení = korigující negativní zpětná vazba Úvod Symbolické modelování Neuronové sítě Shrnutí Model Příklad architektury – zpětnovazebná síť Úvod Symbolické modelování Neuronové sítě Shrnutí Model Zpětnovazební síť zpětnovazební síť – obsahuje cykly modelování asociativní paměti vězeň, dramatik, prezident kd jinm jmu kop sm do n pad Hebbův zákon učení: dva neurony aktivovány ve stejnou chvíli ⇒ posílení spojení Úvod Symbolické modelování Neuronové sítě Shrnutí Aplikace Rozpoznávání znaků (G. W. Flake, The Computational Beauty of Nature) Úvod Symbolické modelování Neuronové sítě Shrnutí Aplikace Řešení optimalizačního problému (G. W. Flake, The Computational Beauty of Nature) Úvod Symbolické modelování Neuronové sítě Shrnutí Aplikace Řešení optimalizačního problému (G. W. Flake, The Computational Beauty of Nature) Úvod Symbolické modelování Neuronové sítě Shrnutí Aplikace Vývoj sdíleného slovníku příklad kombinace ABM + neuronové sítě model vytváření sdíleného slovníku ve skupině agentů pojmenování reprezentováno pomocí neuronové sítě interakce = agenti si vymění svoje názory na název objektu, trochu se přeučí díky interakci vzniká sdílený slovník Úvod Symbolické modelování Neuronové sítě Shrnutí Aplikace Příklady aplikací klasifikace vzorů, např. rozpoznávání jazyka dokumentu podle frekvencí písmen rozpoznání čisté a naředěné malinové hmoty dle infračerveného spektra rozpoznávání obrazů, řeči aproximace funkcí, predikce řad zpracování dat hry, rozhodování Úvod Symbolické modelování Neuronové sítě Shrnutí Aplikace Deep learning žhavé téma v oblasti neuronových sítí dopředná síť, mnoho úrovní: úrovně mohou sloužit jako „stupně abstrakce (feature learning) problém: náročné síť naučit možné řešení: „předučení , vždy dvě úrovně za sebou, „auto-encoder stručný úvod: Andrew Ng – Deep Learning, Self-Taught Learning and Unsupervised Feature Learning https://www.youtube.com/watch?v=n1ViNeWhC24 Úvod Symbolické modelování Neuronové sítě Shrnutí Aplikace Kočičky na YouTube http://research.google.com/archive/unsupervised_icml2012.html http://www.nytimes.com/2012/06/26/technology/ in-a-big-network-of-computers-evidence-of-machine-learning.html Úvod Symbolické modelování Neuronové sítě Shrnutí Aplikace Poznámky k neuronovým sítím smysluplné využití neuronových sítí – náročné jako projekt v tomto předmětu nemá smysl pro zájemce: kurzy strojového učení PV021 Neuronové sítě Úvod Symbolické modelování Neuronové sítě Shrnutí Shrnutí účel modelování myšlení: pochopení, jak myšlení funguje zlepšení modelů (s agenty) aplikace pro řešení „inženýrských problémů typy modelů: symbolické konekcionistické hybridní (neprobíráno)