^TIS iKp S/*AS U&Č FI MU Fakulta informatiky Masarykova univerzita Automaty a formální jazyky I Ivana Černá Mojmír Křetínský Antonín Kučera Učební text FI MU verze 1.3 Copyright © 2002, FI MU únor 2002 Obsah 1 Jazyk a jeho konečná reprezentace 1 1.1 Abeceda a jazyk 1 1.1.1 Operace nad j azyky 2 1.2 Konečná reprezentace jazyka 3 1.2.1 Pojem gramatiky 4 1.2.2 Chomského hierarchie gramatik a jazyků 5 2 Regulární jazyky a konečné automaty 9 2.1 Konečné automaty 9 2.1.1 Konstrukce konečných automatu 15 2.1.2 Lemma o vkládání pro regulární jazyky 18 2.1.3 Myhillova-Nerodova věta 21 2.1.4 Minimální konečný automat 25 2.1.5 Minimalizace konečných automatů 26 2.2 Konservativní rozšíření modelu konečných automatů 31 2.2.1 Nedeterministické konečné automaty 31 2.2.2 Automaty s £-kroky 36 2.2.3 Uzáverové vlastnosti regulárních jazyků - část I 39 2.2.4 Regulární výrazy 41 2.3 Vlastnosti regulárních jazyků 48 2.3.1 Uzáverové vlastnosti regulárních jazyků - část II 48 2.3.2 Ekvivalence konečných automatů a regulárních gramatik 2.3.3 Rozhodnutelné problémy pro třídu regulárních jazyků 51 2.4 Aplikace regulárních jazyků a konečných automatů 54 3 Bezkontextové jazyky a zásobníkové automaty 57 3.1 Bezkontextové gramatiky 57 3.1.1 Derivační stromy 57 3.1.2 Transformace bezkontextových gramatik 61 3.1.3 Chomského normální forma, lemma o vkládání 66 3.1.4 Greibachové normální forma 7J 3.2 Zásobníkové automaty 76 3.2.1 Definice PDA 77 3.2.2 Zásobníkové automaty a bezkontextové j azyky 83 3.3 Vlastnosti bezkontextových jazyků 92 OBSAH 3.3.1 Uzáverové vlastnosti 92 3.3.2 Rozhodnutelné vlastnosti a regularita 95 3.4 Deterministické zásobníkové automaty 98 3.4.1 Deŕinice DPDA a j ej ich základní vlastnosti 98 3.4.2 Uzáverové vlastnosti deterministických jazyků 100 4 Turingovy stroje a jazyky typu 0 105 4.1 Turingův stroj: model a jeho definice 105 4.2 Metody konstrukce Turingových strojů 110 4.3 Modifikace Turingových strojů 112 4.4 Vlastnosti rekursivních a rekursivně spočetných jazyků 120 4.5 Turingovy stroje a jazyky typu 0 123 4.6 Lineárně ohraničené automaty a jazyky typu 1 125 5 Nerozhodnutelnost 129 5.1 Ch urch ova teze 129 5.2 Kódování TM a univerzální TM 130 5.3 Diagonalizace 132 5.4 Redukce 136 5.5 Další rozhodnutelné a nerozhodnutelné problémy pro TM 139 5.6 Postův korespondenční problém 143 5.7 Nerozhodnutelné problémy z teorie formálních jazyků 150 OBSAH Kapitola 1 Jazyk a jeho konečná reprezentace V této kapitole budou zavedeny základní pojmy, které jsou předmětem zkoumání teorie formálních j azyků. 1.1 Abeceda a jazyk Abecedou se rozumí libovolná konečná množina E, jejíž prvky nazýváme znaky (případně také písmena nebo symboly) abecedy. Příkladem abecedy je třeba množina [a, b], množina číslic {0, 1,..., 9}, nebo prázdná množina 0. Slovo (též řetězec) v nad abecedou E je libovolná konečná posloupnost znaků této abecedy (např. aabb je slovo nad abecedou {a, b}). Počet členů této posloupnosti v značíme |ľ | a nazýváme délkou slova, počet výskytů znaku a ve slově v značíme #a(v) (např. #b(abaaba) = 2). Prázdné posloupnosti znaků odpovídá tzv prázdné slovo, označované e, které má nulovou délku. Množinu všech slov nad abecedou E značíme E*, množinu všech neprázdných slov E+. Platí např. [e, a, aa, aaa, aaaa,...} [af \ {£} {£, 0, 1, 00, 01, 10, 11, 000, 001, 010, 011,... } Definitoricky dále klademe 0* = {e} a 0+ = 0. Na každá dvě slova u, v lze aplikovat binární operaci zřetězení, označovanou „.", která je definována předpisem u.v = uv. Např. zřetězením slov abba a bba obdržíme slovo abbabba. Operace zřetězení je asociativní, tj. u.(v.w) = (u.v).w pro libovolná slova u, v, w. Dále se e chová jako jednotkový prvek, tj. u.E = E.u = u pro libovolné slovo u. V dalším textu budeme znak „." v zápisu zřetězení obvykle vynechávat. Každé (neprázdné) slovo nad abecedou lze získat zřetězením (nenulového počtu) symbolů této abecedy - odtud „řetězec" jako ekvivalent pojmu slovo. Pro snadnější specifikaci jazyků je výhodné zavést unární operaci i-té mocniny slova, která je definovaná induktivně pro každé i e No takto: nechť E je libovolná abeceda, u G E libovolné slovo. Pak {af [a}+ {0, 11* 1 2 KAPITOLA 1. JAZYK A JEHO KONEČNÁ REPREZENTACE • u,+l = u.u1 Např. {abcÝ = abcabcabc (kulaté závorky slouží jako metasymboly; nejsou součástí slova, pouze pomáhají vymezit argument operace). Slovo u jepodslovem slova v, jestliže existují slova x, y taková, že v = xuy. Pokud navíc x = e, říkáme že slovo u je předponou (nebo také prefixem) slova v, což značíme u < v (< je tedy částečným uspořádáním na E*); je-li v tomto případě ještě navíc u ^ v {ty y ^ e), pak klademe u < v. Je-li y = £ (nyní již bez omezujících požadavků na x), nazveme u příponou (sufixem) slova v. Například aa je předponou aabab, zatímco 11 není ani podslovem slova 01010. Konečně pro každé k > 1 celé a slovo v značíme zápisem k : v předponu slova v délky (nejvýše) k a dejinujeme k : v = u, pokud existuje w takové, že v = uw a \u\ = k; v opačném případě klademe k : v = v. Zejména tedy pro neprázdné slovo v zápis 1 : u znamená první znak slova v. Jazyk nad abecedou E je libovolná množina slov nad E (jazyky nad E jsou tedy právě podmnožiny E*). Např. {10, 1, 011101} je jazyk nad abecedou {0, 1}, prázdná množina je jazyk nad libovolnou abecedou, atd. Jazyky mohou ovšem být i nekonečné, např. {w e {a, b}* | #a(iv) = #b(w)} je jazyk nad abecedou {a, b} obsahující všechna slova, ve kterých se a i b vyskytují ve stejném počtu (tedy např. aababb, £ jsou prvky tohoto jazyka, zatímco a, abbaa nikoliv). 1.1.1 Operace nad jazyky V této části zavedeme některé operace nad jazyky, které se v dalších kapitolách ukáží jako velmi důležité. Je třeba důsledně rozlišovat mezi operacemi nad slovy a operacemi nad jazyky, i když se některé z nich (jako třeba zřetězení nebo mocnina) značí v obou případech stejně. Na základě „typu" parametrů bude vždy jasné, zda se jedná o operaci nad slovy nebo jazyky. Nechť Zje libovolný jazyk nad abecedou Sal libovolný jazyk nad abecedou A. Jelikož L i K jsou množiny, můžeme aplikovat standardní množinové operace sjednocení, průnik a rozdíl. Výsledkem je vždy jazyk nad abecedou E U A. Dále definujeme: • Zřetězením jazyků K a L je jazyk K.L = {uv \ u e K, v e L] nad abecedou E U A. Podle definice zejména platí 0.M = M.0 = 0 a {e}.M = M.{e} = M pro libovolný jazyk M. Operace zřetězení jazyků je také zřejmě asociativní. • i-tá mocnina jazyka Zje definována induktivně pro každé i e No: 1. L° = {e} 2. Li+l=L.Ľ Zejména tedy 0° = {s}, & = 0 pro libovolné z e N a {s}J = {s} pro libovolné 7 G No. • Iterace jazyka Z je jazyk Z* = (J/^o Ľ ■ • Pozitivní iterace jazyka Zje jazyk L+ = U^j Ľ. Obecně není pravda, že L+ = L* \ {e}; tato rovnost platí právě tehdy, když Z neobsahuje s. • Doplněk jazyka Z je jazyk CO-Z = E* \ Z. 1.2. KONEČNÁ REPREZENTACE JAZYKA 3 • Zrcadlovým obrazem (též reverzí) slova x = a\ .. .an nazýváme slovo w = an .. .a\ (sR = s). Zrcadlový obraz jazyka L definujeme jako LR = {wR\w G L}. • Substituce /je zobrazení abecedy E do podmnožin množiny A*, tj. / přiřazuje každému a G E jazyk f (a) C A*. Zobrazení /je rozšířeno na slova takto: 1. f(e) = e 2. f(xa) = f(x)f(a). f rozšíříme na jazyky tak, že pro každé L C E* klademe f (L) = (JXGi f (x). Substituci / nazveme nevypouštějící jestliže žádné z f {a), a G E neobsahuje s. • Speciálním případem substituce je homomorfismus h, který definujeme jako substituci, u níž h (a) obsahuje jediné slovo pro každé a G E. V tomto případě obvykle h(a) považujeme za slovo a nikoli jednoprvkovou množinu obsahující toto slovo. Je-li navíc h (a) j^ e pro všechna a G E, říkáme, že h je nevypouštějící (též e-free). • Je-li h homomorfismus, pak definujeme inverzní homomorfiií obraz jazyka L jako h~\L) = {x\h(x) G L] a pro slova definujeme inverzní homomorfismus jako h~l{w) = {x\h{x) = w}. V souvislosti s operací iterace je dobré si povšimnout, že symbolem E* jsme v předchozí části označili množinu všech slov nad abecedou E. Jelikož samotné E je možné chápat jako jazyk nad E (obsahující právě všechna slova délky jedna), lze zápis E* interpretovat také jako iteraci jazyka E. Tato nejednoznačnost však není na závadu; snadno se vidí, že iterací E obdržíme právě jazyk obsahující všechna slova nad E. Ze stejného důvodu je nezávadná dvojznačnost zápisu E+. Nechť C je tří da jazyků a o je «-ární operace na jazycích. Řekneme, že C je uzavřená na o, pokud pro libovolné jazyky L\, ..., Ln patřící do £ platí, že také jazyk o (L \,..., L„) patří do jC. Příklad 1.1. Nechť C je množina tvořená jazyky Lj = {a1}, kde i G No. Pak jĺ j e uzavřena na zřetězení a mocninu, ale není uzavřena na doplněk, sjednocení, průnik, rozdíl a iteraci. Příklady subbstitucí a homomorfismů budou uvedeny v relevantních partiích tohoto textu. 1.2 Konečná reprezentace jazyka Většina j azuků, kterými se budeme zabývat v tomto textu, bude obsahovat nekonečný počet slov. V této souvislosti velmi přirozeně vyvstávají některé důležité otázky. Jedna z nich se nabízí okamžitě - jak konečným způsobem reprezentovat (obecně nekonečný) jazyk, tj. specifikovat množinu všech jeho slov (tzv problém konečné reprezentace). Pokud by jazyk byl konečný (tj. obsahoval pouze konečně mnoho slov), pak vystačíme s výčtem všech jeho slov. V případě jazyka nekonečného je problém jeho konečné reprezentace velice podstatný. Konečná reprezentace by měla být (formálně vzato) opět řetězcem symbolů (nad jistou abecedou), který budeme vhodně interpretovat tak, aby danému jazyku odpovídala nějaká (ne nutně jediná) konkrétní konečná reprezentace; obráceně pak, aby každé konkrétní konečné reprezentaci odpovídal jediný konkrétní jazyk. Takovými reprezentacemi pro nás v dalším textu budou zejména tzv. gramatiky, které zavedeme v této kapitole a automaty, které budeme definovat později. 4 KAPITOLA 1. JAZYK A JEHO KONEČNÁ REPREZENTACE V návaznosti na právě řečené vystává další otázka, a to zda pro každý jazyk existuje jeho konečná reprezentace. Zde lze po krátkém zamyšlení očekávat negativní odpověď: množina všech řetězců nad libovolnou abecedou je spočetně nekonečná, ale systém všech podmnožin spočetně nekonečné množiny je množina nespočetná. Jelikož bychom měli být schopni zapsat jakoukoli definici konečné reprezentace jako nějaký řetězec symbolů, lze (alespoň na intuitivní úrovni) očekávat, že dostaneme jen spočetně mnoho konečných reprezentací, a tedy že existuje mnohem víc jazyků, než konečných reprezentací (formálněji jsou tyto úvahy formulovány a dokázány až po definici pojmu gramatiky v tvrzení 1.4). Konečně si lze položit otázku, jaká je struktura, vlastnosti, ... těch tříd jazyků pro něž existují konečné reprezentace (a to v souvislosti s „typem" této reprezentace), jak lze tyto třídy charakterizovat atp. Těmto problémům je věnována převžná část tohoto učebního textu. 1.2.1 Pojem gramatiky Definice 1.2. Gramatika Q je čtveřice (N, E, P, S), kde • N je neprázdná konečná množina neterminálních symbolů (stručněji: neterminálů). • E je konečná množina terminálních symbolů (terminálů) taková, že N D E =0. Sjednocením jVaS obdržíme množinu všech symbolů gramatiky, kterou obvykle označujeme symbolem V. • P c V*NV* x V* je konečná množina pravidel. Pravidlo (a,ß) obvykle zapisujeme ve tvaru a —> ß (a čteme jako „a přepis na ß"). • S e N je speciální počáteční neterminál (nazývaný také kořen gramatiky). Podmínka kladená na tvar pravidel a —> ß pouze požaduj e, aby a (tzv. levá strana pravidla) obsahovala alespoň jeden neterminál; na ß (pravou stranu pravidla) nejsou obecně kladeny žádné požadavky - specielně, může být i prázdným slovem s. Každá gramatika Q = (N, E, P, S) určuje binární relaci =>g přímého odvození na množině V* definovanou takto: y =ŕg 8 právě když existuje pravidlo a —> ß e P a slova r], Q e V* taková, že y = r\aq a 8 = rjßg. V dalších kapitolách budeme rovněž potřebovat tyto relace na V*: • relaci odvození v k krocích (A:-násobné složení relace =^g) značíme =^-g a definujeme pro každé A; e No induktivně takto: - =£.g je identická relace k+i k • relaci odvození v nejvýše k krocích, kterou značíme ^-g a definujeme pro každé k e No předpisem k ■£ je reflexivní a tranzitivní uzávěr =>g. • Relace netriviálního odvození, kterou značíme =>-í, je definována takto: i = \ Relace =>-í je tedy tranzitivní uzávěr relace =>g. V dalším textu budeme index Q u výše uvedených relací obvykle vynechávat, bude-li z kontextu patrné, o kterou gramatiku se jedná. Prvky množiny V*, které lze odvodit z počátečního neterminálu, nazýváme větnými formami gramatiky Q. Přesněji, a e V* je větná forma právě když S =>* a. Větná forma, která neobsahuje žádné neterminály, se nazývá věta. Množina všech vět tvoří jazyk generovaný gramatikou Q, označovaný jako L{Q): L(g) = {w eY,*\S^* w) Gramatiky Q\ a Qi nazveme jazykově ekvivalentní (dále jen ekvivaletní), právě když generují tentýž jazyk, tj. L(Q\) = L(Qi). Příklad 1.3. Nechť g = ({S, A, B}, {a, b}, P, S), kde P = { S^ABS, S —>- £, AB -+ BA, BA -+ AB, A -> a, B -+ b } Pak např. AaBAbBS je větná forma Q, zatímco ABb nikoliv. Jazyk L {Q) vypadá takto: L (Q) = {u e {a, b}* \#a(u) =%(«)}. V následujícím textu budeme dodržovat tyto konvence týkající se značení: • Kořen gramatiky obvykle značíme symbolem S. • Neterminální symboly jsou označovány velkými písmeny (obvykle ze začátku) latinské abecedy (A, B, C,...) • Terminálni symboly obvykle značíme malými písmeny ze začátku latinské abecedy (a, b,c,...). • Řetězce, které jsou složeny výhradně z terminálni ch symbolů (tzv terminálni řetězce) obvykle značíme malými písmeny z konce latinské abecedy (..., x, y, z) • Řetězce, které mohou být složené z terminálni ch i neterminální ch symbolů, jako např. větné formy, značíme malými řeckými písmeny (a, ß, y,...). • Pravidla a —> ß,a —> y se stejnou levou stranou často zapisujeme stručněji jako a —> ß | y. Uvedené konvence platí, pokud v textu není výslovně uvedeno jinak. 1.2.2 Chomského hierarchie gramatik a jazyků Lingvista Noam Chomsky rozdělil gramatiky do čtyř skupin (typů) na základě různých omezení na tvar pravidel. Jeho práce (z konce 50. let) byla původně motivována úvahami 6 KAPITOLA 1. JAZYK A JEHO KONEČNÁ REPREZENTACE o struktuře přirozeného jazyka, z dnešního pohledu má však především význam jako základní (a neobyčejně výhodné) rozdělení gramatik podle jejich popisné sily. Chomského hierarchie rozlišuje tyto čtyři (základní) typy gramatik: typ 0 Libovolná gramatika je gramatikou typu 0; na tvar pravidel se nekladou žádné omezující požadavky. Někdy též se takové gramatiky označují jako gramatiky bez omezení či frázové gramatiky (phrase grammars). typ 1 Gramatikaje typu 1 (nebo též kontextová1, Context-Sensitive, CSG, méně často též monotónní), jestliže pro každé její pravidlo a —> ß platí \a\ < \ß\ s eventuelní výjimkou pravidla S —> e, pokud se S nevyskytuje na pravé straně žádného pravidla. typ 2 Gramatikaje typu 2 (též bezkontextová, Context-Free, CFG), jestliže každé její pravidlo je tvaru A —> a, kde \a\ > 1 s eventuelní výjimkou pravidla S —> e, pokud se S nevyskytuje na pravé straně žádného pravidla. typ 3 Gramatikaje typu 3 (též regulární či pravolineární ), jestliže každé její pravidlo je tvaru A —> aB nebo A —> a s eventuelní výjimkou pravidla S —> e, pokud se S nevyskytuje na pravé straně žádného pravidla. 3 V dalším textu bude ukázáno, že ke každé gramatice typu 2 s pravidly A —> a, kde \a\ > 0, lze sestrojit ekvivaletní gramatiku typu 2 splňující požadavek \a\ > 1 s eventuelní výjimkou o S —> £.Z toho okamžitě plyne i analogické tvrzení pro typ 3, pokud bychom povolili pravidla tvaru A —> s. Hierarchie gramatik také určuje příslušnou hierarchii jazyků. Jazyk L je regulární (resp. bezkontextový, kontextový, typu 0) pokud existuje regulární (resp. bezkontextová, kontextová, typu 0) gramatika Q taková, že L{Q) = L. Nyní je již zřejmý smysl „výjimky" týkající se pravidla S —> e; kdybychom ji nepovolili, stal by se z libovolného (třeba i regulárního) jazyka po přidání prázdného slova jazyk typu 0, který nelze popsat ani kontextovou gramatikou. To by bylo značně nepřirozené - přidáním jediného slova se „charakter" obecně (a též i obvykle) nekonečného jazyka příliš nezmění. Z definice je patrné, že každý nový typ gramatiky v Chomského hierarchii je specifikován zavedením dalších omezujících podmínek na typ předchozí - například každá regulární gramatikaje také gramatikou bezkontextovou, kontextovou i typu 0. Naopak to ovšem neplatí. V této souvislosti se rovněž nabízí přirozená otázka, zda existuje jazyk, který není typu 0, tj. jazyk, který nelze generovat žádnou gramatikou, či ekvivaletně jazyk, pro nějž neexistuje konečná reprezentace (pomocí gramatiky). Odpověď podává tato věta: Tvrzení 1.4. Nad abecedou {a} existuje jazyk, který není typu 0. Důkaz: Množina všech slov nad abecedou {a} je spočetně nekonečná. Množina všech jazyků nad touto abecedou má proto mohutnost 2^°, což je mohutnost kontinua (zejména je 1. Název „kontextová" je odvozen z toho, že uvedenou podmínku je možné ekvivalentně zformulovat také tak. že každé pravidlo je tvaru y AS ->- yaS, kde |ot| > 1 (tj. neterminál A se přepíše na a tehdy, je-li obklopen kontextem y a 5). „Ekvivalentní formulací" myslíme to, že třída všech jazyků, které lze generovat kontextovými gramatikami, se nezmění. 2. Analogicky lze definovat gramatiky levolineární s pravidly tvaru A —>- Ba nebo A —>- a. I tyto gramatiky se nazývají regulární. 3. U tohoto typu gramatik bývá někdy v uvedené definici povoleno a e S U {e}; třída jazyků generovaných těmito gramatikami se nezmění oproti standardnímu případu. 1.2. KONEČNÁ REPREZENTACE JAZYKA 7 tedy nespočetná). Ukážeme, že jazyků typu 0 nad abecedou {a} je pouze spočetně mnoho. Buď M libovolná, ale pro další úvahy pevně zvolená spočetná množina. Ke každé gramatice Q s množinou neterminálů N existuje ekvivalentní gramatika Q' jejíž množina neterminálů je podmnožinou M (stačí „přejmenovat" prvky N vhodně zvolenými prvky množiny M). Lze proto bez újmy na obecnosti předpokládat, že každá gramatika s množinou terminálů {a} má neterminály z množiny M. Ukážeme, že všech takových gramatik je pouze spočetně mnoho. K tomu si stačí uvědomit, že zápis každé takové gramatiky je vlastně slovo nad spočetnou abecedou M U {a, -+, (,),{,},,} Podtržítka mají jen pomocnou úlohu - naznačují, že se má podtržený znak chápat jako prvek množiny a nejako metasymbol. Všech slov délky i nad touto abecedou je K'0 = Ko pro libovolné i e N. Všech slov nad touto abecedou je proto spočetně mnoho, neboť sjednocením spočetně mnoha spočetných množin je spočetná množina. Uvažovaných gramatik je proto rovněž spočetně mnoho. D Z důkazu předchozí věty je patrné, že gramatikami lze ve skutečnosti popsat jen „velmi malou" třídu jazyků. Z uvedeného není ovšem jasné, jakého „druhu" jsou jazyky, které nejsou typu 0 - jak uvidíme později, spadají sem i některé velmi přirozeně definované jazyky. Pozorného čtenáře jistě napadne i další otázka - existuje nějaký mocnější aparát pro popis jazyků než gramatiky? Uvědomme si, že základní požadavek na každý takový aparát je, aby jazyky byly popsány konečným způsobem. Jazyky tedy budou v každém případě specifikovány konečnou posloupností matematických symbolů. Jelikož matematika vystačí se spočetně mnoha symboly, lze aplikovat argument předchozího důkazu; každá konečná reprezentace (popisný aparát) proto dokáže popsat nejvýše spočetnou množinu jazyků. Toto základní omezení nelze překonat. Není však možné předem vyloučit existenci aparátu, který interpretuje zápis jazyka takovým způsobem, že lze konečně zapsat i jazyky, které nejsou typu 0. Toto je základní omezení, kterým je ovlivněna celá informatika. I program (nebo libovolný jiný zápis algoritmu) je totiž konečná posloupnost znaků a je jich proto spočetně mnoho. Jak uvidíme, lze problémy formálně specifikovat jako jazyky. Všech problémů je tedy nespočetně mnoho. Z toho okamžitě plyne, že jsou i takové problémy, najejichž řešení neexistuje algoritmus. Mezi nimi se najdou i takové problémy, kde by existence algoritmu byla velmi užitečná (ale bohužel tomu tak není). Patří k nim například • problém, zda libovolný daný program ukončí svůj výpočet pro (jeden) libovolný daný vstup (vstupní data), resp. pro každý daný vstup (tj. zda program pro zadaný bude cyklit, resp. pro žádný vstup nikdy cyklit nebude), • problém, zda dva libovolné dané programy jsou ekvivalentní v tom smyslu, že pro stejné vstupy dávají tytéž výsledky (například prototyp nějakého systému či jeho proveditelná specifikace jako jeden program a efektivní implementace téhož systému jako program druhý), 8 KAPITOLA 1. JAZYK A JEHO KONEČNÁ REPREZENTACE • problém, zda dvě libovolné bezkontextové gramatiky (tj. užitečný nástroj pro specifikaci syntaxe programovacích jazyků) jsou ekvivaletní (jedna z gramatik definuje syntaxi jazyka vhodnou pro uživatele - programátora, je však nevhodná pro jeho implementaci; tvůrce překladače musí najít jinou vhodnou gramatiku, ale neexistuje algoritmus, který by ověřil, zda tyto gramatiky jsou ekvivalentní) • a řada dalších. Touto problematikou se budeme zabývat v kapitole 5, tj. až po studiu jazyků gene-rovatelných gramatikami v Chomského hierarchii. Detailněji se těmito otázkami zabývá teorie vyčíslitelnosti. Kapitola 2 Regulární jazyky a konečné automaty V této kapitole se budeme zabývat vlastnostmi regulárních jazyku. Ukážeme si alternatívni způsoby jejich formální reprezentace, které jsou na první pohled velmi odlišné od regulárních gramatik - nejprve zavedeme pojem konečného automatu, který je matematickým modelem jednoduchého výpočetního zařízení s konečnou pamětí, schopného rozpoznávat určitý jazyk. Dokážeme, že tří da jazyků, které lze rozpoznat konečnými automaty, je přesně třída regulárních jazyků; tento poznatek také přinese zajímavé výsledky o jejich struktuře a vlastnostech. Další způsob formální reprezentace regulárních jazyků představují tzv regulární výrazy, kterými se budeme rovněž zabývat. Umožňují popsat libovolný regulární jazyk jako výsledek kompozice několika jednoduchých operací nad jazyky (jde tedy o nerekurzivní popis, na rozdíl od gramatik a konečných automatů). V závěru kapitoly se také zmíníme o praktickém uplatnění prezentovaných teoretických poznatků; možnosti jsou velmi široké a pečlivé studium tohoto textu proto rozhodně není ztrátou času. 2.1 Konečné automaty V každodenním životě se často setkáváme se zařízeními, která provádějí jistý druh činnosti na základě poměrně komplikované komunikace s okolím. Dobrým příkladem je třeba automat na kávu - představme si stroj, který je vybaven dvoumístným displejem (je tedy schopen přijmout hotovost až do výše 99 korun), dále otvorem pro mince, několika tlačítky pro výběr nápoje a samozřejmě výdejním systémem. Komunikace s automatem probíhá pomocí uvedených komponent. Jedinou výjimkou je v tomto směru displej; ten se komunikace přímo neúčastní, pouze signalizuje množství peněz, které byly do automatu vhozeny. To je také jediná veličina, která ovlivňuje další chování přístroje (pro jednoduchost neuvažujeme množství surovin, které v automatu zbývá). Určuje, které tlačítko pro volbu nápoje lze použít, zda je ještě možné vhodit další minci (pokud by výsledná částka přesáhla 99 korun, je mince odmítnuta), případně kolik peněz má automat po stisku speciálního tlačítka vrátit. Hodnota na displeji tedy přesně a úplně vystihuje momentální stav 9 10 KAPITOLA 2. REGULÁRNÍ JAZYKY A KONEČNÉ AUTOMATY automatu. Ten se mění na základě komunikace s okolím podle předem stanoveného protokolu - vhozením další mince nebo stiskem tlačítka se stav automatu příslušným způsobem upraví. Odebrání nápoje přístroj nijak nezaznamená, nemá tudíž na stav žádný vliv (čtenář se může snadno přesvědčit, že tento předpoklad je celkem realistický). Vnitřní protokol automatu musí přesně vystihnout, která posloupnost akcí je pro automat přijatelná a která nikoliv. Jestliže bílá káva stojí 8 korun a objednává se tlačítkem X, je např. posloupnost akcí 2Kč, 5Kč, 1Kč, Xpro automat přijatelná, zatímco sekvence 1Kč, 1Kč, X nikoliv. Jelikož další činnost automatu je úplně určena jeho momentálním stavem, kterých je konečně mnoho (přesně 100), je možné zmíněný protokol specifikovat tak, že pro každý stav uvedeme seznam akcí, na které je automat schopen reagovat spolu se stavem, do kterého se po dané akci dostane. Existuje mnoho systémů, jejichž chování lze definovat pomocí konečně mnoha stavů, akcí a přechodů mezi stavy. Nemusí se vždy jednat zrovna o řídící jednotky - i některé společenské hry jako třeba šachy lze tímto způsobem chápat a přesně popsat; stavy jsou v tomto případě všechna možná rozložení figur na šachovnici (jelikož máme konečný počet figur i polije možných rozložení také konečně mnoho), akce jsou všechny možné tahy (např. „bílá věž z B2 na B6") a v každém stavu lze provést pouze ty akce, které neodporují danému rozložení figur a pravidlům šachu. Pokud se zajímáme například o výherní strategii hráče s bílými figurami, můžeme stavy ve kterých dává bílý mat označit za koncové. Ověřit, zda bílý má v daném stavu šanci na výhru pak znamenená zjistit, zda z daného stavu existuje posloupnost akcí, která vede do některého z koncových stavů. Ne každá hra se ovšem dá popsat jako systém s konečným počtem stavů (dále jen stručněji: konečně stavový systém). Příkladem jsou tzv „piškvorky" - hrací poleje potenciálně nekonečné a hra má tudíž nekonečně mnoho možných konfigurací. I počítače jsou konečně stavové systémy, neboť mají sice velkou, ale přece jen konečnou pamět, která tudíž může nabýt pouze konečně mnoha stavů (počítáme sem samozřejmě i disky, vyrovnávací paměti, velkokapacitní záznamová média sdílená po síti a podobně). Akce a přechody mezi stavy paměti nelze v tomto případě popsat nějak jednoduše -závisí na konstrukci počítače a samozřejmě i na samotném obsazení paměti (jaký program se provádí, jaká má data atd.). Zároveň je však třeba poznamenat, že omezení na velikost paměti je poněkud umělé. V praxi nepředstavuje zásadní problém a v abstraktních úvahách je proto účelné tento limit zcela pominout. Získané teoretické výsledky pak mnohem lépe odvídají realitě, neboť přesněji vystihují „výpočetní sílu" reálných počítačů, jak ostatně uvidíme v kapitole 5. Abstraktním modelem konečně stavových systémů jsou tzv. konečné automaty. Konečný automat je vybaven konečně stavovou řídící jednotkou (tj. konečnou pamětí), čtecí hlavou a páskou, na které je zapsané vstupní slovo - viz obrázek 2.1. Na začátku výpočtu je hlava umístěna na nejlevějším políčku pásky. Automat na základě přečteného symbolu a momentálního stavu svůj stav změní a posune čtecí hlavu o jedno políčko vpravo. Výpočet končí, pokud se automat „zablokuje", nebo přečte celé vstupní slovo. Slovo zapsané na pásce je automatem akceptováno, pokud je celé přečteno a výsledný stav je některý z předem určených koncových stavů. Množina všech slov, která daný konečný automat M. 2.1. KONEČNÉ AUTOMATY 11 a a b a b b b a cteci hlava ^----------------------------------------------------------N S \ konečně stavová řídící jednotka ^ J vstupní páska Obrázek 2.1: Konečný automat akceptuje, tvoří jazyk akceptovaný automatem A4. Formálni deŕinice vypadá takto: Definice 2.1. Konečný automat (Finite Automaton, FA) A4 je pětice (Q, E, <$, go, F), kde • Q je neprázdná konečná množina stavů. • E je konečná množina vstupních symbolů, nazývaná, také vstupní abeceda. • 8 : Q x E —»- Q je parciální přechodová funkce. • qo G Q )Q počáteční stav. • F C g je množina koncových stavů. Abychom mohli definovat jazyk přijímaný daným FA A4, zavedeme rozšířenou přechodovou funkci 5 : Q x E* —»- Q, definovanou induktivně vzhledem k délce slova ze E*: • 8(q, e) = q pro každý stav q e Q. 8{8{q, w), a) je-li 8(q, w) i 8(8(q, w), a) definováno, _L jinak. Symbol _L značí, že funkce není definovaná. Zápis 8{q,w) = p znamená, že automat M. přejde ze stavu q „pod slovem" w (tj. postupným přečtením slova w znak po znaku zleva doprava) do stavu p. Jazyk přijímaný (akceptovaný, rozpoznávaný) konečným automatem A4, označovaný L (A4), je tvořen právě všemi takovými slovy, pod kterými automat přejde z počátečního stavu do některého z koncových stavů: • 8(q, wa) = ■ L(M) = {w e E* \8(qo,w) e F} Jazyk, který je rozpoznatelný (nějakým) konečným automatem, nazveme regulární (viz však poznámka 2.2. Ekvivalenci konečných automatů definujeme podobně jako v případě gramatik - konečné automaty A4 a A4' jsou ekvivalentní, pokud L (A4) = L {M.'). Poznámka 2.2. V části 1.2.2 jsme přívlastkem „regulární" označili jazyk generovatelný regulární gramatikou; jak uvidíme, jsou třídy jazyků, které lze generovat regulárními gramatikami, resp. rozpoznat konečnými automaty, ve skutečnosti stejné. Než toto dokážeme, bude slovo „regulární" zkratkou pro „rozpoznatelný konečným automatem". Příklad 2.3. Nechť A4 = ({qo, q\, qi\, {a, b}, 8, q0, {q2}) je FA, kde 8(q0,a)=qi 8(q0,b)=q2 12 KAPITOLA 2. REGULÁRNÍ JAZYKY A KONEČNÉ AUTOMATY 8(qi,a)=q2 8(qi,b)=q0 8(q2,a)=q0 8{q2,b)=q\ Pak L (M) = {w e {a, b}* \ (#a(w) - #b{w)) mod 3 = 2}. Úplná definice konkrétního automatu musí zahrnovat popis všech složek pětice z definice 2.1. Není však nutné tyto složky vždy reprezentovat standardní množinovou symbolikou (tj. výčtem prvků). V praxi se často používají i jiné (přehlednější) způsoby reprezentace konečných automatů. Předvedeme si dva z nich na automatu A4 z předchozího příkladu. Automat A4 je možné reprezentovat pomocí tabulky přechodové funkce takto: a b qo q\ qi q\ qi qo qi qo q\ Stavy automatu jsou vypsány v záhlaví řádků, vstupní symboly v záhlaví sloupců, přechodová funkce je určena obsahem vnitřních polí tabulky (pokud je pro některé dvojice nedefinována, uvádí se v příslušném místě tabulky znak „-"), počáteční stav je označen znakem —»• a koncové stavy znakem <—. Ještě přehlednější, a proto nejčastěji používaná, je reprezentace pomocí přechodového grafu (též přechodového systému s návěštími ze £), který pro automat A4 vypadá takto: ____________b____________ í JI I_________________J a Stavy odpovídají uzlům, přechodová funkce je znázorněna ohodnocenými hranami, vstupní abeceda je tvořena symboly, kterými jsou hrany ohodnoceny, počáteční stav je označen šipkou a koncové stavy jsou dvojitě zakroužkovány. Nakonec ještě zmiňme reprezentaci výpočetním (či též stavovým) stromem. Kořen stromu odpovídá počátečnímu stavu (a není tedy nutné jej nějak označovat jako počáteční). Z každého uzlu, který není listem vychází - dle definice přechodové funkce - právě tolik hran ohodnocených symboly vstupní abecedy, kolik má odpovídající stav následníků (je-li tedy 8 totální, pak právě tolik hran, kolik symbolů má vstupní abeceda). Jestliže nějaký stav odpovídá více uzlům, pak hrany vycházejí jen z jednoho z těchto uzlů. Výpočetním stromem lze reprezentovat jen ty automaty, kde každý stav je tzv dosažitelný z počátečního stavu (viz definice 2.18) - z hlediska schopnosti rozpoznávat daný jazyk, není přítomnost či nepřítomnost nedosažitelných stavů podstatná (viz lemma 2.19). Výpočetní strom pro daný automat není (obecně) určen jednoznačně - může se lišit dle toho, zda jej konstruujeme způsobem, který odpovídá například procházení do hloubky, nebo do šířky, či dalším možnostem. Pokud však ve výpočetním stromu ztotožníme uzly 2.1. KONEČNÉ AUTOMATY 13 označené stejným stavem, obržíme přechodový graf (v němž však musíme vyznačit stav počáteční). Výpočetní strom pro automat M. může tedy mít například tyto tvary: Příklad 2.4. Pro ilustrací nyní uvedeme rovněž důkaz faktu, že konečný automat A4 z příkladu 2.3 skutečně rozpoznává jazyk L (A4) = {w e {a, b}* | (#a(vu)—#b(w)) mod 3 = 2}. Důkaz: Dokážeme, že pro každé slovo v e {a, b}* platí, že 8(qo, v) = 8(q,a)=p Reflexivní a tranzitivní uzávěr relace kroku výpočtu značíme h*. Jazyk akceptovaný automatem A4 pak můžeme definovat také takto: I (A4) = {w e E* I (qo, w) h* (q, s), kde q e F} Konfigurace konečného automatu A4 přesně popisuje momentálni stav výpočtu, který A4 na daném slově provádí. Obsahuje úplnou informaci, která je potřebná pro jeho další pokračování. „Programem" pro tento výpočet je samozřejmě přechodová funkce. 2.1. KONEČNÉ AUTOMATY 15 Důkaz faktu, že obě uvedené definice jazyka L (M.) jsou ekvivalentní, lze přenechat čtenáři jako jednoduché cvičení - stačí ukázat platnost ekvivalence 8(q, w) = p -<=>• (q, w) h* (p, s) což se dá jednoduše provést indukcí vzhledem k délce slova w. 2.1.1 Konstrukce konečných automatů Konstrukce konečného automatu, který rozpoznává daný jazyk, je obecně netriviální úkol. V této části si ukážeme některé metody, s jejichž pomocí je možné vyřešit řadu konkrétních úloh. Základním trikem, který dokáže zjednodušit návrh konečného automatu, je zavedení jisté pomocné struktury na stavech. Uvědomme si, že stavy konečného automatu představují konečnou paměť, do níž je možné ukládat informace o dosud přečtené části vstupního slova. Informaci, která je spojená s daným stavem, je účelné zachytit v jeho označení. Příklad 2.7. Máme za úkol sestrojit automat rozpoznávající jazyk L = {w e {a, b}* \ w obsahujepodslovo abaa} Označení stavů automatu zvolíme tak, aby bylo patrné, jaká část požadovaného podslova abaa již byla automatem přečtena: l_______________________J b Vhodná volba množniny stavů („struktury na stavech") dokáže konstrikci automatu zjednodušit a výsledný automat zpřehlednit. V některých případech je její zavedení dokonce nevyhnutelné, má-li být definice technicky zvládnutelná. Příklad 2.8. Sestrojme automat rozpoznávající jazyk L = {w e {a, b}* \ #a(w) mod 1997 = 483 A #b(w) mod 1998 = 645} Ve stavech automatu je třeba zachytit informaci o počtu dosud přečtených symbolů „a" modulo 1997 a o počtu dosud přečtených symbolů „b" modulo 1998. Celkem tedy bude zapotřebí 1997.1998 = 3990006 sravů. Reprezentovat takovýto automat pomocí přechodového grafu není příliš rozumné (i když stále možné). Místo toho zavedeme jednoduchou strukturu na stavech, která umožní zapsat celou dennici na několik (krátkých) řádků. Nechť M = (Q, {a, b}, 8, qofi, {#483,645}), kde Q = {qij I 0 < i < 1996 A 0 < j < 1997} a přechodová funkce 8 je definována takto: 16 KAPITOLA 2. REGULÁRNÍ JAZYKY A KONEČNÉ AUTOMATY • 8(qtj,a) = qi+\j pro každé O < i < 1995, O < j < 1997 • 8(gi996,j, a) = qoj pro každé O < j < 1997 • 8(qij,b) = qiJ+i pro každé O < i < 1996, O < j < 1996 • 8 {qt^ 1997, b) = qtfi pro každé O < i < 1996 Další často používanou technikou je synchronní paralelní kompozice automatu. Pro dané automaty Mi a M2 umožňuje snadno sestrojit automat rozpoznávající průnik (případně také sjednocení nebo rozdíl) jazyků L (Mi) a L(M2)- Intuitivně si lze celou konstrukci představit tak, že automaty Mi a M2 necháme běžet paralelně na stejném vstupním slově. Jejich běh je synchronní, tj. Mi a M.2 provádějí kroky výpočtu vždy ve stejném okamžiku. Má-li slovo w patřit do sjednocení L(Mi) a L(M2), musí být alespoň jeden z automatů po zpracování slova w v koncovém stavu. Formálně je tato myšlenka zachycena v níže uvedené definici. Definice 2.9. Pro dané FA M\ = (Q\, E, S\, q\, F\), M2 = (02, S, 82, q2, F2), jejichž přechodové funkce jsou totální, definujeme konečný automat M\ Itü M2 = (öl x Q2,V,8,(q\,q2),F),kde • F = {(p,q)\peFlVqeF2} = (Fi x Q2) U (Ql x F2) • 8((p,q),a) = (8i(p,a),82(q,a)). Předpoklad, že přechodové funkce 8\, 82 jsou totální sice není omezující (viz lemma 2.6), avšak pro „správné" fungovaní synchronní paralelní kompozice M\ ÜD M2 nezbytný; není pak totiž možné, aby se jedna z komponent na daném slově „zablokovala", zatímco druhá měla možnost ve výpočtu pokračovat. Věta 2.10. Nechť M1 = (Q\, E, Si, q\, F\) a M2 = (Ô2, S, 82, q2, F2) jsou konečné automaty s totálními přechodovými funkcemi. Pak L (Mi Itü M2) = L (Mi) U L(M2)- Důkaz: Nejprve dokážeme toto tvrzení: 8((qi,q2),w) = (p,q) «=> 8\{q\, w) = p A h(q2, w) = q (2.1) Důkaz se provede indukcí vzhledem k | w \. • |w| =0: Platí 8((quq2),£) = (q\,qi), h(qi,s) = q\, 82(q2, e) = q2- Pro w = s tedy obě strany ekvivalence, kterou je třeba dokázat, platí (přímo z definice rozšířené přechodové funkce). Samotná ekvivalence je proto rovněž platná. • Indukční krok: Nechť w = va, kde v e E*, a G E. Platí 8((qi,q2), va) = (p,q) «=> 8((quq2),v) = (r,s) A8((r,s),a) = (p,q) «=> 8i(quv) = r A $2(q2, v) = s (indukční předpoklad) A 8i(r, a) = p A 82(s, a) = q (dle definice 8) <í=> 8i(qi, va) = p A 82(q2, va) = q Nyní již lze snadno dokázat vlastní tvrzení věty: w G L (Mi WM2) -<=> 8((qi,q2), w) = (p,q) kde p G Fi nebo q G F2 -t=ř 8i(qi,w) = p A 82(q2, w) = q <í=^ w e L(Mi)UL(M2). □ Poznámka 2.11. Podobným způsobem lze pro automaty Mi = (Ql, S, 8\, q\, F\) a M2 = (Q2, S, 82, q2, F2) s totálními přechodovými funkcemi sestrojit automat Mi(fi\M2, resp. Mi Q Mi, rozpoznávající jazyk L (Mi) n L(M2), resp. L(Mi) - L(M2)- Jediný 2.1. KONEČNÉ AUTOMATY 17 rozdíl je v definici množiny koncových stavů; taje v případě M\ íŕil Mi rovna F\ x F2 a v případě M\ Q Mi je definována jako {(p, q) \ p e F\ A q $ F2) = F\ — F2. Důkazy, žeL{M\ (nl Mi) = L{M\) C\ L{M2) aL(M\ Q Mi) = L (M 1) - L (Mi) jsou snadné; použije se vztah (2.1). Pro úplnost ještě poznamenejme, že pro automat M = (Q,T,,8,qo, F) s totální přechodovou funkcí lze také lehce sestrojit automat M rozpoznávající jazyk CO-L(M) -stačí položit M = (Q, ~Ľ,8,qo, Q - F). Zřejmě w e L (M) «=> w £ L (M), tedy L (M) = S* — L (M) (předpoklad, že 8 je totální, je opět zcela nezbytný). Příklad 2.12. Nechť L C {O, 1}* je jazyk, obsahující všechna slova w, která vyhovují těmto podmínkám: 1. w je binární zápis čísla dělitelného třemi (s chápeme j ako jiný zápis čísla 0) a 2. w obsahuje lichý počet výskytů znaku „O" Prvky L jsou například slova OOO, 011, 1011010. Konečný automat rozpoznávající jazyk L sestrojíme jako paralelní kompozici dvou jednodušších automatů, které rozpoznávají slova vyhovující podmínce 1 resp. 2. Automat M\ rozpoznávající jazyk L\ = {w e {O, 1}* I w je binární zápis čísla dělitelného třemi} vypadá takto: Indexy stavů odpovídají zbytkovým třídám modulo 3 (je třeba si uvědomit, že připsáním znaku „O" nakonec binárního čísla se zdvoj násobí jeho hodnota; připsáním „1" dosáhneme zdvojnásobení a přičtení jedničky. V obou případech se snadno zjistí, jak se změní zbytek při dělení třemi.) Automat M2 rozpoznávající jazyk L 2 = {w G {O, 1}* | #o(w) mod 2 = 1} je jednoduchý: Výsledný automat M\ ínl Mi vypadá následovně: 4qo,s\ \qi's) (^,sj (f n) platí, že automat M. projde při akceptování slova w (alespoň) dvakrát stejným stavem: A4 provede výpočet (qo,a\ . ..am) \- (q\,a2 . ..am) h ... h (qm,s), kde qm e F při němž projde m + 1, tj. více než n konfiguracemi. Podle Dirichletova principu se tedy alespoň dvě z konfigurací musí shodovat ve svých prvních komponentách - stavech (těch je jen n). Jinak řečeno, existují indexy i, j takové, že 0 < i < j < n a qi = q j = p. Schématicky: Slovo w se tedy rozpadne na tři části - w = xyz, kde x = ci\ .. .a,, y = ctj+i.. Mj,z = aj+\.. .am a kde y / f. Jinak řečeno 8(qo,x) = p, 8(p,y) = p a 8(p,z) = qm. Je zřejmé, že ke zopakování nějakého stavu dojde nejpozději po zpracování prvních n znaků1 slova w, a tedy dostáváme \xy\ < n. Dále 8(p, yl) = p pro libovolné i G No, proto také 8(qo, xy'z) = qm, tj. xy'z e L{M) pro každé z e No. □ Je užitečné si uvědomit, že PL (díky alternování universálních a existenčních kvantifikátorů) lze zapsat takto : 1. bez uvážení tohoto faktu bychom obrželi o něco slabší variantu lemmatu: Nechť L je regulární jazyk. Pak existuje n e N takové, že libovolné slovo w e L, jehož délka je alespoň n, lze psát ve tvaru w = xyz, kde 1 < \y\ < n a xy'z e L pro každé /' e Nq . 2.1. KONEČNÉ AUTOMATY 19 (Nechť) Zje regulární ==> 3n G N. Vu; G Z. \w\ > n . 3x, y, z. w = xyz A y #£A l*y| <«. Vz > 0. jc/z G Z Zdůrazněme, že lemma o vkládání (na rozdíl od Myhillovy-Nerodovy věty, kterou zformulujeme a dokážeme v následujícím odstavci - viz 2.1.3) poskytuje podmínku, kteráje pouze nutná, ale nikoliv postačující pro to, aby daný jazyk byl regulární. Lze tedy pomocí něho dokázat, že nějaký jazyk regulární není (tím, že prokážeme jeho nesplnění), ale v žádném případě ne to, že regulární je. Pumping lemma (PL) je tvrzení tvaru implikace Zje regulární =>■ Q. Při dokazování, že Z není regulární použijeme kontrapositivní formu PL, ty—'Q =>■ L není regulární, či ekvivaletně důkaz sporem: Zje regulární =>■ Q A —>Q. V každém případě jde však o dokázání —>Q. Obecně tedy můžeme postupovat takto: (pro dosažení sporu s PL předpokládejme, že L je regulární; pak musí splňovat podmínky pumping lemmatua ukážeme, že tomu tak není) tedy ukážeme platnost — 1. Napumpujeme-li y p + 1-krát, dostaneme: xyp+lz = xyypz = xyzyp = apakp = ap^k+l\ což je jistě slovo, které nepatří do jazyka Z, protože p(k + 1) není prvočíslo - dostáváme tedy spor s naším předpokladem, že Z je regulární. Podle PL tedy Z regulární není. D Příklad 2.15. Jazyk L = {a1 b1 \ i G N} nad abecedou {a, b} není regulární. Důkaz: Nyní již poněkud stručněji: buď z? G N libovolné. Slovo a"b" jistě patří do Z; pokud ho jakkoli rozdělíme na tři části x,y,z tak, že \xy\ < n a \y\ > 1, nutně x = a , y = a1 az = an~k~lbn, kdezc+Z < zz. Paknapř. próz = 2 dostávámeaka2Jan~k~lbn G" Z, neboť k + 2l+n—k — l = n+l ^ zz. Obdobně bychom ke sporu dospěli volbou z = 0 (volba z = 1 by byla jen naše „nedostatečnost"). D 20 KAPITOLA 2. REGULÁRNÍ JAZYKY A KONEČNÉ AUTOMATY Formule s alternujícími kvantifikátory a hra 2 hráčů. Pro porozumění formuli s větším počtem kvantifikátorů je možné na ni nahlížet jako na hru dvou hráčů , kde universálnímu kvantifikátoru V odpovídá hráč AI a existeční kvantifikátor 3 je reprezentován hráčem Ex. Al a Ex hrají proti sobě (jsou na tahu) v tom pořadí, které odpovídá výskytu kvantifikátorů ve formuli (čteno zleva doprava). Je-li na tahu AI, se snaží snaží se formuli tvaru Wu.p(u) vyvrátit: je-li Wu.p(u) pravda, pak AI nemůže vyhrát; je-li Wu.p(u) nepravda, pak existuje aspoň jedna hodnota w, která vyvrací (u) a AI může vyhrát tak, že pro u zvolí právě tuto hodnotu. Je-li na tahu Ex, snaží se formuli tvaru 3u.p{u) učinit pravdivou: je-li 3u.p(u) pravda, Ex může vyhrát volbou hodnoty pro u takovou, že piu) je pravda. Je-li 3u.p{u) nepravda, nemůže se mu toto podařit a hru prohrává. Vraťme se nyní zpět k pumping lemmatu; to tvrdí, že pokud Z je regulární jazyk, pak 1. 3n e N 2. Ww G L takové, že \w\ >n 3. 3x, y, z taková, že w = xyz A j/s A \xy\ < n 4. V/ > 0 : xýz G L Toto tvrzení obsahuje 4 kvantifikátory a podmínky za nimi uvedené budou ve hře 2 hráčů přestavovat omezení na možnosti volby, které každý z hráčů bude během hry činit. Zvolme nějaký regulární jazyk Z; hra pro L probíhá takto: 1. Ex zvolí přirozené číslo n, 2. AI zvolí w, a to tak, že w G L a \w\ >n, 3. Ex zvolí x, y, z taková, že w = xyz a y ^ s a \xy\ < n 4. Al zvolí i > 0, přičemž se snaží volbu provést tak, aby vyhrál, tj. snaží se o xýz £ L. Demonstrovat vyhrávající strategii pro hráče Ex značí (de facto) znovu provést důkaz pumping lemmatu, tentokrát ovšem v pojmech hry: nechť tedy Zje nějaký regulární (tj. nějakým konečným automatem V akceptovaný) jazyk. 1. Ex zvolí n = card{Q), kde Q je množina stavů automatu V. 2. AI zvolí slovo w takové, žeu; G Za \w\ > n. (Pokud takové slovo neexistuje, pak AI prohrává: v tomto případě druhý kvantifikátor říká, že všechny prvky prázdné množiny mají jistou vlastnost, což je (bez ohledu na to o jakou vlastnost se jedná) triviálně pravda - AI nemůže formuli vyvrátit). 3. Nyní Ex najde v V akceptující výpočet pro w (ten jistě existuje, protože w G Z) a zaznamená si posloupnost p stavů řídicí jednotky, kterými se při akceptování w projde. Jelikož \w\ > n, je těchto „průběžných" stavů alespoň n + 1, ale Q má jen n stavů, a tedy v p (akceptující posloupnosti stavů) se musí alespoň jeden ze stavů vyskytovat alespoň dvakrát (podle Dirichletova principu). Nechť q je první výskyt nějakého opakujícího se stavu v p. Ex rozdělí výpočet na 3 části (bude korespondovat postupnému přečtení řetězců x, y a z), a to podle prvních dvou výskytů konfigurací majících v 1. komponentě stav q. Výpočet pro vstupní slovo w = xyz 2.1. KONEČNÉ AUTOMATY 21 lze zapsat jako (qo,xyz) h* (q,yz) h+ (q,z) h* (q/,s), kde x je přečteno dříve, než se poprvé vejde do stavu q, po následném přečtení y se (poprvé) vrátíme do q (tj. druhý výskyt q) a z je zbytkem vstupního slova. Jistě tedy platí, že x,y, z jsou taková, že 10 = xjz aj /sa |xj| < /?. Ex tedy splnil podmínky volby. 4. Ať AI nyní zvolí jakékoli i > 0, bude výpočet v V pro slovo xýz vždy tvaru {qo,xýz) h* (n, 3. Ex zvolí x, y, z taková, že w = xyz a y ^ s a \xy\ < n 4. Al zvolí i > 0, přičemž se snaží volbu provést tak, aby vyhrál, tj. snaží se o xý z £ L. Příklad 2.16. Nechť L obsahuje právě všechna ta slova nad abecedou {a}, jejíchž délky 2 jsou druhými mocninami přirozených čísel, tj. L = {cŕ \ n e N}. Ukažme, že L není regulárni, a to tak, že presentujeme vyhrávající strategii Al-a: 1. Ex zvolí přirozen é číslo n. 2. Al zvolí z G L a \z\ > n (to vždy lze, protože L je nekonečný). 3. Ex zvolí u, v aw taková, že z = uvw av ^ e a \uv \ < n. 4. AI zvolí i = 2, Protože z G L, platí \z\ = m pro nějaké přirozené m. Al volil z tak, že platí m > n. Máme tedy 0 < | v \ < n a označme k = \v\. Pak ~) 1 0 0 0 0 m < m + k = \uv• w\ < m + n < m + m < (m + 1) . Délka slova uv2w tedy padne mezi druhé mocniny dvou po sobě jdoucích přirozených čísel (m a m + 1), takže uv2w <£ L, a tedy Al vyhrává. Jelikož Al má vyhrávající strategii, bez ohledu na to, jak Ex hraje, L nemůže být regulární. Fakt, že lemma o vkládání neudává postačující podmínku pro regularitu jazyka, lze názorně demonstrovat tímto příkladem: Příklad 2.17. Jazyk L = {a, b}* U {cJalbl \ i, j G N} nad abecedou {a, b, c} splňuje podmínky lemmatu o vkládání, přitom však není regulární (jak lze snadno dokázat užitím Myhillovy-Nerodovy věty). 2.1.3 Myhillova-Nerodova věta V tomto odstavci zformulujeme a dokážeme velice důležité tvrzení, tzv. Myhillovu-Nerodovu větu, která představuje algebraickou charakterizaci třídy regulárních jazyků a má četné důležité důsledky. Abychom ji mohli zformulovat, potřebujeme několik pomocných pojmů. 22 KAPITOLA 2. REGULÁRNÍ JAZYKY A KONEČNÉ AUTOMATY Definice 2.18. Nechť A4 = (Q, E, 8, qo, F) je konečný automat. Stav q e Q nazveme dosažitelný, pokud existuje w e E* takové, že 8 (qo, w) = q. Stav je nedosažitelný, pokud není dosažitelný. Je zřejmé, že vypustíme-li z daného automatu A4 nedosažitelné stavy, jazyk Z (A4) se nezmění. Tuto transformaci lze navíc provést algoritmicky, jak dokládá toto lemma: Lemma 2.19. Existuje algoritmus, který pro každý konečný automat A4 = (Q, E, 8, qo, F) sestrojí ekvivalentní konečný automat A4' bez nedosažitelných stavů. Důkaz: Nejprve dokážeme, že množinu Q' = {q e Q \ q je dosažitelný} lze algoritmicky zkonstruovat. Uvědomme si, že do každého dosažitelného stavu vede v přechodovém grafu automatu A4 konečná cesta z počátečního stavu qo. Označíme-li pro každé i e No symbolem Si množinu stavů, do kterých se lze z qo dostat cestou o délce nejvýše i (tj. použitím nejvýše i přechodů), platí: Q' = U S> i2-2) i=0 Do stavu qo se vždy lze dostat cestou délky 0 - pro každý konečný automat tedy platí So = {qo}. Hodnoty Sj pro i > 1 již závisí na tom, jak je A4 definován. Můžeme je však snadno vypočítat podle následujícího induktivního předpisu: • So = {qo} • Sj+i = Sj U {q I 3p e Sj, a e E : 8{p, a) = q} Indukcí vzhledem k i se snadno ověří, že každé Sj obsahuje pouze dosažitelné stavy. Dále pro každé i e No platí, že Si Q Q a Si C Si+\. Označme n = card(Q). Vzhledem k tomu, že množina Q je konečná, nemohou se množiny Sj pro rostoucí i neustále zvětšovat -existuje tedy k < n takové, že Sk = Sk+\. Z definice množin Sj nyní vyplývá, že dokonce pro každé j > 0 platí Sk = Sk+j. Proto můžeme množinu Q' všech dosažitelných stavů, tj. vztah 2.2 vyjádřit také jako k Q' = \JSi=Sk (2.3) i=0 Tato rovnost podává přesný návod na to, jak množinu Q' vypočítat. Formálně je tím dokázána správnost i konečnost algoritmu 2.1. Hledaný automat A4' je pak (Q', E, 8/Q',qo, F n Q'), kde symbol 8/Q' značí zobrazení 8 zúžené na Q'. Přitom platí, že pokud je 8 totální, je i 8/Q' totální. Fakt, že I (A4) = Z (A4'), je zřejmý. D Způsob, jakým jsme v algoritmu 2.1 zkonstruovali množinu všech dosažitelných stavů konečného automatu A4, je velmi speciální aplikací Knasterovy-Tarského věty o pevném bodě a Kleeneovy věty o rekurzi. Tento princip použijeme ještě mnohokrát. Definice 2.20. Nechť E je abeceda a nechť ~ je ekvivalence na E*. Řekneme, že ~ je zprava invariantní (pravá kongruence), pokud pro každé u, v, w G E* platí u ~ v =^ uw ~ vw. Index ekvivalence ~ je počet tříd rozkladu E*/~ (pokud je těchto tříd nekonečně mnoho, klademe index ~ roven oo). 2.1. KONEČNÉ AUTOMATY 23 Algoritmus 2.1 Eliminace nedosažitelných stavů konečného automatu. Vstup: Konečný automat A4 = {Q, E, S, qo, F). Výstup: Ekvivalentní konečný automat A4' bez nedosažitelných stavů. / := 0; Si := 0; repeat Si+i := Si U {qo} U {q \ 3p e Si, a e E : 8{p, a) = q}; i :=/ + 1; until Si = Si-\ Q':=Si\ M' :={Q',Y,,8/Q',qo,Fr\Q'); Poznámka 2.21. Snadno se nahlédne, že ekvivalence ~ na E* je pravá kongruence právě když pro každé u, v G E*, a G E platí u ~ v =>■ wa ~ va. (Z jedné strany triviálni, obrácená implikace se snadno ukáže indukci k délce zprava přiřetězeného slova w.) Konečné automaty a pravé kongruence s konečným indexem spolu velmi úzce souvisejí, jak ukazuje následující věta (a zejména její důkaz). Věta 2.22. (Nerodova). Nechť L je jazyk nad E. Pak tato dvě tvrzení jsou ekvivalentní: 1. L je rozpoznatelný konečným automatem. 2. L je sjednocením některých tříd rozkladu určeného pravou kongruencí na E* s konečným indexem. Důkaz: (1 ==r 2) Nechť A4 = (Q, E, 8, qo, F) je FA, který rozpoznává L. Bez újmy na obecnosti předpokládejme, že A4 je bez nedosažitelných stavů (viz lemma 2.19) a 8 je totální (viz lemma 2.6); pak také 8 je totální. Na E* definujme binární relaci ~ takto: u ~ v <í=r 8(qo, u) = 8(qo, v) Relace ~ je ekvivalence, která sdružuje taková slova, pro která automat A4 přejde do stejného stavu. Třídy rozkladu určeného relací ~ tedy odpovídají stavům automatu A4, proto relace ~ má konečný index. Ukážeme, že ~ je pravá kongruence. Nechť u ~ v a a G E. Pak 8(qo, ua) = 8(8(qo, u),a) = 8(8(qo, v), a) = 8(qo, va), tedy ua ~ va, což bylo dokázat. Jazyk L {A4) je sjednocením těch tříd rozkladu určeného relací ~, které odpovídají koncovým stavům automatu A4 - označíme-li symbolem (q) třídu, která odpovídá stavu q, platí u e L <í=> 8{qo, u) = q, kde q e F -t=ř u e (q), kde q e F. (2 ==ŕ 1) Nechť L je sjednocením některých tříd rozkladu určeného pravou kongruencí ~ na E* s konečným indexem. Prvek faktorové množiny E*/~ (tj. třídu rozkladu) obsahující prvek u budeme značit [u]. Dále definujme konečný automat A4 = {Q, Yi,8,qo, F), kde • Q = E*/~, tj. stavy jsou třídy rozkladu na E* určeného ekvivalencí ~. Jelikož ~ má konečný index, je těchto tříd konečně mnoho. • 8 je definována pomocí reprezentantů: 8{[u], a) = [ua]. Tato definice je korektní, tj. 24 KAPITOLA 2. REGULÁRNÍ JAZYKY A KONEČNÉ AUTOMATY nezávisí na volbě konkrétního reprezentanta , neboť ~ je zprava invariantní. • qo = [e]. • F obsahuje právě ty prvky E */~, jejichž sjednocením obdržíme jazyk L. Indukcí k délce slova v se snadno ukáže, že 8([e], v) = [v] pro každé v G E*. Zřejmě L = L (M), neboť v e L <^=> [v] g F <^=> S ([e], v) e F. D Poznámka 2.23. Každý konečný automat tedy jednoznačně určuje jistou pravou kongru-enci s konečným indexem a obráceně. Omezíme-li se pouze na automaty, které jsou bez nedosažitelných stavů a s totální přechodovou funkcí, jsou obě uvedená přiřazení navzájem inverzní až na označení stavů automatu. Předchozí věta rovněž udává podmínku, která je nutná a postačující k tomu, aby daný jazyk byl regulární. Lze tedy pomocí ní dokázat i to, že nějaký jazyk regulární není. Příklad 2.24. Dokážeme, že jazyk L = {ď b1 \ i G N} nad abecedou {a, b} není rozpoznatelný žádným konečným automatem. (O tomto jazyku jsme již dokázali, že regulární není - viz příklad 2.15; tímto důkazem „jen" ilustrujeme techniku obsaženou ve větě 2.22 Důkaz: Předpokládejme, že L je regulární. Pak podle věty 2.22 existuje pravá kongruence ~ na {a, b}* s konečným indexem taková, že Z je sjednocením některých tříd rozkladu [a, £}*/~- Ukážeme, že to není možné; za tímto účelem stačí nalézt dvě slova u, v, která prokazatelně leží ve stejné třídě rozkladu {a, &}*/~ a přitom u G L a v G" L. Buď k index ekvivalence ~. Uvažme slova ab, aab, aaab,..., a +lb. Jelikož rozklad {a, &}*/~ má právě k tříd, musí ve výše uvedeném seznamu existovat dvě různá slova, která patří do stejné třídy - tedy a1 b ~ aJb pro nějaké 1 < i < j < k + \. Protože ~ je zprava invariantní, platí rovněž albbl ~ aJ'bb' . Tedy slova u = albl a v = aJ bl patří do stejné třídy rozkladu {a, £}*/~, přitom u náleží do jazyka L, zatímco v nikoliv. D Poslední pojem, který budeme k formulaci Myhillovy-Nerodovy věty potřebovat, je obsažen v následující definici: Definice 2.25. Nechť L je libovolný (ne nutně regulární)jazyk nad abecedou E. Na množině E* definujeme relaci ~L zvanou prefixová ekvivalence pro L takto: u ~L v ^Á Vw e E* : uw e L «=> vw e L Tedy ~L obsahuje právě ty dvojice (u, v), které mají tu vlastnost, že po připojení libovolného w vzniklá slova uw, vw budou do jazyka L patřit buď obě, nebo ani jedno z nich. Lemma 2.26. Nechť L je libovolný jazyk nad E. Pak relace ~L je pravá kongruence a L lze vyjádřit jako sjednocení některých (ne nutně konečně mnoha) tříd rozkladu E*/~L. Důkaz: Zřejmě ~L je ekvivalence. Dokážeme, že ~L je pravá kongruence. Nechť u ~L v a a G E. Platí ua ~L va, neboť pro libovolné slovo w G E* je uaw G L <<==> vaw G L (vyplývá to z toho, že aw je rovněž slovo nad E a u ~L v - viz definice 2.25). 2. Nezávislost na volbě reprezentantů v tomto případě znamená, že pro každé u, v e S*,a e Splatia ~ v ua ~ va 2.1. KONEČNÉ AUTOMATY 25 Zbývá dokázat, že Z je sjednocením některých tříd rozkladu E/~L. K tomu stačí ukázat, že pro libovolná u, v G E* platí u ~L v =>■ (u G L -<=>■ v e L), tedy že slova v každé třídě patří do L buď všechna, nebo tam nepatří žádné z nich. Nechť tedy u ~L v. Podle definice 2.25 pak pro každé w G E* platí í/io G L -<=>■ ľuj g Z. Zvolíme-li za w prázdné slovo e, obržíme ue = u G L -<=>■ Dř = «el, což bylo dokázat. D Každý jazyk nad abecedou E lze podle předchozího lemmatu vyjádřit jako sjednocení některých tříd rozkladu určeného jistou pravou kongruencí na E* (těchto tříd však obecně nemusí být konečně mnoho). Pozorný čtenář patrně namítne, že za účelem konstatování tohoto faktu nebylo nutné zavádět relaci ~L, protože např. také identická relace id je pravá kongruence a každý jazyk lze vyjádřit jako sjednocení jistých tříd rozkladu E*//^. Relace ~L však přece jen je něčím zvláštní: Lemma 2.27. Nechť L je jazyk nad abecedou E. Pro libovolnou pravou kongruencí ~ na E* takovou, že L je sjednocením některých tříd rozkladu E*/~ platí, že ~ C ~L (tj. ~L je největší pravá kongruence s touto vlastností). Důkaz: Nechť u ~ v. Ukážeme, že pak také u ~L v, tj. pro libovolné slovo w G E* platí uw G L -<=>■ vw G L. K tomu si stačí uvědomit, že uw ~ vw (viz definice 2.20); jelikož L je sjednocením některých tříd E*/~, platí uw G L <<=> vw e L. D Věta 2.28 (Myhillova-Nerodova). Nechť L je jazyk nad E, pak tato tvrzení jsou ekvivalentní: 1. L je rozpoznatelný konečným automatem. 2. L je sjednocením některých tříd rozkladu určeného pravou kongruencí na E* s konečným indexem. 3. Relace ~L má konečný index. Důkaz: (1 =^- 2) Viz věta 2.22 (ve směru 2.22-1 =>■ 2.22-2). (2 ==ŕ 3) Nechť ~ je libovolná pravá kongruence na E* s konečným indexem taková, že L je sjednocením některých tříd rozkladu E*/~- Protože ~ je zjemněním ~L (viz lemma2.27), má rozklad E*/~L nejvýše tolik tříd jako E*/~. (3 ==r 1) Dle lemmatu 2.26 je L sjednocením některých tříd rozkladu E*/~L a ~L je pravá kongruence. Jelikož ~L má konečný index, lze opět použít větu 2.22 (tentokrát ve směru 2.22-2^=^> 2.22-1), resp. druhou část důkazu 2.22. D 2.1.4 Minimální konečný automat Konečné automaty nacházejí velmi široké uplatnění v technické praxi (viz část 2.4). Z hlediska efektivity a nákladnosti implementace je důležité, aby počet stavů byl pokud možno co nejmenší. Přirozeným problémem je proto konstrukce minimálního automatu (tj. automatu s nejmenším počtem stavů), který rozpoznává daný regulární jazyk L. V této části ukážeme, že minimální automat lze sestrojit poměrně jednoduchým způsobem — stačí mít k dispozici nějaký konečný automat, který rozpoznává L. Minimální automat pak obdržíme ztotožněním některých jeho stavů. 26 KAPITOLA 2. REGULÁRNÍ JAZYKY A KONEČNÉ AUTOMATY Pozorný čtenář jistě postřehl, že tvrzení o existenci minimálního automatu a do jisté míry i návod k jeho konstrukci, jsou skryty v Myhillově-Nerodově větě (specielně viz důkaz implikace (3 =>■ 1) v 2.28, tj. konstrukce z druhé části důkazu věty 2.22 aplikované na ~L). Myhillovu-Neorovu větu můžeme totiž reformulovat takto: Věta 2.29 (Myhillova-Nerodova, 2. varianta). Počet stavů libovolného minimálního automatu rozpoznávajícího jazyk L je roven indexu prefixové ekvivalence ~L. (Takový konečný automat existuje právě když index ~L je konečný.) Důkaz: Víme, že každý konečný automat (a bez újmy na obecnosti bez nedosažitelných stavů) určuje jistou pravou kongruenci s konečným indexem a obráceně (viz věta 2.22). Je-li jazyk L regulární, pak relace ~L je největší pravá kongruence s konečným indexem taková, že Z je sjednocením některých tříd příslušného rozkladu (viz lemma 2.27). Konečný automat, který odpovídá relaci ~L, je tedy minimální automat rozpoznávající jazyk L a získáme jej tak, že aplikujeme postup uvedený v druhé části důkazu věty 2.22, tentokrát však nikoli pro ~, ale pro ~L. Jen pro zopakování připomeňme princip konstrukce: má-li ~L konečný index k, konstruujeme FA A4 s k stavy. M. si ve své konečné množině stavů uchovává informaci o tom, do které třídy ekvivalence dosud přečtená část vstupu patří. Při značení jako v důkazu 2.22 má tedy množinu stavů {[u] \ u e £*} o právě k prvcích (kde [u] = {u' | u' ~L u}). Stav [u] je koncový, je-li u e L, jinak není koncový. Přechodová fuknce je definována jako <5([m], a) = [ua]. Důkaz korektnosti této konstrukce - viz 2.22. D Příklad 2.30. Myhillovu-Nerodovu větu lze, tak jako větu 2.22, použít k důkazu, že jazyk je či není akceptovatelný nějakým FA. Pro srovnání dokažme o témže jazyku jako v příkladu 2.15 a v příkladu 2.24, tj. L = {a1 b1 \ i > 0}, že není regulární, a to pomocí 2.29 (tj. opět „jen" ilustrujeme důkazovou techniku implikovanou tvrzením této věty; čtenáři doporučujeme tyto techniky vzájemně porovnat). Žádné řetězy s, a, a2,... nejsou ekvivaletní vzhledem k ~L, protože cťb1 e L, ale aJ b' ^ L pro i j^ j. Tedy ~L má nekonečně mnoho různých tříd (nekonečný index); jinak řečeno L nemůže být rozpoznáván žádným konečným automatem, což j sme měli dokázat. Tvrzení o existenci minimálního konečného automatu můžeme tedy explicitněji zformulovat (jako bezprostřední důsledek Myhillovy-Nerodovy věty) takto: Důsledek 2.31. Minimální konečný automat akceptující jazyk L je určen jednoznačně až na isomorfismus (tj. přejmenování stavů). 2.1.5 Minimalizace konečných automatů Věnujme se nyní problému, jak k danému automatu algoritmicky nalézt ekvivaletní minimální automat. Zopakujme, že máme-li k dispozici nějaký konečný automat A4 rozpoznávající L, je příslušná pravá kongruence ~ zjemněním relace ~L. Rozklad S*/~L tedy vznikne z E*/~ sjednocením některých tříd. Jelikož třídy S*/~L odpovídají stavům minimálního automatu a třídy E*/~ odpovídají stavům M., můžeme také říci, že stavy minimálního automatu vzniknou ztotožněním některých stavů automatu M.. Thývk zjistit, jak uvedené ztotožnění provést, a to samozřejmě beze změny akceptovaného jazyka. 2.1. KONEČNÉ AUTOMATY 27 Jistě nelze ztotožnit nějaký koncový stav p s nekoncovým stavem q. Pokud totiž p = 8(qo,x) aq = 8(qo, y), pak x musí být akceptován a y zamítnut, a to i po ztotožnění p a q. Není však způsob, jak zajistit, že „ztotožněný" stav má někdy akceptovat a někdy zamítat. Dále, pokud bychom ztotožnili nějaké p aq, pak bychom měli ztotožnit i jejich následníky 8(p, a) a 8(q, a), abychom dodrželi funkcionalitu (tzv. determinismus) 8: pro daný stav a symbol je jednoznačně určen následník. Z těchto dvou úvah plyne, že nemůžeme ztotožnit p aq, pokud 8(p,x) e F a současně 8(q,x) £ F pro nějaké x. Ukazuje se, že tato podmínka je nutná i postačující pro rozhodování, kdy dva stavy ztotožnit, tj. pokud pro nějaké x 8 (p, x) G Fa současně 8 (q, x) £ F, pak stavy nemůžeme ztotožnit; pokud žádné takové x neexistuje, pak je ztotožnit můžeme. Tyto úvahy lze formalizovat takto: Definice 2.32. Nechť M. = (Q, E, 8, qo, F) je FA bez nedosažitelných stavů, jehož přechodová funkce j e totální. Pro každý stav q definujeme jazyk L (q) C E* předpisem L{q) = {x g E* \8(q,x) e F}. Stavy p, q nazveme jazykově ekvivalentní, psáno p = q, pokud L(p) = Ĺ (q), tj. p = q <^=> Vjc G E* : (8(p,x) G F <^=> 8(q,x) G F) L {q) je tedy jazyk přijímaný automatem M.q, který vznikne z A4 tak, že za počáteční stav prohlásíme q. Zřejmě = je ekvivalence na Q. Intuitivně je jasné, že ztotožněním jazykově ekvivalentních stavů se přijímaný jazyk nezmění. K přesné formulaci tohoto faktu nejprve potřebujeme vědět, co se přesně myslí „ztotožněním stavů". (Čtenář, kterému je alespoň intuitivně jasné, jak by zkonstruoval ekvivalentní automat s množinou stavů Q/=, pokud by byla dána =, a že takto získaný automat Á4/= je minimální, může při prvním čtení přeskočit text až za důkaz věty 2.37, kde se věnujeme problému, jak spočítat = .) Lemma 2.33. Nechť M. = (Q, E, 8, qo, F) je FA bez nedosažitelných stavů s totální přechodovou funkcí. Jestliže p = q, pak pro každé a G E platí 8 (p, a) = 8 (q, a). Důkaz: Označme r = 8(p, a), s = 8(q, a). Potřebujeme dokázat, že L{r) = L{s), tj. že pro libovolné slovo w G E* platí 8(r, w) G F <<=> 8(s, w) G F. K tomu si stačí uvědomit, že 8{r, w) = 8(8(p, a), w) = 8{p, aw) a podobně 8{s, w) = 8(8(q, a), w) = 8{q, aw). Zřejmě 8{p, aw) <í=> 8{q, aw), neboť p = q. D Definice 2.34. Nechť M. = {Q, E, 8, qo, F) je FA bez nedosažitelných stavů s totálni přechodovou funkcí. Reduktem (též podílovým či faktor automatem) automatu M. nazveme konečný automat Á4/= = (Q/=, S, r\, [qo], F/=), tj. automat, kde • Stavy jsou třídy rozkladu Q/= (třídu obsahující stav q značíme [q]). • Přechodová funkce 77 je definována pomocí reprezentantů. Je to nejmenší funkce splňující: Vp, q G Q, Va G E : 8(q,a) = p =^ ľ]([q],a) = [p] . Aby tato definice byla korektní, nesmí záviset na volbě reprezentantů - pro každé dva stavy q, q' a každé a G E musí platit, že pokud q = q', pak také 8(q,a) = 8(q', a). To je však splněno podle lemmatu 2.33. 28 KAPITOLA 2. REGULÁRNÍ JAZYKY A KONEČNÉ AUTOMATY • Počáteční stav j e třída rozkladu Q/=, obsahující stav qo. • Koncové stavy jsou právě ty třídy rozkladu Q/=, obsahující alespoň jeden koncový stav (jednoduchým důsledkem definice 2.32 je, že v každé třídě jsou koncové buď všechny stavy, nebo ani jeden z nich - tento fakt ospravedlňuje použité značení F/=). Vztah mezi přechodovou funkcí 8 automatu M. a přechodovou funkcí r\ automatu Á4/= si zasluhuje bližší pozornosti: Lemma 2.35. Nechť M. = (Q, E, 8, qo, F) je konečný automat bez nedosažitelných stavů s totální přechodovou funkcí a M./= = (Q/=, E, r\, [qo], F/=) jeho redukt. Pro každé u,v,w e E* platí: 1. rj([qo],w) = [q] «=> 8(qo,w) = p, kde p = q a 2. 8(qo,u) = 8(qo,v) «=> ?i([qo],u) = řj([q0],v) Důkaz: (1): Indukcí k délce slova w: • |w| = 0: Zřejmě 8(qo, s) = qo a platí řj([qo], s) = [q] -<==>■ q = qo. Dokazovaná ekvivalence je tedy pravdivá. • Indukční krok: Nechť w = va, kde v e E*, a e E. Platí íj([qo], v a) = [q] <^=>- íj([qo],v) = [r]ar]([r],a) = [q] -<=>• 8(qo,v) = s kdes = r (indukční předpoklad) a 8(s,a) = p, kde p = q (uvědomme si, že r\ nezávisí na volbě reprezentantů; jelikož s = r a 8(r,a) = q, musí také platit 8(s,a) = q) <í=> 8(qo, va) = p, kde p = q. (2): Plyne přímo z tvrzení 1 tohoto lemmatu a definice množiny stavů automatu Á4/=. D Následující věta formálně vyjadřuje, že ztotožnění jazykově ekvivalentních stavů nezmění přijímaný jazyk: Věta 2.36. Nechť M. = (Q,Yi,8,qo, F) je konečný automat bez nedosažitelných stavů s totální přechodovou funkcí. PakL(M.) = L(M./=). Důkaz: Podle první části lemmatu 2.35 platí 8(qo, w) e F -<=>■ ŕj([qo], w) e F/=, proto L(M) = L(M/=). D Nyní již lze dokázat hlavní výsledek této části: Věta 2.37. Nechť M. = (Q,Yi,8,qo, F) je konečný automat bez nedosažitelných stavů s totální přechodovou funkcí, rozpoznávající jazyk L. Pak M./= je minimální automat rozpoznávající jazyk L. Důkaz: Dokážeme, že pravá kongruence ~ určená automatem M./= ve smyslu věty 2.22 je přesně relace ~L. Pro libovolná u, v e E* platí: u ~ v -<=>■ fj([qo], u) = r\{\qo\ v) dle algoritmu z Nerodovy věty •<=> 8(qo, u) = 8(qo, v) dle lemmatu 2.35 «=> (VioeE* : 8(8(q0,u),w) e F <^=> 8(8(q0,v),w) e F) dle definice = «=> (VioeE* : 8(qo,uw) e F <^=> 8(q0,vw)eF) «=>• (VioeE* :uw e L -<=>- vw e L) •<=> u ~L v dle definice ~L , a tedy ~ = ~L , což bylo dokázat. D 2.1. KONEČNÉ AUTOMATY 29 Předchozí věta sice říká, jak pro daný konečný automat A4 vypadá ekvivalentní minimální automat, ale nepodává algoritmus pro jeho konstrukci - není totiž na první pohled jasné, jakým způsobem lze zkonstruovat relaci =. Tímto problémem se budeme nyní zabývat. Definice 2.32 říká, že p = q pokud pro každé slovo w platí, že 8(p, w) G F -<==>■ 8{q,w) G F. Relaci = lze tedy velmi přirozeně aproximovat tak, že položíme omezení na délku slova w: Definice 2.38. Nechť A4 = (Q, E,5,go, F) je konečný automat bez nedosažitelných stavů, jehož přechodová funkce je totální. Pro každé z G No definujeme binární relaci =/■ na Q předpisem (srv. s definicí relace = v 2.32) p =i q <Ä Vw G E*.|iü| < z : (S(p, w) e F «=> 8(q, w) G F) Pokud p =i q, znamená to, že stavy p a q nelze „rozlišit" ve smyslu definice 2.32 žádným slovem délky nejvýše z. Tedy p = q právě když p =, q pro každé z G No. Množinovou symbolikou to lze vyjádřit takto: - = H m (2.4) i=0 Zřejmě každá z relací =, je ekvivalence na Q a navíc =i+\ je zjemněním =, pro každé / G No. Následující lemma obsahuje návod, jak relace =, počítat. Jedná se de facto o re-kursivní definici, resp. induktivní definici vzhledem k délce rozlišujících slov. Musíme též ukázat její korektnost vůči 2.38. Lemma 2.39. Pro relace =i platí: 1- =0 = {(P, q)\pe F <^=> q G F} 2. =/+i = {(p, q) \p=i q A Va G E :8(p,a) =,- 8(q, a)} Důkaz: Tvrzení dokážeme indukcí vzhledem k i. Báze (případ i = 0) zřejmě platí, neboť slovem £ lze ve smyslu definice 2.38 rozlišit pouze koncové a nekoncové stavy. Předpokládejme nyní, že 2 platí pro nějaké i a ukažme platnost 2 pro z + 1. Zřejmě p =i+\ q (tj. nejsou rozlišitelné žádným slovem délky nejvýše z + 1) •<=> (i) p =i q (tj. nejsou rozlišitelné žádným slovem délky nejvýše z) a (ii) Vw.\w\ = z' + 1 platí 8(p, w) G F <í=> 8(q, w) G F (tj. a nejsou rozlišitelné ani žádným slovem délky z + 1). Podmínku (ii) lze formálně zapsat jako: Vw G E'+1.(á(/7, w) G F «=> 8(q, w) G F), která platí «=> Ma G E.Vu G E''.(áO,úfi;) G F ^^ 8(q,av) G F) <^=> Va G E.Vu G E''.(á(á(/7,úf), u) G F <^=> 5(5(qr,a), u) G F) «=> Va G E.(5(p, a) =, 8{q,a)). Tedy /? =;+i g <í=^> p =i q A Va G E.(5(p, a) =, 5(g, a)), což bylo dokázat. D Označme n počet stavů automatu A4. Připomeňme že, každá =; je relací evivalence a navíc =/+i je zjemněním =, pro každé z G No, tj. =i+\ má alespoň tolik tříd rozkladu jako =,. Jelikož libovolná ekvivalence na zz-prvkové množině může mít nejvýše n tříd a =o má 30 KAPITOLA 2. REGULÁRNÍ JAZYKY A KONEČNÉ AUTOMATY aspoň jednu třídu, pak nutně (podle Dirichletova principu) platí, že musí existovat nějaké k < n — 1 takové, že =k a =k+\ mají stejný počet tříd, což (opět díky faktu o zjemnění) dává =k = =k+\ ■ To ovšem znamená, že dokonce =k = =k+j pro libovolné j e No, neboť relace =i+\ závisí pouze na relaci =,. Vztah (2.4) je tedy možné přepsat jako i=0 (2.5) Tím je formálně dokázána správnost i konečnost algoritmu 2.2 pro minimalizaci konečného automatu. Po inicializaci (z = 0) iterativně počítáme =,, z = 1,2,... a skončíme pro z = k takové, že platí =i = =#_ i. Algoritmus 2.2 Minimalizace konečného automatu. Vstup: Konečný automat A4 = (Q, S, 8, qo, F) bez nedosažitelných stavů s to- tální přechodovou funkcí. Výstup: Redukt>í/=. / := 0; =o := {(P, q)\peF ^^ q e F}; repeat =j+i := {(p, q) \p=i q A Va G E : 8(p,a) =,- 5(g, a)}; /' :=/ + 1; until =, ==i-\ M/=-=(Q/=^^,[qolF/=); Příklad 2.40. Mějme konečný automat M. daný níže uvedenou tabulkou. Pří konstrukci minimálního automatu je nejprve třeba odstranit nedosažitelné stavy a zúplnit přechodovou funkci. Obdržíme tak automat A4' (stav 7 byl nedosažitelný, za účelem zúplnění přechodové funkce byl dále přidán nový stav N): A4 a b 1 2 — 2 3 4 3 6 5 4 3 2 5 6 3 6 2 — 7 6 1 M' a /3 1 2 N 2 3 4 3 6 5 4 3 2 5 6 3 6 2 N N TV N Nyní již lze přistoupit ke konstrukci relací =i. Technicky to lze provést například tak, že v tabulce přechodové funkce sdružíme řádky odpovídající stavům, které jsou v relaci =i a jednotlivé skupiny (třídy rozkladu Q/=j) označíme římskými číslicemi. Aby bylo možné 2.2. KONSERVATIVNI ROZŠÍŘENI MODELU KONEČNÝCH AUTOMATU 31 snadno určit následující relaci =i+\, doplníme do každého políčka (q, x) číslo třídy, do níž patří stav 8 (q,x) (dvojice (q, x) označuje políčko na řádku q ve sloupci x). Třídy rozkladu určeného =i+\ pak lze získat tak, že existující skupiny dále rozdělíme - v rámci každé skupiny sdružíme stavy, které mají řádky vyplněné stejným způsobem. Pokud dojde k tomu, že v každé skupině mají všechny stavy řádky vyplněné stejně, není již důvod něco rozdělovat; nalezli jsme relaci =. =0 a b I 1 I I 2 II I 4 II I N I I II 3 II II 5 II II 6 I I =j a b I 1 II I N I I II 2 III II 4 III II III 3 IV III 5 IV III IV 6 II I =2 a b I 1 III II II N II II III 2 IV III 4 IV III IV 3 V IV 5 V IV V 6 III II Relace = je tedy v tomto případě rovna relaci =2. Minimální automat pro jazyk L(M) vypadá takto: M/= a b I III II II II II III IV III IV V IV V III II 2.2 Konservativní rozšíření modelu konečných automatů V této části si ukážeme některé způsoby, jak lze základní model konečného automatu dále rozšířit či zobecnit bez toho, aby se změnila výpočetní síla - tj. ke každému rozšířenému modelu (akceptujícímu nějaký jazyk) bude existovat model základní s ním jazykově ekvi-valetní (akceptující týž jazyk). Takovéto rozšíření se nazývá konservativní. 2.2.1 Nedeterministické konečné automaty Nedeterministický konečný automat je zařízení, které je velmi podobné konečnému automatu z definice 2.1. Jediný rozdíl je v tom, že nedeterministický automat nemusí mít pro daný stav a vstupní symbol určen následující stav jednoznačně (na přechodových grafech si to lze představit tak, že z jednoho uzlu může vycházet více hran se stejným návěštím). Není tedy předem jasné, do jakého stavu se automat dostane po zpracování daného slova w, neboť automat si během výpočtu může „vybírat" jeden z možných následujících stavů. Slovo w bude akceptováno, pokud alespoň jeden z možných výpočtů nad slovem w skončí v koncovém stavu. 32 KAPITOLA 2. REGULÁRNÍ JAZYKY A KONEČNÉ AUTOMATY Poznámka 2.41. V dalším textu budeme označovat konečné automaty z dennice 2.1 přívlastkem deterministické, zkráceně DFA, abychom předešli nedorozumění. Definice 2.42. Nedeterministický konečný automat, zkráceně NFA, j e A4 = (Q, *Ľ,8,qo, F), kde význam všech složek je stejný jako v definici 2.1 s výjimkou přechodové funkce 8. Ta je definována j ako (totální) zobrazení 8 : Q x E —> iQ-. Na deterministické automaty tedy můžeme pohlížet jako na speciální případ nedeterministických automatů, kdy pro každé g G ßaae Sje množina 8(q, a) nejvýše jednoprvková. Podobně jako v případě deterministických automatů zavedeme rozšířenou přechodovou funkci 8 : Q x E* -> 2$: • 8{q,e) = {q} Jazyk přijímaný nedeterministickým konečným automatem AI je definován takto: L(M) = {w e E* I 8(qo, w) n F £ 0} Nedeterministické konečné automaty Aí a Ať jsou ekvivalentní, pokud L (A4) = L {M'). Stejně jako v případě deterministických konečných automatů je také možné definovat jazyk Z (AI) pomocí pojmů konfigurace a krok výpočtu; jediná změna je v definici relace kroku výpočtu: def (q,aw) \- (p,w) <í=> pe8(q,a) Nedeterminismus je velmi silný popisný aparát, který často umožňuje zachytit strukturu jazyka elegantním a přirozeným způsobem. Uvažme např. jazyk L = {w e {a, b}* \ w obsahuje podslovo abba nebo bab} Navrhnout deterministický automat, který rozpoznává L, není zcela triviální. Naopak ne- deterministický automat lze zkonstruovat snadno: Struktura automatu velmi přímočaře odráží fakt, že Z je složen ze slov, která začínají nějakým řetězcem symbolů a, b, pak následuje jedno z podslov abba, bab a na konci je zase nějaký řetězec složený za, b. Nedeterminismus lze dobře využít jako popisný prostředek, nemá však vliv na výpočetní sílu konečných automatů. Ke každému nedeterministickému konečnému automatu totiž ve skutečnosti existuje ekvivalentní deterministický automat, který lze dokonce algoritmicky zkonstruovat. Důkaz tohoto faktu se opírá o zajímavou techniku, které se říká podmnožinová konstrukce. 2.2. KONSERVATIVNÍ ROZŠÍŘENÍ MODELU KONEČNÝCH AUTOMATŮ 33 Věta 2.43. Pro každý NFA M = (Q, E, S, qo, F) existuje ekvivalentní DFA. Důkaz: Nechť A4' = (Q', E, 8', {qo}, F') je deterministický konečný automat, kde: • Q' = 2@, tj. stavy automatu A4' jsou všechny podmnožiny Q. • Přechodová funkce 8' je definována předpisem 8'(P, a) = Uoei5 <*>(#' a) • Množina koncových stavů F' je tvořena právě těmi podmnožinami Q, které obsahují alespoň jeden prvek množiny F. Zřejmě A4' je deterministický konečný automat (dokonce s totální přechodovou funkcí). Nejprve ukažme, že pro každé w e E* platí 8(qo, w) = 8'({qo}, w). Indukcí k délce w: • |w| = 0: Platí 8(qo, s) = {q0} = 8'({qo}, s). • Indukční krok: Nechť w = va{v e E*, a e E), pak 5(go, va) = Upeá(o v)&(P>a) = 8'(8(qo, v), a) (viz definice 8') = 8'(8'(qo, v), a) (indukční předpoklad) = 8'(qo, va). Nyní se již snadno vidí, že L(A4) = L(A4'), neboť w e L(M) we L(A4'). D Algoritmus 2.3 Transformace NFA na ekvivalentní DFA. Vstup: Nedeterministický konečný automat A4 = (Q, E, 8, qo, F). Výstup: Ekvivalentní deterministický konečný automat A4 = (Q', E, 8', {qo}, F') bez nedosažitelných stavů s totální přechodovou funkcí. Q> ■- {{q0}}- 8' := 0; F' := 0; Done := 0; while (Q' - Done) # 0 do M := libovolný prvek množiny Q' — Done; ifMDF #0then F' := F' U {M}; end if for all a G E do N:=UpeM8(p,a); Q' := Q' U {N}; 8' := 8'U {((M, a), N)}; end for Z)o/?e := Done U {M}; end while M':=(Q',V,8',{q0},F'y, Uvedený důkaz je konstruktivní (podává návod na sestrojení automatu Ať)- Nevýhodou prezentovaného algoritmu však je, že automat A4' může obsahovat mnoho nedosažitelných stavů. Tento nedostatek lze odstranit jednoduše - iterativní konstrukcí množiny dosažitelných stavů a přechodové funkce. Obdržíme tak algoritmus 2.3. Aplikujeme-li algoritmus 2.3 na dříve uvedený nedeterministický automat, rozpoznávající jazyk Z = {w e {a, b}* | w obsahuje podslovo abba nebo bab}, dostaneme tento výstup: 34 KAPITOLA 2. REGULÁRNÍ JAZYKY A KONEČNÉ AUTOMATY Tento příklad také demonstruje, že výstupem algoritmu 2.3 nemusí být minimální automat; ten totiž pro jazyk L vypadá takto: Čtenář se nyní může pokusit zjistit, jaká informace o přečtené části vstupního slova je spojena s jednotlivými stavy. Podmnožinová konstrukce je na první pohled značně neefektivní - nárůst počtu stavů při přechodu od nedeterministického konečného automatu k deterministickému je exponenciální. To je z technického hlediska nepříjemné. Nabízí se proto otázka, zda použitím „pomocných" technik (odstranění nedosažitelných stavů, minimalizace) je obecně možné dosáhnout lepšího výsledku. Následující věta říká, že nikoliv. Věta 2.44. Pro každé n e N existuje NFA o n stavech takový, že ekvivalentní DFA má i po minimalizaci 2n stavů. Důkaz: Nechť n e N je libovolné přirozené číslo. Zkonstruujeme nedeterministický konečný automat o n stavech, který má požadovanou vlastnost. Nechť A4 = (Q,H, 8, 1,{1}), kde: • ß = {l,...,«} 2.2. KONSERVATIVNI ROZŠÍŘENI MODELU KONEČNÝCH AUTOMATU 35 Obrázek 2.2: Automat A4 z důkazu věty 2.44 pro n = 6. • £ = {a, b] • 8 je nejmenší funkce splňující: - 5(z, a) = {z + 1} pro 1 < z < n — 1 1 ak, > 1 pro každé 1 < / < n: X______________________J E Definice 2.46. Nedeterministický konečný automat s E-kroky je pětice A4 = (Q, H,8,qo,F), kde význam všech složek je stejný jako v deŕinici 2.42 s výjimkou přechodové funkce 8. Taje definována j ako totální zobrazení 8 : Q x (E U {£}) —> iQ-. Rozšířenou přechodovou funkci 8 ovšem musíme definovat odlišným způsobem; nejprve zavedeme funkci Ds : Q —> 2@, která pro daný stav p vrací množinu stavů, kterých může A4 dosáhnout z p bez toho, aby četl vstup. Pro dané p e Q je De(p) nejmenší množina X Q Q taková, že platí: • p e X • Pokud g e X a r e 8(q, e), pak také r e X. Např. pro automat z příkladu 2.45 platí Ds (go) = {qo}, DE{q\) = {q\}, DE(q2) = {qo,qi,qi}-Funkci Ds je možné přirozeně rozšířit na množiny stavů; je-li Y C. Q, položíme DS(Y) = \J Ds(q) qeY Nyní již můžeme definovat rozšířenou přechodovou funkci 8 : Q x E* —> 2@ takto: • 8(q,s) = De(q), • 8(q, wa) = \Jpes(g,w) De(8(p,a)). Pro automat z příkladu 2.45 mimo j iné platí 8 (qi, 1) = {qo,q\,qi),8(q\, 1) = {go,gi,g2J aá(g2,0) = {gi}. Jazyk přijímaný automatem A4 s £-kroky je definován stejně jako v případě nedeterministických automatů, tj. L(M) = {w e E* I 8(qo, w) n F # 0} Není obtížné dokázat, že ke každému automatu A4 s £-kroky existuje ekvivalentní nedeterministický automat A4'; v principu je třeba v přechodovém grafu automatu A4 přidat hranu Pí —> qn pro každou cestu tvaru e e a e e p\ -> ... -> pm -> q\ -> ... -> qn kde m,n > \,a e E. Pak lze £-hrany z přechodového grafu bez problémů odstranit. Nejprve dokážeme jedno pomocné tvrzení: Lemma 2.47. Nechť A4 = (Q, E, 8, go, F) je automat s e-kroky. V přechodovém grafu automatu A4 existuje cesta p\ —»- ... —»- pm —»- q\ —»- ... —»- qn, kde m, n > 1, a e E, právě kdyžqn e 8(p\,a). 38 KAPITOLA 2. REGULÁRNÍ JAZYKY A KONEČNÉ AUTOMATY Důkaz: Nejprve si uvědomme, že podle definice S platí 8(p\,a)= [j De(8(r,a)) (2.6) a (=>) Jelikož p\ -> ... -> pm, platí pm G DE{p\). Dále pm -> q\, tedy q\ G 8{pm,a). £ £ -^ Konečně q\ —»- ... —»- gw, proto gw G De(q\). Celkem gw G 5(/?i, a) podle vztahu (2.6). (-<^) Nechť qn G 5(/?i, a). Podle vztahu (2.6) pak musí existovat stav r G De (p\) takový, že qn G De(8(r,a)). Jelikož r G De(p\), existuje v přechodovém grafu cesta p\ —> ...—>• r. Protože gw G De(8(r, a)), musí existovat stav 5 e 8(r, a) takový, že qn G De(s). V přechodovém grafu proto existuje hrana r —> s a cesta 5 —»- ... —> qn. Celkem p\ —> £ ú £ £ ... —»- r —»- s —»- ... —»- qn, což bylo dokázat. D Věta 2.48. Ke každému NFA s £-kroky existuje ekvivalentní NFA (bez £-kroků). Důkaz: Nechť A4 = (Q,T, 8,qo, F) je libovolný NFA s £-kroky a sestrojme ekvivaletní NFA M' = (Q, T, y,qo, G) bez £-kroků. Položme y{q,a) = 8{q,a) pro každé q G Q, a G T a množinu G definujme takto: G = F pokud De(qo) D F = 0, F U {go} jinak. Nejprve dokážeme, že pro libovolné p e Q, w e T+ platí 8{p,w) = ý(p,w), tj. q G 8(p, w) -<=>■ q G ý (p, u;). V této souvislosti je třeba si uvědomit, že funkce 8, y jsou definovány na základě funkcí 8, y odlišným způsobem - p je rozšířenou přechodovou funkcí nedeterministického konečného automatu A4', je tedy určena předpisem uvedeným za definicí 2.42, zatímco 8 je určena předpisem za definicí 2.46 (pro w = £ tedy uvedená ekvivalence platit nemusí). Důkaz provedeme indukcí k délce slova w. • |w| = 1: Pak w = a pro nějaké a G T a8(p,a) = y (p, a) = ý (p, a) podle definic V a Y ■ i ^ • Indukční krok: Nechť w = va, kde v G T+ a a e T. Platí g G 8{p,w) <í=> existují stavy r, s takové, že r G ■ r G p (p, ľ) (s využitím indukčního předpokladu), ŕ/ G 5 (r, a) (lemma 2.47) <í=> r G p {p, v) a q G y {r, a) (podle definice y) <í=> q G p (p, ua). Pro libovolné w e T+ tedy platí 8(qo, w) = p(#o, w), tj. w G Z(A1) <í=> w G Z,(Ať). Dále £ G Z (X) <^=> £>£(go) n F ŕ 0 <^=> go e G <^=> £ G Z(Ať). Tedy celkem L(A4) = L(A4'). D Předchozí věta podává algoritmus pro transformaci automatu s £-kroky na ekvivalentní nedeterministický automat (bez £-kroků). Pokud jej aplikujeme na automat z příkladu 2.45, 2.2. KONSERVATIVNÍ ROZŠÍŘENÍ MODELU KONEČNÝCH AUTOMATŮ 39 pak dostaneme i____________) i 2.2.3 Uzáverové vlastnosti regulárních jazyků - část I V této části dokážeme, že třída regulárních jazyků je uzavřená na některé operace nad jazyky definované v části 1.1.1. Důležitost uzáverových vlastností spočívá nejen ve zkoumání vlastností dané třídy jazyků, ale má i řadu praktických aspektů. Daný jazyk lze často vyjádřit pomocí několika jazyků jednodušších, pro každý z nich navrhnout konečný automat a najejich základě sestrojit žádaný výsledný automat - tento postup byl již ilustrován v příkladu 2.12. Uzáverových vlastností lze často využít i ke zjednodušení důkazu, že nějaký jazyk je (viz opět 2.12) či (a to zejména) není regulární - viz příklad 2.50 níže. Uvědomme si, že již na počátku této kapitoly (přesněji v 2.9 - 2.11) jsme de facto ukázali, že třída regulárních jazyků je uzavřená na základní množinové operace sjednocení, průniku a komplementu. Věta 2.49. Třída regulárních jazyků je uzavřená na sjednocení, průnik a rozdíl. Důkaz: Nechť li aÍ2 jsou regulární jazyky rozpoznávané deterministickými konečnými automaty Mi a M2 s totálními přechodovými funkcemi. Bez újmy na obecnosti přitom můžeme předpokládat, že L\ i Z 2 jsou jazyky nad stejnou abecedou E (v opačném případě provedeme sjednocení abeced a dodefinujeme přechodové funkce automatů - viz lemma 2.6). Pak jazyky L\ U Z2, L\ D Z 2 a L\ — L2 jsou rozpoznávané po řadě automaty M\ UJJ M2, M\ íňl M2 a Mi 0 M2 (viz definice 2.9 a poznámka 2.11), jsou tedy regulární. D Příklad 2.50. Ukažme, že jazyk L = {w G a,b* \ #a(w) = #b(w)} není regulární. Důkaz lze samozřejmě provést pomocí Myhillovy-Nerodovy věty (víz 2.28) či lemmatu o vkládání 2.13. Jestliže však již víme, že Li = {ďbl \ i > 0} není regulární, stačí uvážit, že Li = L f! a*b*. Kdyby totiž byl L regulární, pak by díky regulárně a*b* a uzavřenosti regulárních jazyků na průnik musel být regulární i Li, což ale není. Věta 2.51. Třída regulárních jazyků je uzavřená na komplement. Důkaz: Důkaz okamžitě plyne z předchozí věty 2.49 a DeMorganových pravidel. Alternativně lze též uvést konstruktivní důkaz: nechť Z je regulární jazyk nad abecedou E, rozpoznávaný deterministickým konečným automatem M = (Q, H,8,qo, F) s totální přechodovou funkcí. Pak jazyk CO-Z je rozpoznávaný konečným automatem M = (Q, E, 8, qo, Q - F) (viz poznámka 2.11). D Věta 2.52. Třída regulárních jazyků je uzavřená na zřetězení. 40 KAPITOLA 2. REGULÁRNÍ JAZYKY A KONEČNÉ AUTOMATY Důkaz: Nechť L \ a Z 2 jsou regulární jazyky, rozpoznávané nedeterministickými konečnými automaty M\ = {Q\, £1, 8\,q\, F\) aMi = {Qi, £2, 82, qi, F2), kde Q\C\Qi = 0 (předpoklad, že oba automaty jsou nedeterministické, není podstatný; umožní nám však elegantně zapsat deŕinici přechodové funkce níže uvedeného automatu). Pak L\.Ĺ2 je rozpoznávaný automatem M\ O M2 = (öl U Qi, £l U £2, 8, q\, F2) s £-kroky, kde 5 = 8lU82U{((p,£),{q2}) I P e Fi} Jinými slovy, automat M\ O M.2 vznikne „napojením" automatů M\ a M2 pomocí s-hran, které vedou z koncových stavů M\ do počátečního stavu Mi- Zřejmě L{M\ O Mi) = L\.Li, neboť w e L{M\ O Mi) uv e L\.Li. D Věta 2.53. Třída regulárních jazyků je uzavřená na iterací. Důkaz: Nechť L je regulární jazyk, rozpoznávaný nedeterministickým konečným automatem M = {Q, E, 8, qo, F) (předpoklad, že M je nedeterministický, má stejný význam jako v důkazu předchozí věty). Pak jazyk L* je rozpoznávaný automatem M* = (g U {p}, E, á', p, {p}) s £-kroky, kde p £ Q a 5' = 8 U {{{p, e), {q0}} U {{{q, e), {p}) \ q e F} V automatu M* tedy přibyl nový počáteční stav p, který je také jediným koncovým stavem, dále £-hrana ze stavu p do původního počátečního stavu qo a konečně £-hrany z původních koncových stavů do stavu p. Zřejmě L{M*) = L*. D Poznámka 2.54. Zavedení nového počátečního stavu p v automatu M' z předchozího důkazu je nutné - kdybychom tak neučinili a prohlásili za koncový přímo stav qo (počáteční stav automatu který rozpoznává L* musí být nutné koncový, neboť L* vždy obsahuje prázdné slovo), do kterého bychom přidali £-hrany z původních koncových stavů, mohl by vzniklý automat přijímat vlastní nadmnožinu jazyka L* - dojít k tomu může tehdy, když v M existuje alespoň jeden přechod do stavu qo a přitom qo není v automatu M koncovým stavem. Ukážeme si konkrétní příklad - nechť M je automat: "O ----->rq^^ Kdybychom nyní přidali e-hranu ze stavu q\ do qo a stav qo prohlásili za koncový, bude vzniklý automat akceptovat např. i slovo aa, které do iterace jazyka L {M) nepatří. Věta 2.55. Třída regulárních jazyků je uzavřena vůči operaci zrcadlového obrazu (reverzi). Důkaz: Nechť Zje regulární j azyk, který j e rozpoznáván něj akým konečným automatem M a sestrojme s ním ekvivaletní NFA M' s £-kroky. M' obržíme tak, že (neformálně řečeno) v přechodovém grafu M obrátíme orientaci hran, přidáme nový počáteční stav, z něhož povedeme ř-přechody do všech koncových stavů automatu M a počáteční stav M 2.2. KONSERVATIVNÍ ROZŠÍŘENÍ MODELU KONEČNÝCH AUTOMATŮ 41 bude koncovým stavem v Ai'. Formální definici A4' a důkaz ekvivalence L (A4) = L (.MO ponecháváme čtenáři. D Důsledek 2.56. Libovolný jazyk L je regulární -<==>■ LR je regulární. Důkaz: Díky 2.55 zbývá ukázat implikaci LR regulární =>■ L je regulární. Jelikož platí (LR)R = L, pak dle 2.55 dostáváme LR regulární =>■ (LR)R = L je regulární. D Uzavřenost na další operace bude ukázána v části 2.3.1, kde s výhodou využijeme dalšího konservativního rozšíření základního modelu. 2.2.4 Regulární výrazy V této části zavedeme formalismus, který je rovněž užitečným prostředkem pro popis (specifikaci) a návrh konečných automatů. Jen zopakujme, že zatím jsme pojem regulární jazyk používali jako (syntaktickou) zkratku pro pojem jazyk přijímaný konečným automatem a též pro pojem jazyk generovaný gramatikou typu 3. Tvrzení, že se jedná o tutéž třídu jazyků bude ukázáno v následující části. V této části budeme definovat regulární jazyky tak, jak byly historicky originálně (pod tímto názvem) zavedeny, uvedeme formalismus pro jejich specifikaci a konečně ukážeme, že takto definovaná třída jazyků je identická s třídou jazyků rozpoznávaných konečnými automaty. Definice 2.57. Třída regulárních jazyků nad abecedou E, označovaná jako .R(E), je definována induktivně takto: 1. 0, {e} a {a} pro každé a G E je regulární jazyk nad E. 2. Jsou-li L\, Ĺ2 regulární jazyky nad E, jsou také, L\.Ĺ2, L\ U I2 a Z* regulární jazyky3 nad E. 3. Každý regulární jazyk vznikne po konečném počtu aplikací kroků 1 a 2. Jinými slovy 7?(E) je nejmenší třída jazyků nad E splňující podmínky 1 a 2. Jazyky uvedené ad 1 se nazývají elementární, operace nad jazyky uvedené ad 2 se nazývají regulární. Je tedy vidět, že každý regulární jazyk lze popsat určením elementárních jazyků a předpisu, který určuje jak na tyto jazyky aplikovat regulární operace. Taková specifikace je cílem následující definice. Definice 2.58. Množina regulárních výrazů (regular expressions) nad abecedou E, označovaná RE(Yi), je definována induktivně takto: 1. £, 0 a a pro každé a G E jsou regulární výrazy nad E (tzv základní regulární výrazy). 2. Jsou-li E, F regulární výrazy nad E, jsou také, (E.F), (E + F) a (E)* regulární výrazy nad E. 3. Každý regulární výraz vznikne po konečném počtu aplikací kroků 1-2. Základní regulární výrazy se podobají symbolům, se kterými jsme se v textu běžně setkávali. Tučně jsou zapsány proto, že je třeba je chápat jako symboly zcela nové; tyto 3. je zřejmé, že požadavek ,,{e} je regulární..." v 1 je nadbytečný, protože {e} = 0*. Je uveden čistě z pedagogických důvodů. 42 KAPITOLA 2. REGULÁRNÍ JAZYKY A KONEČNÉ AUTOMATY „dvojníky" jsme zavedli proto, abychom mohli vždy snadno rozlišit mezi syntaxí a sémantikou regulárních výrazů (předchozí definice popisuje pouze syntaxi). V regulárních výrazech se mohou vyskytovat také kulaté závorky jako metasymboly, které pomáhají vymezit rozsah operátorů. Abychom jejich použití omezili na minimum, přijmeme konvenci týkající se priority operátorů: Největší prioritu má „*", pak „." a nakonec „+", přičemž „nadbytečné" závorky lze vypouštět. Výraz a +b.c* tedy odpovídá výrazu (a + (b.(c)*)). Každý regulární výraz E nad abecedou E popisuje (jednoznačně určuje) jazyk L (E) nad abecedou E (jazyk L(E) je sémantikou regulárního výrazu E) podle těchto pravidel: {£} 0 {a} pro každé a e E L(E).L(F) L (E) U L (F) L (E)* Na levé straně definujících rovnic se vyskytují regulární výrazy; na pravé straně je třeba symboly „£", „0", atd. chápat v jejich původním významu - tj. jazyk určený regulárním výrazem e obsahuje pouze prázdné slovo, jazyk určený výrazem 0 je prázdný, atd. Tečka se v zápisu regulárních výrazů často vynechává. Například tedy platí: L((a + b)*(ab + bb)(a + b)*) = {w e (a, b)* \ w obsahuje podslovo ab nebo bb] L ((aa + ab + ba + bb)*) = {we {a, b}* \ w má sudou délku} I ((0*1*2*)*) = {0,1,2}* Poznámka 2.59. Z výše řečeného se okamžitě nahlédne fakt, že jazyk je regulární nad Y právě když je popsatelný nějakým regulárním výrazem nad E. Na rozdíl od regulárních gramatik neobsahují regulární výrazy žádnou formu rekurze; aby bylo jasné, oč se jedná, uvažme např. gramatiku Q = ({S, A}, {a, b}, P, S), kde P obsahuje pravidla S —»- a A | a A^ bS\b Neterminály S a A přirozeným způsobem určují jazyky L (S) a L (A): L (S) = {w e {a, b}* \ S =>* w} L (A) = {we{a,b}*\A=>* w} Platí tedy L (Q) = L (S). Pravidla gramatiky Q lze přirozeným způsobem transformovat na systém vzájemně rekurzivních rovnic: L(£) dej L(0) dej L (a) dej L(E.F) dej L(E + F) dej L(E*) dej XS = {a}.XA[J{a} XA = {b}.XsU{b} 2.2. KONSERVATIVNÍ ROZŠÍŘENÍ MODELU KONEČNÝCH AUTOMATŮ 43 Proměnné Xs a Xa zastupují jazyky nad abecedou {a, b}. První rovnice říká, že jazyk Xs dostaneme sjednocením zřetězení jazyků {a} a Xa s jazykem {a}. Význam druhé rovnice je obdobný -jazyk Xa je definován v závislosti na jazyku Xs. Dosadíme-li za Xs jazyk L (S) a za Xa jazyk L (A), obě rovnice platí. Není obtížné dokázat (čtenář se o to může pokusit), že L(S) a L (A) jsou také jediným řešením uvedených rovnic. Tento fakt má obecnou platnost, tj. jazyk generovaný libovolnou regulární gramatikou Q lze tímto způsobem vyjádřit jako řešení jistého systému rekurzivních rovnic. Podobná forma rekurze se objevuje také u konečných automatů; v definici 2.32 jsme pro každý stav q konečného automatu A4 zavedli jazyk L (q). Přechodová funkce popisuje závislost mezi jazyky L (q) podobným způsobem, jako množina pravidel v případě gramatik. Rekurze je z hlediska popisné síly velmi důležitá - pokud definující rovnice určené pravidly regulární gramatiky Q neobsahují žádnou rekurzivní (tj. „cyklickou") závislost mezi proměnnými, je jazyk L{Q) nutně konečný. Příkladem takové gramatiky je třeba ({S, A, B},{a,b,c}, P, S), kde P obsahuje pravidla S -> a | b A A -> c \aB B -> b\c V případě regulárních výrazů, kde se rekurze v žádné podobě neobjevuje, se snadno vidí, že jediný prostředek umožňující definovat nekonečný jazyk j e iterace. Výsledek o ekvivalenci regulárních výrazů a regulárních gramatik, který v této části dokážeme, lze tedy také interpretovat jako ekvivalenci popisné síly iterace a rekurze ve speciálním typu rovnic. Věta 2.60. Nechť E je regulární výraz. Pak existuje konečný automat rozpoznávající L(E). Důkaz: Pro libovolnou (konečnou) abecedu £ lze zkonstruovat FA, které rozpoznávají elementární jazyky, tj. 0, {e} a {a} pro každé a e £. Tvrzení věty pak okamžitě plyne z uzavřenosti jazyků rozpoznatelných konečnými automaty vůči regulárním operacím, tj. sjednocení (viz věta 2.49), zřetězení(viz věta 2.52) a iteraci (viz věta 2.53). D Čtenáře, který očekával přímočařejší algoritmus, jak k danému regulárnímu výrazu sestrojit ekvivalentní konečný automat, nezklameme a odkazujeme jej na pojem regulárního přechodového grafu a větu 2.65, které jsou uvedeny v závěru této části. Poznámka 2.61. Výše uvedená věta2.60 tedy říká, že třídajazyku, která obsahuje všechny konečné množiny (každá z nich jistě rozpoznatelná nějakým FA) a která je uzavřena na sjednocení, zřetězení a iteraci je podtřídou třídy jazyků rozpoznatelných konečnými automaty. Následující věta ukazuje, že platí i obrácená inkluse, což spolu s 2.60 říká, že třída jazyků rozpoznatelných konečnými automaty je nejmenší třída, která obsahuje všechny konečné množiny a je uzavřena na sjednocení, zřetězení a iteraci - srovnej s formulací tzv Kleene-ho věty (věta 2.63). Věta 2.62. Nechť L je akceptovaný nějakým (libovolným) DFA, pak L je popsatelný nějakým regulárním výrazem. Důkaz: Nechť A = {{q\,... , qn}, Ti,8,q\,F) je DFA, který akceptuje L. Pro všechna U j '■ 1 SU j < n definujme množiny slov 44 KAPITOLA 2. REGULÁRNÍ JAZYKY A KONEČNÉ AUTOMATY 1. R?, =y Ä,i=/{u)el]*|%i,u))=gi} tj. množiny slov převádějících A ze stavu g, do stavu q}■. Je vhodné si uvědomit, že platí: L=L(A) = Uqj.eFRij (*) Stačí tedy ukázat, že každá R\j je regulární (definice regulárního jazyka v sobě obsahuje uzavřenost na sjednocení), a tedy je popsatelná nějakým regulárním výrazem. Abychom dokázali regularitu R\j, dokažme, že každá Rjj je regulární (žádané dostaneme specializací pro i = 1). Za tímto účelem definujme množiny slov Rf,-,k = 0, ... , n, kde každá z nich bude množinou všech slov, která převádějí automat A ze stavu qi do stavu q j (jako u Ríj), ale při tomto výpočtu není povoleno projít žádným (mezi)stavem qm, který by měl index m větší než k. Formálně zapsáno: Rfj = {x I S(qi, x) = q j A ((8 (q i, y) = qm A s < y < x) => m < k)} Zřejmě pak platí R,j = R"- (a ukážeme-li regularitu všech Rf-, stačí položit k = n). Nyní si uvědomme, že Ry,- lze definovat induktivně, a tedy následně využít k dokazí ■ zování regularity Rf- indukci. Navíc můžeme takovou definici využít k jejich výpočtu (ať už k rekursivnímu či iterativnímu). Definujme tedy: {a G E | 8{qi,a) = qj) je-li i ^ j {a G E | 8{qi,a) = í//} U {s} je-li i = j 2 Rkj+l & Rkk+i (Rl+lk+irRl+lj U 4 pro všechna k = 0, ... , „ - 1 (**) Neformálně lze tuto definici vysvětlit takto: bod 1 představuje bázi výše uvedené definice. Bod 2 říká, že vstup, který automat A převede z g, do qj bez průchodu mezistavem o indexu větším než k + 1, je buď • z množiny Rf- (2. sčítanec v 2), tj. množiny slov odpovídající cestám z qj do qj, kdy není použit žádný mezi stav „vyšší" než q^, nebo • z množiny slov, která reprezentuje průchod stavem „vyšším" než q^, tj. qk+\ Q- sčítanec v 2): lze ji získat tak, že 1. nejprve vezmeme všechna slova, která A převedou z qj poprvé do qk+1 (tj. 1. či- nitel**fc+1), 2. následovaná (zřetězená se) všemi slovy, která převedou A z qk+\ zpět do qk+\, aniž by se prošlo nějakým vyšším stavem než q^. Pokud je množina těchto slov neprázdná, pak reprezentuje cyklus z qk+\ zpět do qk+\, a proto tedy u 2. činitele {R\+i k+0* Je °Perace iterace. Množina těchto slov může být i prázdná (taková cesta neexistuje) - uvědomme si, že definice je korektní i v tomto případě, protože {0}* = {s}. 3. Konečně ke slovům získaným ve dvou výše uvedených bodech připojíme (zřetězením) všechna slova, která převedou A z qk+\ do cílového q j bez průchodu stavem qk+\ nebo vyšším, což je reprezentováno 3. činitelem R\+i ,-. Nyní se indukcí snadno ukáže, že každá Ry,- je regulární, a tedy popsatená nějakým regu-lárním výrazem. I když z hlediska důkazu není nutno tyto výrazy specifikovat, uvedeme je (v komentářových závorkách '(*' a '*)'), neboť tak de facto specifikujeme algoritmus pro konstrukci hledaného výrazu. Báze indukce, k = 0. Pro libovolná i, j je Rf, CSU {s}, a tedy regulární - obsahuje totiž 2.2. KONSERVATIVNI ROZŠÍRENÍ MODELU KONEČNÝCH AUTOMATU 45 jen elementární jazyky. (*Odpovídající regulární výraz, značený r°-, lze zapsat jako a\ + ... + ap (resp. a\ + ... + cíp + s, pokud i = j), kde {a\,... , ap} je množina všech symbolů a takových, že 8(qj, a) = q j. Jetliže žádné takové a neexistuje, pak r't?■ = 0 (resp. /y- = e, pokud i =j).*) Indukční krok. (IP): předpokládejme , že pro jisté k, 0 < k < n a všechna i, j jsou Rft regulární a ukažme, že pak i Rf + je regulární. To se však snadno nahlédne: Rjt+ je de-finována - viz (**) - pomocí i?f■ (dle IP jsou regulární) a pomocí regulárních operací sjednocení, zřetězení a iterace, a tedy (viz definice regulárního jazyka) je regulární i Rf + . (*IP je ekvivalentní tomu, že pro všechna /, m existují regulární výrazy rfm takové, že L(rjm) = Rfm. Hledaný výraz rf+l je tedy roven /■*Jk+1(r*+1>Jk+1)*r*+1>y. U r*.*) Tímto je důkaz ukončen (zopakujme: všechna Rff jsou regulární, specielně R"f jsou regulární a R"- = Rjj, a tedy i R\j je regulární a tedy dle (*) L (A) = Uo-gF ^1j Je regulární). (*Tedy L (A) je popisován výrazem r" ■ + ... + r" ■ , kde F = {^-j,... '• Q x Q —> RE (Ti) je parciální přechodová funkce. • IQ Q je množina počátečních stavů. • F C Q je množina koncových stavů. Regulární přechodové grafy tedy představují další zobecnění automatů s £-kroky. Hrany mohou být nyní ohodnoceny nejen prvky T U {s}, ale dokonce libovolným regulárním výrazem nad T (mezi libovolnými dvěma uzly je však nejvýše jedna hrana, což však není omezení podstatné - viz operátor +). Každý automat s £-kroky lze považovat za regulární přechodový graf s jedním počátečním stavem, jehož hrany jsou ohodnoceny regulárními výrazy tvaru a\ + • • • + an, kde «eNa každé a,- patří do E U {e}. Slovo u) G S* je grafem A4 akceptováno, právě když existuje posloupnost stavů qo,..., qn, kde n > 1, qo e I, qn e F a 8(qi-\, qi) je definováno pro každé 0 < i < n taková, že w lze rozdělit na n částí w = v\ ... vn tak, že v i e L(8(qi-\, q a p —> q. F G • Pokud E = F.G, přidej ke Q nový stav s a hrany p —> s as —> q. • Pokud E = F*, přidej ke Q nový stav s a hrany p —> s, s —> s as —> q. Tyto dva kroky se provádí tak dlouho, dokud přechodový graf obsahuje alespoň jednu hranu ohodnocenou symbolem, který nepatří do E U {e}. Fakt, že popsaná transformace skončí, vyplývá z toho, že A4 obsahuje pouze konečně mnoho hran a každý regulární výraz vznikne aplikací pravidel 1-2 z definice 2.58 v konečně mnoha krocích. Výsledný graf je 2.2. KONSERVATIVNÍ ROZŠÍŘENÍ MODELU KONEČNÝCH AUTOMATŮ 47 Obrázek 2.3: Pravidla pro transformaci regulárního přechodového grafu na ekvivalentní NFA s £-kroky přechodovým grafem automatu A4' s £-kroky. Snadno se ověří, že kroky 1 a 2 popsaného transformačního algoritmu zachovávají ekvivalenci automatů, proto L (A4) = L {M.'). □ Věta 2.66. Pro každý regulární přechodový graf A4 = (Q,H,S, I, F) existuje ekvivalentní regulární přechodový graf A4' = ({x, y}, E, 8, {x}, {y}), kdeS je definováno pouze pro dvojici (x,y). Důkaz: Popíšeme způsob, kterým lze transformovat graf A4 na graf A4'. Nejprve přidáme ke grafu A4 nový počáteční stav x a nový koncový stav y. Přidáme také hrany x —»- q pro každé q e I ar —»- y pro každé r e F. Tato úprava jistě nezmění přijímaný jazyk. Každý stav/» různý od x a y nyní odstraníme spolu s jeho incidentními hranami (tj. hranami, které do p vcházejí nebo z p vycházejí) takto (viz obrázek 2.4): Nechť {E\,..., En} je množina E všech regulárních výrazů E takových, že p —»- p je hrana v upravovaném přechodovém ... F G grafu. Pro každou dvojici hran r —> p, kde r ■£ p a p —> q, kde p ^ q, přidáme hranu z r do q s ohodnocením F.(E\ + • • • + En + 0)*.G. Pak lze stav p spolu s incidentními hranami odstranit bez toho, aby se změnil přijímaný jazyk (0 bylo k množině {E\,..., En} přidáno pro případ, že uvedená množina je prázdná; připomeňme {0}* = {e}). Pokud má stav p tu vlastnost, že do něj žádná hrana nevchází, resp. z něj žádná hrana nevychází, je p z počátečního stavu x nedosažitelný, resp. nelze z něj dosáhnout koncového stavu y. V takovém případě můžeme p odstranit aniž bychom nějaké hrany přidávali - tato úprava přijímaný jazyk nezmění. Po odstranění všech stavů různých odi aj zůstanou tyto dva stavy spolu s konečně mnoha hranami z x do y (hrana z x do x, nebo z y do y pomocí výše uvedené transformace vzniknout nemůže). Nechť {E\,..., Em} je množina všech regulárních výrazů, které se na těchto hranách vyskytují. Všechny hrany pak můžeme odstranit a přidat jedinou hranu s ohodnocením E\-\-------\- Em + 0. Tato úprava přijímaný jazyk rovněž nezmění. Obdržíme tak přechodový graf A4' se dvěma stavy a jedinou hranou. D Shrnutí obou předchozích vět by bylo jen zopakováním Kleeneho věty - viz 2.63. 48 KAPITOLA 2. REGULÁRNÍ JAZYKY A KONEČNÉ AUTOMATY Obrázek 2.4: Eliminace stavu regulárního přechodového grafu. 2.3 Vlastnosti regulárních jazyků 2.3.1 Uzáverové vlastnosti regulárních jazyků - část II Již dříve jsme ukázali, že třída regulární jazyků je uzavřena vůči sjednocení, průniku, kom-plementu, zřetězení a iteraci (viz část 2.2.3). Díky Kleeneho větě lze velmi snadno ukázat, že třída regulárních jazyků je uzavřena vůči operaci (regulární) substituce. Věta 2.67. Nechť E je konečná abeceda a f : E —> A substituce taková, že f (a) je regulární jazyk nad A pro každé a G E. Pak pro každý regulární jazyk L je též f(L) regulárním jazykem. Důkaz: Nechť E je regulární výraz takový, že L(E) = L a Ea jsou regulární výrazy takové, že L(Ea) = f (a) pro každé a G E. Pokud pro každé a dosadíme do E za každý výskyt symbolu a odpovídající regulární výraz Ea, získáme opět regulární výraz, řekněme F, a to takový, že L(F) = f(L). Formální důkaz korektnosti těchto dosazení lze provést indukcí vzhledem k počtu operátorů v regulárním výrazu, přičemž bychom vzali v potaz, že f(L\ U L 2) = f{L\) U f {Li) a analogicky pro zřetězení a iteraci. D Věta 2.68. Třída regulárních jazyků je uzavřena vůči homomorfismu a inversnímu homo-morfísmu. Důkaz: Uzavřenost vůči homomorfismu okamžitě plyne z uzavřenosti vůči substituci: každý homomorfismus h je substitucí, kde každé h (a), a G E, je jednoprvkový jazyk. Abychom ukázali uzavřenost vůči inversnímu homomorfismu, mějme DFA A4 = (Q, E, 8, qo, F) takový, že L = L (A4) a homomorfismus h z A do E*. Zkonstruujme DFA A4' akceptující h~l(L) tak, že čte symbol a G A a simuluje činnost A4 nad h (a). Formálně A4' = (Q, A, 8', qo, F), kde pro všechna a G A aq G Q definujeme 8'(q, a) = 8(q, h (a)). Poznamenejme, že h (a) je slovo (dokonce může být i prázdné), avšak 8 jako rozšířená přechodová funkce je definována pro všechna slova. Indukcí vzhledem k délce slova x lze snadno ukázat, že 8'(qo, x) = 8(qo, h(x)), a tedy A4' akceptuje x právě když A4 akceptuje h(jc),tj. L(A4') = h~l(L(M)). D 2.3.2 Ekvivalence konečných automatů a regulárních gramatik Na začátku této kapitoly již byla zmínka o tom, že pojem regulárního jazyka byl vlastně definován dvakrát - nejprve pomocí regulární gramatiky (viz část 1.2.2) a pak ještě jednou 2.3. VLASTNOSTI REGULÁRNÍCH JAZYKŮ 49 pomocí konečného automatu. V této části dokážeme, že tato nejednoznačnost je nezávadná, neboť třídy jazyků, které lze generovat regulárními gramatikami, resp. rozpoznat konečnými automaty, jsou stejné. Začneme tím, že ukážeme, jak lze k dané regulární gramatice sestrojit ekvivalentní nedeterministický konečný automat (uvědomme si, že není podstatné, jestli jde o automat deterministický, nedeterministický, nebo dokonce s £-kroky, protože všechny uvedené modely jsou navzájem ekvivalentní ve smyslu vět 2.43 a 2.48). Myšlenka důkazu je jednoduchá - stavy automatu budou odpovídat neterminálům gramatiky, tj. pro každý neterminál A bude existovat stav A. Pro každé pravidlo A —> a B přidáme do S (A, a) stav B. Abychom se mohli vypořádat také s pravidly tvaru C —> a, zavedeme speciální koncový stav q/, který přidáme do 8(C,a). Počáteční stav bude S, koncový stav q f a případně také S, pokud gramatika obsahuje pravidlo S —> £. Lemma 2.69. Ke každé regulární gramatice Q = (N, T,, P, S) existuje nedeterministický konečný automat M = (Q, ~Ľ,8,qo, F) takový, že L (Q) = L (A4). Důkaz: Položme • Q = (Ä\AeN}U {q f}, kde q f £ N. • qo = S. • 8 je nejmenší funkce Q x E —> 2@ splňující: - Pokud A -> aB je pravidlo v P, pak B e 8(A,a). - Pokud A -> a je pravidlo v P, kde a ^ s, pak q f e 8(A, a) [S, q f} pokud S —> £ je pravidlo v P, {q/} j inak. Nejprve dokážeme vztah mezi větnými formami Q a rozšířenou přechodovou funkcí 8: S =>* a\.. MkB, kdeai,..., ak g E, B e N <í=> B e 8(S,a\.. .ak), kde B ^ q f Důkaz provedeme indukcí vzhledem ke k: • k = 0: Pak nutně B = S, B = S a obě strany dokazované ekvivalence (a tedy i ekvivalence samotná) platí. • Indukční krok: Platí S =>* a\ ... ak+\B <í=> S =>* a\ ... akC =$■ a\ ... ak+\B (tedy C -> ak+\B e P) <í=> C G 8(S,a\ .. .ak) (indukční předpoklad), B G 8(C,ak+\) -<=>• B eS(S,a\ ...ak+i). Nyní lze již snadno ukázat, že w G L (Q) -<=>■ w G L (A4). Pokud w = e, platí e G L(Q) «=> S ^ s e P «=> Š e F «=> s e L(M). Nechť tedy w # e, tj. w = va, kde u G E*, a G E. Platí va e L(Q) <^=> S =>* vB => va (tedy B -> a e P) «=>• B G 8(S, v), q f G 8(B,a) -<=>- q f e 8(S, va) -<=>- va e L (M). Je dobré si uvědomit, že poslední ekvivalence platí proto, že A4 nemůže akceptovat neprázdné slovo pomocí stavu S - pokud S e F, obsahuje P pravidlo S —> e, a tedy S se nevyskytuje na pravé straně žádného pravidla; v automatu A4 pak do stavu S nevedou žádné přechody. D Příklad 2.70. Nechť Q = ({S, A, B, C, D}, {a, b, c, d}, P, S), kde P obsahuje pravidla S^aA\bB\s C -> aA\cD F = 50 KAPITOLA 2. REGULÁRNÍ JAZYKY A KONEČNÉ AUTOMATY A^ bC\b D^aC \bB B -> dD\a Ekvivalentní nedeterministický konečný automat má tento tvar: Způsob, kterým lze naopak ke každému konečnému automatu sestrojit ekvivalentní regulárni gramatiku, je do určité míry „inverzní" ke konstrukci použité v důkazu předchozího lemmatu. Neterminály budou odpovídat stavům, pravidla budou simulovat přechodovou funkci. Je tu však jeden problém - pokud automat přijímá prázdné slovo (tj. počáteční stav je koncovým stavem), musí každá ekvivalentní gramatika nutně obsahovat pravidlo S —> s, kde ^ je kořen. Pak se ale S nesmí vyskytovat na pravé straně žádného pravidla (viz část 1.2.2). Přitom je ale možné, že některé přechody automatu končí v počátečním stavu a mají být simulovány pravidly, které mají na pravé straně S, což by vedlo ke konfliktu s požadavkem pravostranných výsktů S. Tento problém vyřešíme tak, že ke zkonstruované gramatice (mající jak S —> e, tak i pravostranné výskyty S) lehce nalezneme ekvivaletní gramatiku splňující (jak vidno, v případě typu 3 čistě formálních) požadavky definice z 1.2.2. Lemma 2.71. Pro každý konečný automat A4 = (Q, E, 8, qo, F) existuje regulární gramatika Q = (N,J:,P,S) taková, žeL(M) = L(Q). Důkaz: Bez újmy na obecnosti předpokládejme, že M. je nedeterministický. Nechť • N' = {q | q G Q}. • P' je nejmenší množina pravidel splňující: - Pokud/? G 8(q,a),)eq -> op pravidlo v P'. - Pokud/? G 8(q,a) a p G F, je q -> a pravidlo v P'. Gramatika Q' = (N', E, P',qô) je zřejmě regulární, protože pravidla jsou předepsaného tvaru. Podobně jako v předchozím důkaze, tentokrát však jen pro neprázdná slova (problém s £ v případě qo G F vyřešíme posléze) ukažme platnost tvrzení: 8(qo,a\ .. .a/c) n F ^ 0, kde k > l,ct\,...,ak € E <í=> qo => a\ ...a^ Indukcí vzhledem k délce akceptovaného slova, tj. ke k: • k = 1: pro p G F, p G 8(qo, a) <í=> qô -> a je pravidlo v P' <í=> qô =>* a. • Indukční krok: pro p G F, platí p G 8(qo, a\ .. .ajc+\) •<=>■ existuje stav q takový, že q G 8{qo,a\ .. .ak) a p G 8(q,ak+i) <í=> qô =>* ci\ ■■■ cik~q~ (podle indukčního předpokladu) a q —> ak+\ je pravidlo v P' -<=>■ qô =>■* a\ ... a^+i • 2.3. VLASTNOSTI REGULÁRNÍCH JAZYKŮ 51 Tedy pro každé w ^ e platí w G L (M) -<=>• w G L(Q'). (*) Je-li qo G F, pak e e L (M); v tomto případě L (G') = L (M) \ {e}. Abychom obdrželi hledanou G = (N, T,, P, S) položme N = N' U {S}, kde S ŕ Q a P = P' U {S -> s} U {S -> a | qö -> a). Přidali jsme tedy nový neterminál (je nyní kořenem) a zajistili, aby jej bylo možné přepsat na cokoliv, na co se přepisoval kořen qö (viz poslední sčítanec v definici P). Konečně do množiny pravidel jsme přidali kýžené S —> £. Jelikož S je nově přidaný symbol, zcela jistě se nevyskytuje na žádné pravé straně v P. Zřejmě L(G) = L{G') U {e} = L(M.). Je-li qo <£ F, tj. s <£ L (M), pak stačí položit N = N', P = P' a S = qô. Požadované L (G) = L (M) je nyní jen jiným zápisem již dokázaného tvrzení (*). D Příklad 2.72. Mějme automat Použitím algoritmu z předchozího důkazu obdržíme ekvivalentní regulární gramatiku G = ({S, qö, qi, qi), {a, b), P, S), kde P obsahuje pravidla S —»- dq~\ \ s q~\ -^ dqö \ b~qi \a\b qö^aqi qi -+ bq{ Okamžitým důsledkem lemmat 2.69 a 2.71 je: Věta 2.73. Třídy jazyků, které lze generovat regulárními gramatikami, resp. rozpoznat konečnými automaty, jsou si rovny. 2.3.3 Rozhodnutelné problémy pro třídu regulárních jazyků Studujeme-li nějakou třídu jazyků (generovanou jistým typem gramatik či automatů), pak je zajímavé ptát se na existenci algoritmů (tzv rozhodnutelnost či algoritmickou řešitelnost) jistých přirozených problémů. Máme-li dány dvě libovolné gramatiky (alternativně automaty) G a G' uvažovaného typu, pak nejtypičtějšími obvykle jsou tyto problémy: 1. ekvivalence: jsou G a G' ekvivaletní? Přesněji řečeno: existuje algoritmus, který pro dvě libovolné dané gramatiky G a G' (z uvažované třídy) rozhoduje, zda jsou ekvivaletní? Poznamejme, že obecně se nemusí jednat pouze o jazykovou ekvivalenci, tj. rovnost jazyků. 2. inkluse (jazyka): platí L(G) Q Ĺ(G') ? (opět ve výše uvedeném smyslu existence algoritmu - podobně i u všech dále uvedených problémů). Obecněji se jedná o problém tzv. simulace vzhledem k danému uspořádání. 3. příslušnost (slova k jazyku): je-li dáno libovolné slovo w G E*, platí w G L(G) ? 4. prázdnost (jazyka): je L(G) = 0 ? 5. universalita (jazyka): je L(G) = E* ? (E je terminálni abeceda G) 6. konečnost (jazyka): je L {G) konečný jazyk? 52 KAPITOLA 2. REGULÁRNÍ JAZYKY A KONEČNÉ AUTOMATY 7. regularita (jazyka): je L (Q) regulární jazyk?4 (či obecněji - srv. s poznámkou o ekvi-valeci v 1: existuje ke Q ekvivaletní regulárni gramatika nebo konečný automat?) V předchozím textu jsme se již setkali s celou řadou algoritmů, které sloužili převážně pro transformaci (tj. „překlad") mezi různými typy popisných formalismů. Samotný pojem „algoritmus" ovšem nebyl nijak blíže vysvětlen ani definován; spoléhali jsme (a spoléháme) se nato, zeje intuitivně jasný. Z ryze matematického hlediska je takový postup samozřejmě nepřípustný. Vše uvedeme na pravou míru v kapitole 5, kde je problematika formální definice algoritmu podrobněji rozebrána. V této části budeme přitom předpokládat, že regulární jazyky jsou reprezentovány deterministickými konečnými automaty. Věta 2.74. Problém, zda libovolný daný regulární jazyk L nad abecedou E je prázdný, resp. roven E*, je rozhodnutelný. Důkaz: Nechť M. = (Q, E, <$, go, Z) je deterministický konečný automat s totální přechodovou funkcí, rozpoznávající jazyk L. Zřejmě L je prázdný, právě když mezi dosažitelnými stavy automatu M. není žádný prvek F; tuto podmínku lze algoritmicky ověřit, neboť množinu dosažitelných stavů M. lze zkonstruovat užitím algoritmu 2.1. Dále L = E*, právě když CO-Z = 0. Jak již víme, je třída regulárních jazyků uzavřena na komplement: jazyk CO-Z je rozpoznávaný deterministickým automatem M. - viz poznámka 2.11. Stačí tedy výše uvedeným způsobem otestovat prázdnost jazyka L(M). D Poznámka 2.75. Tvrzení předchozí věty lze též dokázat tak, že ukážeme platnost tvrzení: Jazyk rozpoznávaný konečným automatem M. o n stavech je neprázdný, právě když A4 akceptuje alespoň jedno slovo délky menší než n. K důkazu lze využít přímo lemma o vkládání, resp. úvahy uvedené v jeho důkazu. Věta 2.76. Problém, zda libovolný daný regulární jazyk L je konečný, resp. nekonečný, je rozhodnutelný. Důkaz: Nechť A4 = (Q, H,8,qo, F) je deterministický konečný automat, rozpoznávající jazyk L. Označme n = card(Q). Dokážeme, že Z je nekonečný, právě když A4 akceptuje alespoň jedno slovo w e E* s vlastností n < \w\ < 2n: (=>) Je-li L nekonečný, nutně obsahuje alespoň jedno slovo u délky alespoň n (de facto je takových slov samozřejmě nekonečně mnoho). Je-li \u\ < 2/7, jsme hotovi. V opačném případě lze slovo u rozdělit na tři části u = xyz tak, že 1 < | y \ < n a x z e L (viz lemma 2.13 o vkládání). Pokud je délka slova xz stále větší než 2n, celý postup opakujeme; po konečném počtu opakování dostaneme slovo w požadovaných vlastností. {<=) Jelikož \w\ > n, musí automat A4, při akceptování slova w projít dvakrát stejným stavem; slovo w lze tedy rozdělit na tři části w = xyz tak, že | y\ > 1 a platí xy'z e L pro každé i e No (viz důkaz lemmatu 2.13 o vkládání), tedy L je nekonečný. To, zda 7W akceptuje alespoň jedno slovo w takové, že n < \w\ < 2n, lze algoritmicky 4. pro regulární jazyky je tento problém rozhodnutelný triviálně, což pro ostatní třídy neplatí 2.3. VLASTNOSTI REGULÁRNÍCH JAZYKŮ 53 ověřit - těchto slov je konečně mnoho, můžeme tedy „vyzkoušet" každé z nich. D Věta 2.77. Problém rovnosti libovolných daných regulárních jazyků je rozhodnutelný. Důkaz: Pro libovolné L\,Ĺ2 platí: (L\ = Z2) -<=>• (L\ íl CO-L2) U (co-Zi D L2) = 0. Pro L\, L2 regulární lze všechny uvedené operace algoritmicky realizovat (viz 2.11). Zbytek plyne z rozhodnutelnosti problému prázdnosti regulárního jazyka ( 2.74). D Uvedený důkaz obsahuje i návod na konstrukci algoritmu pro rozhodování problému, zda L\ = Z2. Nechť L\, L2 jsou po řadě rozpoznávány DFA Mi = (Qi, T, S\,q\, F\) a M.2 = (02, T, 82, q2, F2) s totálními přechodovými funkcemi (je důležité, že oba automaty mají stejnou vstupní abecedu; tento předpoklad je bez újmy na obecnosti, neboť v opačném případě lze abecedy sjednotit a přechodové funkce znovu zúplnit). Položme M0 = (Mi fnlAtöw (Mi m M2)-PakZi=Z2 «=> L(M&)=0. Uvažme však, že není nutné postupovat „otrocky" po struktuře, jak je konstruován M0. Zřejmě L(M&) # 0 «=> (Li ^ Li) ^=> 3w e (Lx nco-Z2) U (CO-Zi fll2). Hledejme tedy množinu R dosažitelných stavů synchronního paralelního spojení automatů M\ a M2 (viz poznámka 2.11). R bude obsahovat aspoň jednu dvojici (p, q) z množiny Fi x (Q2 - F2) U (gl - Fi) x F2 právě když 3w e (Li f] CO-L2) U (co-Zi D Z2) <^=> (Zi 7^ Z2). Tedy definujme množinu R Q Qi ^ Q2 takto: R = {(r,s) \ 3w e T : r = 8i(qi, w) A s = 52(g2, w)} Právě jsme tedy ukázali, že L(Mi) 7^ L (Mi) právě když R obsahuje alespoň jednu dvojici stavů z [F\ x (Q2 — F2)) U ((Qi — F\) x F2), či ekvivaletně vyjádřeno: Lemma 2.78. L (M 1) = L (Mi) pravé když R obsahuje pouze takové dvojice, ve kterých jsou obě komponenty současně buď koncové nebo nekoncové stavy. Důkaz: Důkaz uvádíme jen pro snazší čtenářovu orientaci. Ukažme (srovnej s poznámkou 2.11 as konstrukcí dosažitelných stavů v důkazu lemmatu 2.19), jak lze množinu R algoritmicky zkonstruovat; vyjdeme z toho, že R lze přirozeně aproximovat tak, že v její definici položíme omezení na délku slova w. Obdržíme tak systém množin Rj, kde i € No, definovaný takto: Rj = {(r,s) I 3w e T : \w\ < i A r = 8\(q\, w) A s = 52(g2, w)} Platí tedy R = \jRi (2.7) i=0 Každou z množin Rj lze ovšem snadno zkonstruovat na základě induktivního předpisu: • Ro = {(quq2)} • Ri+l = Ri \J{(8i(r,a),82(s,a)) \ (r,s) e Rt A a e T} Označme n = card(Qi x Qi). Jelikož Ri C Ri+\ a každá z množin Ri je podmnožinou Si x 02, nutně existuje k < n takové, že Rk = Rk+i- Z induktivního předpisu pro Rj je 54 KAPITOLA 2. REGULÁRNÍ JAZYKY A KONEČNÉ AUTOMATY vidět, že množina Rk+i závisí pouze na množině Rk - proto dokonce platí Rk libovolné j G No. Vztah 2.7 lze tedy přepsat do tvaru k R = \jRi=Rk i=0 Tím je formálně dokázána správnost i konečnost algoritmu 2.4. Algoritmus 2.4 Test rovnosti regulárních jazyků. Vstup: DFA Mj = (Qj, E, Sj,qj, Fj)J = 1, 2 s totálními 8j. Výstup: YES jestliže Z CM i) = L(M2), NO jinak. z':=0; Ro:={(q\,qi)}\ repeat Ri+i := Ri U{(8i(r,a),82(s,a)) \ (r,s) e Rt A a e E}; if Rj+i obsahuje dvojici (p, q), kde p e F\ 4#=> q e F2 then return NO; end if /':=/ + 1; until Ri = Ri-\ return YES; Algoritmus 2.4 je ve skutečnosti mírně zoptimalizovaný; test, zda R obsahuje „nedovolené" dvojice, se provádí po každé iteraci a pokud uspěje, algoritmus se ihned ukončí. Alternativně lze větu 2.77 (i s implicitně obsaženým algoritmem) dokázat takto: nechť L\ a L2 jsou regulární jazyky, po řadě rozpoznávané DFA Ai\ a M.2. Ke každému z nich lze sestrojit minimální DFA M.'\, resp. M'2. Pak L\ = L2 právě když AA! \ a M.'2 jsou isomorfní (liší se jen pojmenováním stavů). Ověření tohoto isomorfismu, jako isomorfismu dvou přechodových grafů s konečně mnoha stavy (uzly), je jistě algoritmicky realizovatelné, či jinak řečeno rozhodnutelné. Tím je důkaz ukončen. Abychom však výše zmíněný isomorfismus nemuseli ověřovat zkoumáním všech možností, je vhodné si uvědomit, že každý automat (a tedy i Ai'\ a M.'2 z výše uvedeného důkazu) lze převést do jistého standardizovaného (tzv kanonického) tvaru. Můžeme totálně uspořádat vstupní abecedu E = {a\,.. .am},ai < dj+\ a stavy postupně systematicky očíslovat: počátečnímu stavu přiřadíme číslo 1 a postupně procházíme všechny jeho následníky (tj. nejprve pro a\ atd. až po am). Pokud najdeme následníka, který ještě nemá přiřazeno žádné číslo, přiřadíme mu nové, dosud nepoužité číslo (např. bylo-li poslední přiřazené číslo i, přiřadíme jako nové číslo i + 1); Pokud najdeme následníka, který již přiřazené číslo má, neděláme nic. Takto zpracujeme všechny stavy, a to postupně dle jim přiřazených čísel. Detaily tohoto algoritmu ponecháváme čtenáři. Jen si uvědomme, že časově náročný test na isomorfismus dvou přechodových grafů lze převodem do kanonického tvaru nahradit jednoduchým testem na identitu přechodových grafů odpovídajících automatů v kanonickém tvaru. = Rk+i pro (2.8) D 2.4. APLIKACE REGULÁRNÍCH JAZYKŮ A KONEČNÝCH AUTOMATŮ 5 5 2.4 Aplikace regulárních jazyků a konečných automatů S omluvou: jen stručně (výčtem) zmiňme několik z mnoha aplikačních oblastí. Oblast vyhledávání vzorů (tzv. pattern matching) v řadě aplikačních oblastí, například v textu (editory, textové systémy), DNA sekvencích a dalších. Například v Unixu: grep - vyhledávání podle zadaného regular, výrazu (RE); algoritmus implementující NFA egrep - vyhledávání podle zadaného tzv. rozšířeného RE (viz uzavřenost na průnik a kom- plement); rychlý algoritmus(DFA), který může mít exponenciálně mnoho stavů, f grep - vyhledávání podle zadaného řetězce (rychlý, paměťově nenáročný DFA, jehož základem je tzv. Knuth-Morris-Prattův algoritmus -jedna z perel mezi algoritmy) Další použití regulárních vyřazuje například v emacs, vi, sed, sh, ... . Zpracování lexikálních jednotek, například při automatizované konstrukci překladačů, v počítačové lingvistice a dalších. Opět v OS Unixjde o program lex (či jeho uživatelsky komfortnější variant flex) - generuje C programy (deterministické FA), které mají být použity při nejrůznějším zpracování lexikálních jednotek. Specifikace a verifikace konečně stavových systémů komunikační a řídicí protokoly). Zpracování obrazů (image processing). Jednoduché, ale velmi silné rozšíření FA na tzv. vážené konečné automaty (weighted FA), kdy přechodům a stavům jsou přiřazeny jistá čísla - váhy (např. u stavu určuje stupeň šedi daného pixelu). Konečné automaty nad nekonečnými slovy - reaktivní (paralelní a distribuované ) systémy, Konečné automaty s výstupem, tzv. překladové automaty - návrh hardware-ových obvodů a řada dalších. 56 KAPITOLA 2. REGULÁRNÍ JAZYKY A KONEČNÉ AUTOMATY Kapitola 3 Bezkontextové jazyky a zásobníkové automaty V této kapitole se budeme podrobněji zabývat bezkontextovými gramatikami (dále často jen CFGs či CFG pro singulár) a jazyky jimi generovanými - bezkontextovými jazyky (CFL). Podobně jako regulárni jazyky mají též CFL i značný praktický význam, například při definici syntaxe programovacích jazyků, formalizaci pojmu syntaktická analýza a návrhu překladu programovacích jazyků a dalších. Pro ilustraci uveďme, že pomocí CFGs jsme schopni popsat dobře uzávorkované aritmetické výrazy, blokovou strukturu v programovacích jazycích či obdobnou strukturu například v sázecím systému LTeX(1j. dobré uzávorkování pomocí závorek begin a end,... , závorky typů \begin{itemize}, \end{itemize}, ... , \begin{description}, \end{description} - obecně tedy půjde o popis dobrého uzávorkování jazyka obsahujího závorky (\,)\, ...,(„,)„,n > 1 ). Žádný z těchto rysů nelze popsat pomocí regulárních gramatik, jak již ostatně víme z předchozí kapitoly (jazyk {0"\"\n > 0} není regulární). V části 3.2 zavedeme tzv zásobníkové automaty, které akceptují právě CFL a ukážeme základní principy, na nichž jsou založeny transformace CFG na (jazykově) ekviva-letní zásobníkové automaty a naopak. Na závěr této kapitoly pak budeme v 3.3 studovat některé základní výsledky široce rozpracované teorie CFL, které nám například umožní vhodně upravovat/transformovat CFG, rozhodovat, zda daný jazyk je či zejména není CFL a další užitečné vlastnosti této třídy jazyků. 3.1 Bezkontextové gramatiky 3.1.1 Derivační stromy V gramatice je možné, aby různé derivace byly ekvivaletní v tom smyslu, že všechny tyto derivace používají stejná pravidla na stejných místech, tj. jsou aplikována na stejné výskyty neterminálů, avšak v různém pořadí. Zatímco definice takové ekvivalence je pro gramatiky typu 0 poněkud komplikovaná, lze v případě bezkontextových gramatik zavést pro třídu ekvivalentních derivací jednoduchou grafovou reprezentaci, tzv. derivační strom (někdy též zvanou strom odvození). Alternativně lze reprezentovat ve výše uvedeném smyslu ekvivalentní derivace jistými kanonickými derivacemi, v nichž aplikujeme pravidla jistým standardizovaným postupem (např. v každém kroku derivace přepisujeme ve větné formě 57 5 8 KAPITOLA 3. BEZKONTEXTOVÉ JAZYKY A ZÁSOBNÍKOVÉ AUTOMATY nejlevější neterminál, resp. nejpravější neterminál. Každou takovou derivaci nazveme levou resp. pravou derivací. Uzly derivačního stromu v libovolné dané CFG Q jsou označeny návěštími, která jsou buď terminály nebo neterminály, případně £. Má-li vniřní uzel n návěští A a jeho bezprostřední následníci (dále jen synové) mají zleva doprava po řadě návěští X\,... , X„, pak A —> X\,... , X„ musí být pravidlem v Q. Formálně řečeno: Definice 3.1. Nechť Q = (N, E, P, S) je CFG. Strom T nazveme derivačním stromem v Q právě když platí tyto podmínky: 1. každý uzel má návěští, které je symbolem ziVUEU {e}, 2. kořen má návěští S, 3. má-li vnitřní uzel návěští A, pak A e N, 4. má-li uzel n návěští A a jeho všichni synové n\,... ,rik mají v uspořádání zleva doprava návěští X\,... , Xk, pak A —> X\ ... Xk e P, 5. má-li uzel n návěští e, pak n je list a je jediným synem svého otce. Výsledkem derivačního stromu T nazveme slovo vzniklé zřetězením návěští listů v uspořádání zleva doprava. Příklad 3.2. Nechť Qq je gramatika s pravidly E —»- E + T T T -+ T*F | F F -+ (E) \ i pak derivační strom © © © © © reprezentuje deset vzájemně ekvivalentních derivací, například 1. E^E + T^T + T^F + T^i + T^i+F^i+i nebo 2. E^E + T^E + F^E + i^T + i^F + i^i+i a též 3. E^E + T^T + T^T + F^F + F^F + i^i+iadalší Všimněme si, že 1 je levá, kdežto 2 je pravá derivace. Věta 3.3. Nechť Q = (N,i:,P,S) je CFG. Pak pro libovolné a e (N U E )* platí S =>* a právě když v Q existuje derivační strom s výsledkem a. Důkaz: Je-li Q = (N, E, P, S) CFG a A G N, definujmeme QA = (#,£, P, A), tj. gramatiku s týmiž pravidly jako Q, která však má kořen A. Důkaz povedeme tak, že nejprve ukážeme silnější tvrzení: 3.1. BEZKONTEXTOVE GRAMATIKY 59 VA e N. (A =>* a -<=>■ v Q a existuje derivační strom s výsledkem et). (*) Tvrzení věty pak obdržíme specializací A = S. I. (■*==) Předpokládejme, že a je výsledkem derivačního stromu, který má k vnitřích uzlů a indukcí vzhledem ke k ukažme, že pak A =>* a. 1. k = 1. Existuj e-li ve stromu jediný vnitřní uzel, A pak pro X\ ■ ■■ Xn a = X\ ... Xn z definice derivačního stromu plyne, že A —> a e P. 2. k > 1. Předpokládejme (IP), že dokazované tvrzení platí pro stromy, které mají nanejvýš k — 1 vnitřních uzlů. Nechť a je výsledkem stromu s k vnitřními uzly. Následníci kořene (označme je 1,... n) nejsou jen samé listy (mimo kořen zde musí být ještě aspoň jeden vnitřní uzel, protože k > 1) a nechť jejich návěští jsou v uspořádání zleva po řadě X\ ... X„. Pak jistě A -> X\...Xn e i5. Nyní: (a) Je-li i vnitřím uzlem, pak je současně kořenem nějakého podstromu 7} a Xj e N. Ti mající nejvýše k — 1 vnitřních uzluje stromem v Qxt a jeho výsledkem je a;. Dle IP je (b) Je-li i listem, pak Xj = a, (tedy triviálně Xj =£-* a,). Zřejmě a = ct\ ... a„, a tedy celkem dostáváme X1X2 ...Xn a\X2...X„ ( dle IP, je-li X\ e N; triv. pro X\ e E) IlGl G!lO!2 • • • Oín-\Xn ( dttO ) G!lO!2 ,Ctn =Ci tj.A a II. (==r) Předpokládejme, že A =^>* a a máme ukázat,že v Q a existuje derivační strom s výsledkem a. Tentokrát použijeme indukci vzhledem k délce odvození A =£-* a. 1. Je-li A =£- a, tj. v jednom kroku, pak A ^ a e P az definice derivačního stromu dostáváme existenci stromu s výsledkem a. 2. Předpokládejme (IP), že je-li A =£-* a v méně než k krocích, pak v Q a existuje derivační strom s výsledkem a (IP). Nechť tedy A =£-* a v k krocích a nechť 1. krok je tvaru A —> X\ ... X„. Zřejmě každý symbol v a je buď některé z X\ ... Xn nebo je symbolem v řetězu odvoditelného z některého z nich, a to v méně než k krocích (dle IP platí pro něj dokazované tvrzení). Dále, ta část a, která je odvoditelná z Xj leží vlevo od té části a, která je odvoditelná z Xj pro i < j. Můžeme tedy psát a = a\ .. .an, kde Xj =£-* a, a označme takový podstrom 7]. 60 KAPITOLA 3. BEZKONTEXTOVE JAZYKY A ZÁSOBNÍKOVÉ AUTOMATY Hledaný derivační strom nyní zkonstruujeme takto: začneme s konstrukcí odpovídající prvnímu kroku odvození, tj. A =>■ X\ ... Xn a dostaneme X\ ■ ■ ■ Xn a dále každé Xj nahradíme stromem 7} (je-li Xj terminál, je náhrada triviální - nic nenahrazujeme). Výsledkem takto vzniklého stromu je zřejmě a. Tím jsme dokázali tvrzení (*); tvzení věty obdržíme (specializací) tak, že v (*) položíme A = S (Qs = Q). U Specielně tedy pro terminálni řetěz w platí, žeweL {Q) právě když v Q existuje derivační strom s výsledkem w. Není těžké ukázat, že každému derivačnímu stromu v CFG odpovídá jediná levá derivace a obráceně, každé levé derivaci odpovídá jediný derivační strom. (Například v důkazu předchozí věty byla k derivačnímu stromu s kořenem A a výsledkem a nalezena levá derivace větné formy a. z Aza, předpokladu, že každá z Xj =>* a, byla levou derivací.) Analogické tvrzení platí o vzájemně jednoznačné korespondenci mezi derivačními stromy a pravými derivacemi (a tedy i mezi levými a pravými derivacemi). Každý, kdo programuje v jazyce Pascal, jistě ví, že existují CF gramatiky, v nichž má jedna věta či větná forma několik různých derivační ch stromů. Příklad 3.4. Mějme gramatiku s pravidly S -> if b then S else S | if b then S | a Pak například věta if b then if b then a else a má dva různé derivační stromy, které odpovídají interpretaci if b then (if b then a) else a resp. if b then (if b then a else a). Zkonstruujte oba stromy! Definice 3.5. CFG Q se nazývá víceznačná (nejednoznačná) právě když existuje w e L (Q) mající alespoň dva různé derivační stromy. V opačném případě říkáme, že Q je jednoznačná. Jazyk L se nazývá vnitřně (inherentně) víceznačný právě když každá gramatika, která jej generuje, je víceznačná. Příklad 3.6. Gramatika Q\ s pravidly E^-E + E\E*E\ (E) \ i , která je ekvivaltní s gramatikou Qq z příkladu 3.2, je víceznačná; například proto, že věta i + i + i má dvě různé levé derivace a jim odpovídající dva různé derivační stromy: 3.1. BEZKONTEXTOVE GRAMATIKY 61 Nejednoznačnost gramatiky může v některých praktických aplikacích působit jisté obtíže: pokud nalezení derivačního stromu věty (například zdrojového textu programu) je základem pro stanovení významu věty, vznikl by v případě nejednoznačné gramatiky problém, který z těchto významů zvolit (nehledě k nárůstu časové i paměťové složitosti spojené s hledáním všech derivační ch stromů). Ke gramatice Q\ z příkladu 3.6 lze zkonstruovat ekvivaletní jednoznačnou gramatiku č/2 s pravidly například E^-E + T\E*T\T; T —> (E) \ i . Všimněme si však, že Qq z příkladu 3.2, na rozdíl od Q2, umožňuje postihnout (již na syntaktické úrovni) asociativitu tak, aby reflektovala i obvyklou prioritu operátorů, tj. že * váže silněji než +; věta i +i *i by v G2 byla asociována zleva jako (z + z) * z. Poznamejme, že ne vždy lze k dané gramatice (resp. jazyku) nalézt ekvivaletní gramatiku, která by byla jednoznačná. Takovým vnitřně víceznačným jazykem je například L = {albJc \ i = j neboj = k). Intiutivně řečeno, každá gramatika generující L musí být schopna vytvářet jistou sadou pravidel jak slova spňující z = j, tak i jinou sadou pravidel slova s; = k, a tudíž nelze zabránit tomu, aby aspoň některá ze slov a'b'c1, tj. z = j = k nebyla generovatelná oběma různými způsoby. Jak ukážeme později, bohužel ani pro problém, zda libovolná daná CFG je (nejednoznačná neexistuje algoritmus. 3.1.2 Transformace bezkontextových gramatik Jak jsme již naznačili v závěru minulé sekce, bývá často výhodné modifikovat danou gramatiku Q tak, aby vytvářela takovou stukturu vět z L(Q), která by zajistila splnění některých kýžených vlastností jazyka či gramatiky. Mimo již zmíněné asociativity a jednoznačnosti je těchto vlastností (a jim korespondujících transformací) gramatik celá řada. Definice 3.7. Řekneme, že symbol X G N U E je nepoužitelný v CFG Q = (N, T,, P, S) právě když v Q neexistuje derivace tvaru S =>* wXy =>* wxy pro nějaká w,x,y G E*. Řekneme, že Q je redukovaná, jestliže neobsahuje žádné nepoužitelné symboly. Poznámka 3.8. Povšimněme si, že výše uvedená definice postihuje nepoužitelnost dvojího druhu: neexistence první části uvedené derivace říká, že symbol X G N U E se nevyskuje v žádné větné formě (jedná se o tvz. nedosažitelný symbol), kdežto neexistence druhé části zmíněné derivace vyjadřuje skutečnost, že z neterminálu X nelze vy derivovat žádný terminálni řetěz (tzv nenormovaný, někdy též redundatní netermináll). Poznamejme ještě, že existence obou zmíněných derivací ještě není postačující podmínkou pro použitelnost symbolu: X se může totiž objevit jen v takové větné formě, která obsahuje nenormovaný neterminál. Pokud z Q nepoužitelné symboly vypustíme, pak se L(Q) zřejmě nezmění. Řešme nejprve druhý z těchto problémů, tj. zda {w G H*\A =£-* w} = 0. Pokud pro tento problém nalezneme algoritmus, pak jeho existence implikuje (položením A = S) existenci algoritmu pro problém zda L(Q) = 0, či nikoli. Věta 3.9. Algoritmus 3A "Je L {Q) neprázdný?" vrací 'ANO" <^=> 3w G E*. S =>* w. 1. Normou neterminálu A obvykle rozumíme délku nejkratšího terminálního řetězu odvoditelného z A, pokud taková derivace existuje 62 KAPITOLA 3. BEZKONTEXTOVE JAZYKY A ZÁSOBNÍKOVÉ AUTOMATY Algoritmus 3.1 Je L {Q) neprázdný? Vstup: C¥GQ = (N, Z, P, S). Výstup: "ANO" je-h L (Q) ^ 0; "NE" v ostatních případech ' Dle následujících kroků konstruuj induktivně množiny No, N\, ... takto: i := 0; No := 0; (* inicializace *) (1) repeat i:=i + \; (* iterace*) (2) Ni := Ni-i U{A\A^aeP,ae (JV,-i U E)*} (3) until Ni =Ni-\\ (* test ukončení *) (4) Ne:=Ni- (5) i\e .= i\i, if S G Ne then output("ANO") else output("NE"). (6) Důkaz: Poznamejme, že každá Ni je definována jako množina neterminálů, které lze v nejvýše i krocích přepsat na řetěz terminálni. Dokažme nejprve (opět) obecnější tvrzení: AeNe <^=> 3w g H*.A =>* w. (*) I.(^>) A e Ne ==> 3i. A e N,. Indukcí dokažme tvrzení: 3/. AeNi=>3we E*. A =>* w 1. /' = 0 : platí triviálně, protože No = 0. (viz řádek (1) v Algoritmu 3.1) 2. i > 0 (IP): Předpokládejme, že dokazované tvrzení platí pro i. Nechť nyní A e Ni+\: • je-li A rovněž prvkem z Ni, pak tvrzení plyne přímo z (IP). • je-li A e Nj+i \ Nj, pak existuje A -> X\ ... Xk e P, kde každé Xj{\ < j < k) je buď terminál, nebo neterminál patřící do Nj (viz řádek (3)). Tedy existují Wj tak, že Xj =>* Wj pro všechna j e (\,k),Wj e E* (je-li X j e E, pak Wj = X,-, jinak existence Wj plyne z (IP)). Tedy celkem A=$ X\...Xk =>* w\Xi... Xk =>* ... =>* w\ .. .Wk, w\ ... Wk e E* II. (■*==) Definice množin Nj zajišťuje, že pokud nastane Nj = N-\, pak platí Nj = Nj+i = • • •. Máme ukázat, že pokud A =>* w pro nějaké w e E*, pak A e Ne, přičemž na základě předchozí poznámky stačí ukázat, že A e N pro nějaké i. Tedy indukcí dokažme: A => w, w e E* ==> A e Nj pro nějaké i \.n = l,tj.v4 —> w,w e E* okamžitě dává i = 1 (viz řádek (3) v Algoritmu 3.1). 2. n > 1 (IP): Předpokládejme, že dokazované tvrzení platí pro všechna n a nechť nyní fl~\~ 1 fl A =>■ u;. Pak zřejmě tuto derivaci lze rozepsat do tvaru A =>■ X\ ... Xk => w, kde n, w = w\ .. .Wk takové, že Xj =$■ Wj pro všechna j a kde n j < n. Pak dle (IP) je-li Xj e N, potom Xj e N,, pro nějaké i j. Je-li Xj e E, nechť i j = 0. Položme i = 1 + max{z'i,... , ik). Pak zřejmě A e N, čímž je důkaz indukcí ukončen. Položíme-li A = S v právě dokázaném tvrzení (*), dostáváme tvrzení věty. D 3.1. BEZKONTEXTOVE GRAMATIKY 63 Poznamejme, že jsme právě dokázali, že pokud algoritmus 3.1 zastaví, pak dává koretkní odpověd. Důkaz, že algoritmus musí skončit, a to nejpozději po n + 1 iteracích (pro n = card (TV)), plyne okamžitě z faktu, že Ne Q N - viz monotonie Nj vzhledem k inklusi (během iterace platí Nj-\ C TV,) a tvaru testu ukončení. Celkem tedy máme: Důsledek 3.10. Existuje algoritmus, který pro libovolnou danou CFG Q rozhoduje, zda K eliminaci nepoužitelných symbolů musíme ještě umět odstranit nedosažitelné symboly (viz Poznámka 3.8). Tuto činnost provádí Algoritmus 3.2. Algoritmus 3.2 Eliminace nedosažitelných symbolů Vstup: CFG£ = (N, V,P,S). Výstup: CFG Q' = (N', E\ P', S) bez nedosažitelných symbolů: L(Q) = L(Qf) Dle následujících kroků konstruuj induktivně množiny Vq, V\,... takto: / := 0; Vi := {S}; (* inicializace *) (1) repeat 7 := 7 + 1; Vi := Vi-\ U {X\BA.{A -> aXß e P A A e V-i)} (* iterace *) (2) until Vi = Vi-\\ (* test ukončení *) (3) N' := N n Vi\ £' := E n V; P' := P n (V x V*) (4) Ke korektnosti algoritmu 3.2 zbývá uvážit, že jeho ukončení je implikováno faktem, že Vj CJVUE,a tedy iteraci (2) - (3) lze provést jen konečně mnohokrát. Důkaz, že při skončení Q' neobsahuje nedosažitelné symboly spočívá v ukázání, že S =£•* aXß <<=> Bi. X e Ví (indukcí vzhledek k i). Formální důkaz je ponechán čtenáři jako cvičení. Nyní jsme v situaci, kdy můžeme prezentovat algoritmus 3.3, který odstraňuje z CFG nepoužitelné symboly. Algoritmus 3.3 Eliminace nepoužitelných symbolů Vstup: CFG Q = (N, E, P, S) taková, že L (0) ^ 0. Výstup: CFG Q' = (Nf, E'', P'', S) bez nepoužitelných symbolů: L (G) = L (£') Použij algoritmus 3.1 se vstupem Q a s výstupem Ne; (1) Polož Qx = (N n Ne, E, Px, S), kde Px := P C\ (Ne x (Ne U E)*); Použij algoritmus 3.2 se vstupem Q\; výstupem je Q' = (N', E', P', S) (2) Krok (1) algoritmu 3.3 odstraňuje z Q všechny neterminály, které nemohou vygenerovat terminálni řetěz, krok (2) odstraní nedosažitelné symboly, tj. každý X e N' U E' se musí vyskytnout alespoň jednou v nějaké derivaci tvaru S =£•* wXy =£-* wxy. Konečně poznamenejme, že záměna pořadí kroků (1) a (2) obecně nevede k cíli (proč?). Věta 3.11. Každý neprázdný CFL je generován nějakou redukovanou CFG (tj. CFG bez nepoužitelných symbolů). 64 KAPITOLA 3. BEZKONTEXTOVE JAZYKY A ZÁSOBNÍKOVÉ AUTOMATY Důkaz: Nechť L = L(Q) je neprázdný CFL a nechť Q\ a Q' jsou, jak uvedeno v algoritmu 3.3. Zřejmě L (Q) = L(Q') (kompozice transformací zachovávajích ekvivalenci). Předpokládejme, že Q' má nepoužitelný symbol X. Pak ovšem v Q' existuje derivace S =>* aXß (víz krok (2)). Jelikož všechny symboly z Q' jsou též v Q\, pak (víz krok (1)) pro nějaký terminálni řetěz platí S =>* aXß =>* w, a tedy žádný symbol z derivace aXß =>* w není krokem (2) eliminován. Tedy z X lze v C/' odvodit terminálni řetěz, což vede ke sporu s předpokladem, že X je nepoužitelný. D Příklad 3.12. Nechť Q má pravidla {S —> a\A, A —> AB, B —> b} a aplikujme na ni algoritmus 3.3. Po kroku (1) máme Ne = {S, B}, takže Q\ = ({S, B}, {a, b}, {S -> a, B —> b}, S); po kroku (2) obdržíme V2 = Vx = {S, a}, a tedy Q' = ({S}, {a}, {S -> a}, S}. Poznamenejme, že pokud bychom na Q použili nejprve krok (2), tj. algoritmus 3.2, shledali bychom, že všechny symboly jsou dosažitelné - Q by se vůbec nezmenila. Následná aplikace kroku (1) by dala Ne = {S, B}, a tudíž bychom celkem dostali Q\ a nikoli Q'. Nyní se budeme zabývat eliminací pravidel tvaru A —> £ , tzv ř-pravidly. Pokud však L{Q) obsahuje e, pak zřejmě nelze eliminovat z Q všechna ř-pravidla. def Definice 3.13. Řekneme, že CFG Q = (N, E, P, S) je bez s-pravidel<£==> buď 1. P neobsahuje žádné ^-pravidlo (tj. pravidlo tvaru A —> e ) nebo 2. v P existuje právě jedno £-pravidlo S —> £ a S se nevyskytuje na pravé straně žádného pravidla z P. Algoritmus 3.4 Eliminace ^-pravidel Vstup: CFG Q = (N, E, P, S) Výstup: CFG Q' = (Nf, E, P', S') bez e-pravidel: L (Q) = L (g') Zkonstruuj Ns = {A e N\A =>* e] (* analogicky j ako Ne z algoritmu 3.1 *); (1) Množinu pravidel P' zkonstruuj takto: for all A -> X\... Xn e P do přidej do P' všechna pravidla tvaru A —> ct\ ... an z P splňující tyto podmínky: (2) (a) pokud Xi i Ne (*tj. Xi A* 8*), pak on = Xt; (3) (b) pokud Xi e Ne (*tj. Xt =>* £*), pak en je buď Xt, nebo e; (4) (c) ne všechna cti jsou e; (* tj. nepřidávej pravidlo A —> e *) (5) end for ifSeN£ (6) then přidej do P' pravidla S' -> S\s (Sf i N U E); N' := N U {S'} (7) else N' := N; S' := S (8) Věta 3.14. Výstupní CFG g' z algoritmu 3.4 je bez e-pravidel a L (g) = L (g)'. Důkaz: Snadno se nahlédne, že Q' je bez ř-pravidel - viz řádek (5). Abychom ukázali, že L(Q) = L(Q)', lze ukázat, že A =>* w v Q' -<=>• w^e/\A^*wvg Důkaz, který je ponechán čtenáři do cvičení, se vede indukcí vzhledem k délce derivace A =>■ w v g 3.1. BEZKONTEXTOVE GRAMATIKY 65 pro část '^=>-'; analogicky pro obrácenou implikaci. Požadovanou jazykovou ekvivalenci pro neprázdná slova obdržíme položením A = S ve výše uvedeném tvrzení; fakt, že £ G L (0) <^=> s e L ((?)' je zřejmý z řádků (6) - (8). D Další užitečnou transformací může být odstranění pravidel A —> B, (A, B e N), která nazýváme jednoduchá pravidla. Algoritmus 3.5 Eliminace jednoduchých pravidel Vstup: CFG Q = (N, E, P, S) bez ^-pravidel Výstup: CFG Q' = (N, E, P', S) bez jednoduchých a e-pravidel: L (Q) = L (g') for sillAe N do zkonstruuj Na = {B € N\A =>* B} takto (* opět: srv. s Vo, V\,... z alg. 3.2*): / := 0; Ni := {A}; (* inicializace: reflexivita =>* *) (1) repeat / := i' + 1; (* iterace: transitivita =>* *) (2) Ni := Ni-x U {C\B -► C e P, B e ty-i] (3) until Ni =Ni-i;(* test ukončení *) (4) NA:=Ni- (5) end for Množinu pravidel P' konstruuj takto: for all B —> a G P, které není jednoduché do přidej do P' pravidla A —> a pro všechna A taková, že B e Na (6) end for Příklad 3.15. Mějme gramatiku Qo z příkladu 3.2 s pravidly: E -> E + T \T T -> T*F \F F^(E)\ i Po skončení 1. cyklu (řádky (1) - (5)) dostaneme Ne = {E, T, F}, Nf = {T, F}, Np = {F}, což po skončení 2. cyklu (ř. (6)) dává výstupní gramatiku bez jednoduchých pravidel: E ^ E + T \T *F\(E)\i T ^T *F \{E)\i F^(E)\ i Věta 3.16. Gramatika Q' z algoritmu 3.5 je bez jednoduchých pravidel a L {Q) = L {Q)'. Důkaz: Množina pravidel P' je evidentně konstruována tak, že neobsahuje jednoduchá pravidla - viz řádek (6). Nejprve ukažme, že L(Q)' C L (Q). Mějme tedy w G L (Q)', tedy v Q' existuje derivace S = «o =>■ ot\ =>■ ...=>■«« = w. Bylo-li při kroku a, =>■ c^+i použito v Q' pravidlo A —> ß, pak existuje nějaké B G Na (s možností A = B) takové, že v Q je 66 KAPITOLA 3. BEZKONTEXTOVÉ JAZYKY A ZÁSOBNÍKOVÉ AUTOMATY A =>* B a B =>■ ß, a tedy i A =>* ß a a, =>* a;+i v Q. Odtud již snadno dostaneme, že v Q existuje derivace S =>* w, tj. w e L (Q). Abychom ukázali platnost obrácené inkluse, tj. L {Q) C L (Q)', zvolme libovolné w e L(Q). Pak v Q existuje levá derivace S = «o =>■ ot\ =>■ ...=>■ an = u;. Pak lze nalézt posloupnost indexů i\,... Jk složenou výhradně z j takových, že v cíj-\ =>■ «/ nebylo použito jednoduchého pravidla (zejména derivace věty nemůže končit jednoduchým pravidlem, a proto ik = n). Protože se jedná o levou derivaci, pak opakované použití jednoduchých pravidel nahrazuje neterminály na téže pozici v uvažované levé větné formě. Odtud vidíme, že v Q' je možná derivace S = «o =>■ ocjl =>■ ... =>■ c% = w, tj. u; G L(Q)'. Celkem tedy máme žádané Z ((?)' C Z ((/). D Definice 3.17. CFG Q = (N, Y, P, S) se nazývá necyklická, právě když neexistuje v4 e N takový, že A =^+ A. Q se nazývá vlastní, právě když je bez nepoužitelných symbolů, bez £-pravidel a necyklická. A-pravidlem nazveme každé pravidlo tvaru A —> a. Věta 3.18. Ke každému CFL existuje vlastní CFG, která jej generuje. Důkaz: Použitím výše uvedených algoritmů 3.3, 3.4 a 3.5 a odpovídajích tvrzení o jejich korektnosti. D V dalším textu předpokládáme, že každá CFG je bez nepoužitelných symbolů a pokud nebude řečeno jinak, pak i vlastní. 3.1.3 Chomského normální forma, lemma o vkládání V této části nejprve ukážeme, že ke každé CFG existuje ekvivalení CFG vjístém speciálním tvaru, který je charakterizován zejména tím, že na pravých stranách pravidel vystačíme se dvěma výskyty neterminálů (přesná definice viz 3.19). Na základě tohoto tvrzení budeme schopni dokázat tzv lemma o vkládání (obecně též známé jako pumping lemma) pro CFL, které nám umožní v některých případech dokázat, že daný jazyk není CFL. Definice 3.19. Řekneme, že CFG Q = (N, E, P, S) je v Chomského normální formě def (CNF) -<==>■ Q je bez ^-pravidel (viz def. 3.13) a každé pravidlo z P má jeden z těchto tvarů: 1. A^ BC, B, C e N nebo 2. A -> a, a e E K důkazu tvrzení, že každý CFL je generovatelný nějakou CFG v CNF použijeme algoritmu 3.6; k důkazu jeho korektnosti využijeme následující lemma o substituci. Lemma 3.20. (o substituci) Nechť G = (N, E, P, S) je CFG. Nechť A -> axBa2 e P je pravidlo a B —> ß\ \... \ßr jsou všechna B-pravidlaz P. Nechť dále Q\ = (N, E, P\, S), kdePi = (P\{A -+ a\ßiC(2, pak v Q lze použít A =>■ a\Ba2 =>■ a\ßia2. K důkazu L {Q) C L(Q)\ stačí uvědomit si, že A —> a\Ba2 je jediné pravidlo, které je v Q a není v Q\. Tedy kdykoli je v nějaké derivaci věty v Q toto pravidlo použito, pak neterminál B musí být přepsán 3.1. BEZKONTEXTOVE GRAMATIKY 67 Algoritmus 3.6 Transformace do CNF Vstup: Vlastní CFG Q = (N, E, P, S) bez jednoduchých pravidel Výstup: CFG Q' = (N', E, P', S) v CNF: L (G) = L{Q') P'je tvořena takto: P' := 0; for all p e P do if pravidlo p je tvaru A —> a nebo A —> BC nebo S —> £ then přidej p do P'; (1) if p = A —> X\Xi, kde aspoň jedno z Xj (/ = 1, 2) je terminál then (2) Xj, je-liXi e N nový neterminál, je-li X i G E a do i5' přidej pravidlo A -> X\X'2 ; (4) \{p = A -+ Xi...Xk,k > 2 then (5) 1 - v-/ ^ poloz A ■ = (3) 1 - vf def poloz X ■ = nový neterminál, je-li X, G E a do i5'přidej pravidla A -+ X\(X2...Xk) (7) (X2 A - * X[(X2...Xk) k) - > X^(X3...XA) k) - > x;_2(xA_iXA) k) - * X/fc-lXÁ: kde každé (X, ... Xý] je nový neterminál end for for all neterminál tvaru a' nově zavedený v ř. (3) nebo (6) do do P' přidej pravidla a' —>- a (8) end for A^ := N U {všechny nově zavedené neterminály tvaru a' nebo tvaru {Xi ... Xý]} (9) v některém z pozdějších kroků derivace v Q\ pomocí nějakého 5-pravidla, tj. B —> ßj. Tyto dva kroky odvození v Q lze v gramatice Q\ nahradit jedním krokem A =$■ a,\ßiCt2. □ Věta 3.21. Nechť L je CEL. Pak L = L (£) pro nejakou CFG Q v CNF. Důkaz: Bez újmy na obecnosti předpokládejme, že L je generován nějakou CFG Q, která je vlastní a bez jednoduchých pravidel, a tedy splňuje požadavky kladené na vstupní gramatiku algoritmu 3.6. Inspekcí tohoto algoritmu snadno zjistíme, že výstupní gramatika Q' splňuje požadavky CNF. Zbývá tedy ukázat, že L {Q) = L {Q'). Opakovaně použijme lemma o substituci (viz 3.20) nejprve na každé pravidlo v Q' obsahující nově zavedený neterminál a' a následně též na každé pravidlo s neterminálem tvaru {Xj ... Xý). Takto obdržíme původní gramatiku Q. Vzhledem k tomu, že jsme opakovaně použili pouze lemma o substituci, které zachovává ekvivalenci gramatik, pak tedy i Q a Q' jsou ekvivaletní. D 68 KAPITOLA 3. BEZKONTEXTOVÉ JAZYKY A ZÁSOBNÍKOVÉ AUTOMATY Příklad 3.22. Mějme Q s pravidly S -> a AB \ BA A -> BBB \a B -> aS\AS\b Do množiny pravidel P' hledané gramatiky v CNF nejprve přidáme pravidla, která již požadavky CNF splňují, tj. S —> BA, A —> a, B —> AS \ b (vizřádek (1) v algoritmu 3.6) V dalším kroku (viz ř. (2)) procházíme pravidla s pravou stranou délky 2 obsahující alespoň jeden terminál: do P' tedy přidáme B —> a'S, kde a' je nový neterminál. Po tomto kroku máme zpracována všechna pravidla s délkou pravé strany nejvýše 2. Následující krok (viz řádky (5) - (7)) prochází pravidla s délkami pravých stran většími než 2 ado P' tedy díky pravidlu S —> a AB postupně přidáme S —> a' {AB), {AB) —> AB a díky pravidlu A -> BBB přidáme A -> B{BB), {BB) -> BB. Konečně v kroku (8) do P' přidáme pro všechny nově zavedené "čárkované" neter-minálypravidla, která je přepisují na původní terminály, tj. do P' přidáme a' —> a. Poznámka 3.23. (O derivačních stromech gramatik v CNF) Uvědomme si, že (i) z každého uzlu derivačního stromu gramatiky v CNF vychází nejvýše 2 hrany a (ii) z uzlu vychází jedna hrana právě když tato vchází do listu - pokud bychom z takového stromu odstranili listy (a hrany do nich vcházející), obdrželi bychom binární strom, v němž platí, že pokud každá cesta má délku (tj. počet hran na této cestě) rovnu j, pak strom má 2J' listů. Pro stromy odvození v CNF je však počet listů roven počtu jejich přímých předchůdců -viz (ii). Pokud tedy strom v CNF nemá žádnou cestu delší než j, pak má nejvýše 2J-1 listů. Věta 3.24. (Lemma o vkládání, pumping lemma pro CFL) Nechť L je CFL. Pak existují přirozená čísla p, q (závisející na L) taková, že každé slovo z e L, \z\ > p lze psát ve tvaru z = uvwxy, kde • alespoň jedno ze slov v, x je neprázdné (tj. vx ^ e), • \vwx\ < q a • u v' wx' y G L pro všechnai > 0. Idea důkazu: Mějme Q v CNF. Díky poznámce 3.23 víme, že pokud zvolíme slovo z "dostatečně dlouhé", pak v derivačním stromu musí být "dost dlouhá" cesta. Zvolme tedy z tak dlouhé, aby v jeho derivačním stromu byla tak dlouhá cesta, že se na ní některý (tj. alespoň jeden) neterminál, řekněme A, musí vyskytnout alespoň dvakrát (viz též obrázek 3.1). Tedy A se musí (díky výskytu, který je zmíněné cestě blíže k listu) přepsat na nějaký terminálni řetěz, řekněme w (tj. A =£-* w). Rovněž však se A musí (díky výskytu, který je téže cestě blíže ke kořenu) přepsat na řetěz opět obsahující sebe sama, řekněme vAx (tj. A =£-* vAx); toto přepisování můžeme libovolněkrát opakovat (též i 0-krát). Vždy obdržíme korektní odvození nějakého slova z L(Q). Neprázdnost alespoň jednoho z v či x je zajištěna tím, že CFG v CNF nemá ř-pravidla. Konečně si uvědomme, že na dosti dlouhé cestě se může vyskytnout celá řada několikrát se opakujících neterminálů. Můžeme však A zvolit tak, aby oba jeho výše zmíněné výskyty nebyly "příliš daleko" od listu, tj. tak, aby úsek vwx nebyl příliš dlouhý. Důkaz: Nechť L je generován nějakou CFG Q = (N, E, P, S), která je (bez újmy na obecnosti) v CNF. Označme k = card(N) a položme p = 2k~l, q = 2k. 3.1. BEZKONTEXTOVE GRAMATIKY 69 Je-li z e L,\z\ > p, pak v libovolném derivačním stromu slova z existuje cesta délky větší než k - viz poznámka 3.23 o derivační ch stromech gramatik v CNF. Zvolme pevně jeden takový derivační strom ľav něm (libovolnou) nejdelší cestu C, která má jistě délku větší než k. Na této cestě C lze zvolit tři uzly ui,U2,ut, s těmito vlastnostmi: 1. uzly ui,U2 jsou označeny týmž neterminálem, řekněme A, 2. ui leží blíže ke kořenu než 112, 3. ut, je list a 4. cesta z ui do ut, má délku nejvýše k + 1. Uzel ui určuje v T podstrom T\ s kořenem u\, tedy výsledek podstromu T\ je podslovem v z, které je výsledkem stromu T; tj. existuje derivace S =>* uAy pro nějaká u, y (1) a podobně 112 určuje v T podstrom Ti s kořenem 112, přičemž T2 je podstromem stromu Ti - viz obrázek 3.1. u v w x y Obrázek 3.1: Derivační strom s cestou C se dvěma výskyty neterminálu A Strom T\ odpovídá (levé) derivaci nějakého slova z\, přičemž z\ má délku nejvýše 2 (viz vlastnost 4 a pozn.3.23 - každá cesta v T\ má délku nejvýše k + 1: kdyby v Ti existovala od u\ k nějakému ua, cesta delší, pak by i v T byla cesta delší než je zvolená C, a to by byl spor s předpokladem o volbě C jako cesty s největší délkou). Jistě tedy platí kil <2k = q. Strom 72 též odpovídá derivaci nějakého slova, označme jej w. Jelikož T2 je podstromem ve stromu T\, musí být w podslovem slova z\, tj. existují řetězy v, x takové, že lze psát z\ = vwx, což spolu s již ukázaným \z\ \ < 2 = q dává žádané \vwx\ < q. Dále si uvědomme, že ui je vnitřním uzlem, a tedy mu odpovídá aplikace pravidla tvaru A —> BC, a tedy alespoň jedno ze slov v, x je neprázdné (CFG v CNF je bez ^-pravidel), tj. vx j^ £. Současně jsme též ukázali, že A =>* vAx a (2) A =>* w (3) Nyní použijme jedenkrát derivaci (1), pak z-krát (z > 0) derivaci (2) a nakonec derivaci (3), tj. S =^>* uAy =^* uv'Ax'y =^>* uv'wx'y tedyuv'wx'y e L (Q). 70 KAPITOLA 3. BEZKONTEXTOVÉ JAZYKY A ZÁSOBNÍKOVÉ AUTOMATY Všimněme si, že derivace ad (2) umožňuje náhradu, kdy v T místo podstromu T2 opakovaně (z-krát) vložíme podstrom T\ s kořenem označeným týmž A - takto získáme opět korektní derivační strom; derivace (3) umožňuje (mimo jiné) místo T\ použít přímo 72 - odpovídá situaci pro z = 0. D Explicitněji (z hlediska kvantifikace) lze tvrzení lemmatu 3.24 přepsat takto: (Nechť) L je CFL => 3p, q G N. Wz e L. \z\ > p. 3u, v, w,x,y. z = uvwxy A \vwx\ 0. uv'wx1 y G L Uvědomme si, že lemma o vkládání je (opět) pouze podmínkou nutnou k tomu, aby L byl CFL. Zopakujme, že i toto lemma je - stejně jako PL pro regulární jazyky - tvaru implikace P =>■ Q, kde P je nyní výrok, že L je CFL a Q jsou uvedené vlastnosti; této implikace (resp. v kontrapositivní formě ekvivaletní implikace —>Q =>■ —'P), lze použít k důkazu, že nějaký jazyk L není CFL, nikoli však obráceně, tj. k důkazu, že L je CFL. Čtenáři doporučejeme, aby ú—>Q explicitně vyjádřil. Poznámka 3.25. Všimněme si, že pokud ve výše uvedeném lemmatu 3.24 namísto konstant p, q budeme všude psát jen (jedinou) pumpovací konstantu n, tvrzení zůstane v platnosti: v důkazu stačí položit p = q = 2 , kde k = card(N). Příklad 3.26. Ukažme, že jazyk L = {a'b'c'\ / > 1} není CFL. Náš postup bude tento: předpokládejme opak, tj. P = L je CFL a dokazujme —>Q =>■ —'P. 1. Nechť n je libovolná konstanta z poznámky 3.25 (či první konstanta z lemmatu 3.24 a p = q = n). 2. Zvolme nyní slovo z (v závislosti nan - pro každé n musí existovat takové z) a 3. uvážíme všechny možnosti, jak jej zapsat jako z = uvwxy tak, aby splňovalo podmínky lemmatu (vx 7^ s, \vwx\ < n); 4. následně pak ukažme, že pro každé takové rozdělení z na u, v, w, x, y lze nalézt (existuje) takové i, že napumpováním získáme u v1 wx'y $ L. Dle 1 nechť n je libovolné; zvolme (viz 2) z = a"b"c" a dále postupujeme podle 3 a 4. Pokud by v obsahovalo kladný počet symbolů a a kladný počet symbolů b, pak napumpované uv2wx2y G" L, protože po nějakém výskytu b by následoval výskyt a, tj. uv2wx2y G" a*b*c*. Podobně postupujeme ve všech ostatních případech, kdy v nebo x obsahují nenulový počet výskytů (alespoň) 2 různých znaků. Uvažme proto zbývající možnosti, kdy v patří do a* nebo b* nebo c* a též x obsahuje jen samé stejné znaky, přičemž alespoň jedno ze slov v, x je neprázdné. Je-li v G a+ a x G b*,pak uv2wx2y obsahujevíce symbolůa než symbolů c,tj.uv2wx2 y G" L. Podobně dojdeme ke sporu při všech ostatních možných volbách: protože vx obsahuje aspoň jeden výskyt symbolu d s možností výskytu jiného symbolu e, nezbývá žádná možnost pro výskyt třetího symbolu f (pro d,e, f G {a, b, c} vzájemně různé ), a tedy uv2wx2y bude mít vždy více výskytů symbolu d než výskytů symbolu f. 3.1. BEZKONTEXTOVE GRAMATIKY 71 Jak již víme, pro porozumění formuli s větším počtem kvantifikátorů je vhodné na ni nahlížet jako na hru dvou hráčů (viz též pumping lemma pro regulární jazyky), kde kvantifikátoru V odpovídá hráč AI a 3 je reprezentován hráčem Ex. Nechť tedy L je jazyk, pak hra (ve variantě p = n = q) probíhá takto: • Ex zvolí přirozené číslo n • Al zvolí z e L takové, že \z\ > n • Ex zvolí u, v, w, x, y tak, aby platilo z = uvwxy, \vwx\ < n a vx ^ e • Al zvolí i Pokud AI zvolí i tak, že uv'wx'y $. L, pak vyhrává AI. Pokud AI může vždy vyhrát bez ohledu na to, jak hraje Ex (má vyhrávající strategii), pak L není CFL. Pokud však AI prohraje (ať už vždy či jen někdy), pak z pumping lemmatu nelze o L odvodit nic korektního. Příklad 3.27. Jiným příkladem jazyka, který není CFL, je L = {a'bJc'dJ\ i, j > 0}. Abychom to ukázali, předpokládejme, že L je CFL. Jelikož chceme dospět ke sporu, hrajeme roli hráče AI. • Hráč Ex zvolí libovolnou pumpovací konstantu n; • dále AI zvolí nějaké z = crbncndn. • Dle pumping lemmatu tedy mají existovat u,v,w,x,y tak, že z = u v wxy, | v wx | < nav nebo x je neprázdné (volí Ex). • Máplatituv1 wx'y e L pro všechna i > 0. Al tedy má ukázat, že pro každou Ex-ovu volbu vyvrátí predikátmi, uv'wx'y e L): Jelikož \vwx\ < n, vwx musí být tvaru a*b* nebo b*c* nebo c*d*. Pro jakoukoli z těchto voleb však "pumpování" musí vyústit v řetěz nepatřící do L (např. vwx e a* b* značí, že uwy má méně symbolů a ab,l než symbolů c a d). K důkazu, že například L = {a'bJ ck\ i ^jaj = k} nebo L = {a'bJ ck\ i ^ jaj j^ k} není CFL je nutno použít některou ze silnějších variant Pumping lemmatu pro CFL, například tzv. Ogdenovo lemma, resp. jeho důsledky. Dokonce existuje též nutná a postačující podmínka pro to, aby jazyk byl CFL. Čtenáře odkážme na seznam literatury uvedený v závěru. 3.1.4 Greibachové normální forma Naším cílem je nyní prezentovat další, tzv. Greibachové normální formu (GNF), v níž každá pravá strana každého pravidla v CFG začíná terminálním symbolem (za nímž případně následují neterminály). Abychom mohli dokázat tvrzení o existenci ekvivaletní gramatiky v GNF, potřebujeme ukázat několik lemmat o modifikacích pravidel v CFG. Definice 3.28. Neterminál A v CFG Q = (N, T,, P, S) se nazývá rekursivní jestliže existuje derivace A =^+ a Aß pro nějaká«, ß. Je-li a = £ (resp. ß = e), pak A se navývá levorekursivní (resp. pravorekursivní). CFG bez levorekursivních neterminálů se nazývá nelevorekursivní. Poznamenejme, že pojem rekursivity neterminálů je diametrálně odlišný od pojmu rekursivity gramatiky, tj. existence algoritmu pro rozhodování problému zda w G L {Q). 72 KAPITOLA 3. BEZKONTEXTOVÉ JAZYKY A ZÁSOBNÍKOVÉ AUTOMATY Pro transformaci CFG do GNF bude nutné z gramatiky odstranit levou rekursi: pokud v gramatice nebudou levorekursivní neterminály, budeme moci na nejlevější neterminály na pravých stranách pravidel aplikovat lemma o substituci. Schopnost eliminovat levou rekursi se ukáže jako velmi užitečná též v řadě prakticky orientovaných aplikací. Lemma 3.29. (O eliminaci bezprostřední levé rekurze). Nechť Q = (N, E, P, S) je CFG, v níž všechna A-pravidla j sou tvaru A -> Aa\ |... | Aam | ß\ |... | ßn, kde 1 : ß, ^ A pro všechna 1 < i < n. (*) Nechť G' = (N U {A'}, E, P', S), kde P' obdržíme z P tak, že všechna pravidla označená (*) nahradíme pravidly A^ ßx \...\ßn\ßxA'\...\ßnA', A'^cti \...\am \ dXA' \... \ dmA'. (**) PakL(G) = L(G'). Důkaz: Neformálně řečeno jsme levou rekursi v v4-pravidlech, která generují řetězce tvaru (ß\ + ... + ßn)(a\ + ... + dm)*, nahradili nově zavedeným pravorekursivním A', který (spolu s A) generuje tutéž množinu. Formální důkaz možno vést například takto: V libovolné nejlevější derivaci nějaké věty v Q musí posloupnost použití pravidel typu A —> Aglí být ukončena použitím nějakého pravidla A —> ßj. Tedy místo derivace A =>• Aail =>• Aai2ail =>...=>- Aaip ... dÍ2dil =>• ßjdip ... dÍ2dil v Q, lze v gramatice Q' použít derivaci A => ßjÄ => ßjCtipÄ =>...=> ßjdip ... dhÄ => ßjdip ... dhdh. Jelikož výše uvedená úvaha platí i v obráceném směru (pojistě posloupnosti použití pravidel tvaru A' —> cíjA' musí být použito A' —> a,), dostáváme žádané L{Q) = L(Q'). D Příklad 3.30. Mějme Go s pravidly: E -> E + T | T T ^ T *F\F F^(E)\ i Pak G q má pravidla: E -> T \TE' E' -> +T I + TE' T -> F \FT' T' -> *F | * FT' F^(E)\ i Poznámka 3.31. Jestliže G z lemmatu 3.29 je bez e-pravidel, pak i ekvivaletní G' má tuto vlastnost. Pravidla (*) lze též nahradit namísto pravidel (**) pravidly: A -> ßxÄ |... | ß„A', A'^diA' \...\dmA' \s. (***) Tato náhrada však zavádí £-pravidla: ke Go z příkladu 3.30 bychom obrželi Gq s pravidly: E -> T E' E' -> +TE' I s T -> FT' T' -> *FT' | s F^(E)\ i Lemma 3.29 nedává návod jak postupovat, když v G existuje levorekursivní smyčka A =^+ Ad délky větší než 1. Tento problém řeší algoritmus 3.7. 3.1. BEZKONTEXTOVE GRAMATIKY 73 Algoritmus 3.7 Eliminace levé rekurze Vstup: Vlastní CFG Q = (N, E, P, S) Výstup: CFG Q' = (7V\ E, P', S) : L (Q) = L (Q') a. Q' je nelevorekurzivní 1: Uspořádej libovolně N, N = {A\,... , A„} 2: for z := 1 to n do 3: for j := 1 toz — 1 do 4: for all pravidlo tvaru Aj —> Aj-a (*tj. zde platí j < i *) do 5: přidej Aj —> ß\a\... \ßk(x, kde Aj—>ß\\... \ßk jsou všechna Aj -pravidla; 6: vypusť pravidlo Aj —> Aj-a (* = aplikace lemmatu o substituci *) 7: end for 8: end for 9: (* dále následuje použití eliminace bezprostřední levé rekurze pro At-pravidla: *) 10: for all pravidlo tvaru Aj —> AjCí do 11: přidej A't —>- aA't \ e; (* tj. použití pravidel (***); variantu (**) lze též použít *) 12: vypusť pravidlo Aj —> AjCt 13: end for 14: pndeiAi^ßlA,i\...\ßiA,i, kde Aj —> ß\ |... \ßi jsou vš. ^/-pravidlapro něž platí, že l : ßk ^ Aj; 15: end for Věta 3.32. Každý CFLje generovatelný nelevorekursivní CFG. Důkaz: Nechť Q je vlastní CFG generující L. Jelikož algoritmus 3.7 používá jen transformace uvedené v lemmatu o substituci (3.20) a lemmatu o eliminaci bezprostřední levé rekurze (3.29), které zachovávají ekvivalenci gramatik, pak použití tohoto algoritmu na Q dává ekvivaletní CFG Q'. Zbývá tedy ukázat, že výsledná Q' je bez levé rekurze. Indukcí ukažme platnost následujících dvou tvrzení: 1. po skončení i-té iterace vnějšího cyklu (začínajícího na řádku 2) platí, že všechna Ai^-pravidla začínají buď terminálem nebo neterminálem Ak, k > i 2. po skončení j-té iterace vnitřního cyklu (začínajícího na řádku 3) a dané i platí, že Ai^-pravidla začínají buď terminálem nebo neterminálem Ak, k > j. Tuto indukci povedeme vzhledem k hodnotě s = n • i + j, kde i e (0, n), j e (0, z — 1). Báze indukce je pro s = n, tj. z = 1, j = 0 a odpovídá provedení eliminace levé rekurze pro A \ (cyklus pro j se vůbec neprovedl); žádné ß\,... , ßi nezačíná A \. Tedy pro ;' = 1 tvrzení 1 platí; tvrzení 2 platí triviálně. Indukční krok: předpokládejme, že tvrzení 1 a 2 platí pro všechny hodnoty menší než s a nechť nyní jsou z, j taková, že 0 < j < i < n a n • i' + j = s. Dokažme nejprve 2. Na základě indukčního předpokladu o tvrzení 1 máme, že všechna Aj-pravidla začínají buď terminálem nebo neterminálem Ak,k > j (je-li totiž j > 1, pak instance 2 pro i a j — l má hodnotu menší než s; případ 7 = 1 plyne z 1). Tvrzení 2 pro 74 KAPITOLA 3. BEZKONTEXTOVE JAZYKY A ZÁSOBNÍKOVÉ AUTOMATY parametry i aj tak okamžitě plyne z tvaru nově přidaných pravidel. Induktivní krok pro tvrzení 1 a hodnotu s (tj. n • i = s, j = 0) je ponechán čtenáři. Z právě dokázaného tvrzení 1 plyne, že žádné z A\,... An nemůže být levorekur-sivní: kdyby totiž bylo A; =^+ A;a pro nějaké a, pak by musely existovat neterminály A j a Ak, k < j takové, že Aj =>* Ajß => A^y =>* A;a. Zbývá ukázat, že žádný z Äi není levorekursivní, což však plyne z předpokladu, že Q je vlastní CFG - tj. žádné a z řádku 10 není e, a tedy A^ nemůže nikdy být nejlevějším symbolem na pravé straně přidávaného pravidla A\ —> aA^ (viz řádek 14). D Definice 3.33. Nechť Q = (N, E, P, S) je CFG. Řekneme, že Q je v Greibachové normální formě (GNF) právě když Q je bez ^-pravidel (viz def. 3.13) a každé pravidlo z i5 je tvaru A -> aa (a e E, a e N*). Algoritmus 3.8 Transformace do GNF Vstup: Nelevorekursivní, vlastní CFG Q = (N, T,, P, S) Výstup: CFG Q' v GNF: L{Q) = L {Q') 1: Zkonstruuj na N lineární uspořádání -< takové, že je-li A —> Ba G P, pak A < B. Označme N = {A\,... , A„\ Aj-\ < Aj,0 < i < n} 2: for i := n — 1 downto 1 do 3: for all pravidlo tvaru Aj —> A ja, j > i do 4: přidej Aj —> ß\a\... \ßk(x, kde Aj—>ß\\... \ßk jsou vš. Aj -pravidla; 5: vypusť pravidlo Aj —> A ja (* = aplikace lemmatu o substituci *) 6: end for 7: end for 8: for all pravidlo tvaru A, -* aX\ ...Xk, BXjA < j < k : X j e E do 9: v pravidle Aj —> aX\ ... Xk nahraď všechny ty X j, které jsou terminály, novými neterminály X'- (přidej je do množiny neterminálů) a přidej pravidla X'- —> X,-. j J •* 10: end for Věta 3.34. Nechť L je CFL. Pak L = L {Q) pro nějakou CFG Q v GNF. Důkaz: Bez újmy na obecnosti lze předpokládat, že Z je generován CFG Q\ splňující vstupní předpoklady algoritmu 3.8 (aby Q\ byla vlatní, tj. specielně bez ^-pravidel, stačí v algoritmu 3.7 uvažovat na řádku 11 variantu (**) - viz též poznámka 3.31). Lineární uspořádání -< požadované v řádku 1 algoritmu 3.8 lze zkonstruovat například takto: na množině neterminálů definujme relaci R : {A, B) e R <<==> A =^+ Ba pro nějaké a. Pak díky tomu, že Q\ není levorekursivní, je R částečným uspořádáním na množině neterminálů N, a tedy N lze lineárně douspořádat tak, aby platilo R Q<. Nyní ukažme, že po skončení cyklu, který začíná na řádku 2, pro hodnotu i musí platit, že všechna At^-pravidla začínají terminálem. Toto se snadno ukáže indukcí pro hodnotu k = n—i, i=0,...,n — \ (stručně zvanou zpětná indukce pro i od n po 1). 3.1. BEZKONTEXTOVE GRAMATIKY 75 Báze indukce je pro k = n, tj.z = 0. Pravé strany An-pravidel jistě začínají terminálem (viz definice -<), což je též důvodem, proč se cyklus 2: pro i = n vůbec neprovádí. Indukční krok: jestliže dokazovanou vlastnost mají všechna A}-pravidla pro i < j < n, pak evidentně pro provedení řádků 4 a 5 mají tuto vlastnost i všechna v4,-pravidla. Tedy po úplném skončení cyklu na řádcích 2-7 začínají všechna pravidla terminálem. Konečně uvažme, že algoritmus používá jen transformace zachovávající ekvivalenci gramatik, a tedy dostáváme žádané. D Příklad 3.35. Mějme Q'Q z příkladu 3.30 s pravidly: E -> T \TE' E' -> +T I + TE' T -> F \FT' T' -> *F | * FT' F^(E)\ i Požadované lineární uspořádání (jedno z možných) je například: E' F \ FT' nahradíme pravidly T -> (E) I i I (E)T' I iT'. • V dalším průchodu (pro T') neprovádíme žádné změny. • Při zpracování E nahradíme existující E-pravidla novými pravidly E -+ (E) I i I (E)T' I i T' I (E)E' | iE' | (E)T'E' | iT'E'; • pro E' opět žádné náhrady neprovádíme. Konečně (viz řádky 8 - 10) ve všech takto získaných pravidlech nahradíme na jejich pravých stranách všechny výskyty terminálu ")" novým neterminálem ")'" a přidáme pravidlo)' —>). Poznamenejme, že výše uvedená metoda převodu libovolné CFG do GNF není jediná možná - další metody lze nalézt v publikacích uvedených v seznamu literatury. Námi uvedená metoda byla zvolena zejména z toho důvodu, že explicitně obsahuje algoritmus na odstranění levé rekurze, jejíž přítomnost může činit jisté problémy v některých praktických aplikacích. Mimo uvedenou GNF (viz definice 3.33) existují i její další varianty. Řekneme, že Q je v k-GNF právě když je v GNF a žádná pravá strana v pravidlech gramatiky Q nemá délku větší než k, k > 3, tj. neobsahuje více než k — 1 výskytů neterminálů (na intuitivní úrovni se jedná o GNF beroucí v potaz fakt, že díky CNF vystačíme v CFG na pravých stranách s (nejvýše) dvěma neterminály). Další variantou je tzv zdvojená GNF, kdy všechny pravé strany pravidel j sou ze E N* E U E, tj. začínaj í i končí terminálem. Konečně Q j e ve zdvojené k-GNF jestliže je ve zdvojené GNF a každé pravidlo má délku nejvýše k, k > 4. Například tedy 3-GNF či zdvojená 4-GNF neobsahují na pravých stranách pravidel více než 2 výskyty neterminálů. Algoritmy převodu libovolné CFG do každé z výše uvedených normálních forem lze nalézt v obsažnějších monografiích o bezkontextových jazycích. 76 KAPITOLA 3. BEZKONTEXTOVE JAZYKY A ZÁSOBNÍKOVÉ AUTOMATY Na závěr zmiňme ještě tzv. operátorovou normální formu, kdy na pravých stranách pravidel spolu nesmí sousedit žádné dva neterminály, tj. všechny pravé strany jsou ze £*7VI]+ ... E+TVE*. Algoritmus převodu libovolné CFG (či bez újmy na obecnosti CFG v CNF) spočívá v zavedení nových neterminálů (X, a) pro každou dvojici X e N, a e E s tím, že (X, a) má generovat množinu slov u takových, že X generuje slova ua. Tedy každý jazyk L (X) je přesně sjednocením (přes a e E) všech jazyku L ((X, a)).a, případně doplněném o {e}, pokud L (X) obsahuje prázdné slovo. Tedy na pravých stranách pravidel lze každý neterminál X nahradit zřetězením {X, a).a; přidáním pravidel tvaru {X, a) —»• a pro každé X —> aa, získáme ekvivaletní gramatiku v požadovaném tvaru. Detaily algoritmu i důkazu jeho korektnosti ponecháváme čtenáři jako cvičení. Použití normálních forem pro další zkoumání vlastností CFL bylo již částečně ilustrováno v této části (viz CNF a její využití v důkazu pumping lemmatu pro CFL); s dalšími aplikacemi se setkáme v části 3.3. 3.2 Zásobníkové automaty Tak jako k regulárním gramatikám existují konečné automaty, které rozpoznávají právě jazyky generované těmito gramatikami, tak i ke gramatikám bezkontextovým existují ve výše uvedeném smyslu ekvivaletní automaty - tzv. zásobníkové automaty (push-down automata - PDA). PDA si lze představit jako (nedeterministický) konečný automat s tím, že navíc obsahuje (pomocnou) paměť (a díky ní i další zdroj nedeterminismu), která pracuje jako zásobník (push-down store) a jejíž velikost není shora omezena -je tzv. potenciálně nekonečná v následujícím smyslu: v každém okamžiku (konečného) výpočtu je sice konečná (tj. v zásobníku je uloženo jen konečně mnoho symbolů), ale kdykoli ji můžeme rozšířit o další konečný počet paměťových míst (přidat další symboly na zásobník). a a b a b b b a i K \ čtecí hlava konečně stavová řídící jednotka vstupní páska A a Z zásobník Obrázek 3.2: Zásobníkový automat 3.2. ZÁSOBNÍKOVÉ AUTOMATY 11 Ze vstupní pásky, na níž je zapsáno slovo nad jistou vstupní abecedou, lze pouze číst a čtecí hlava se pohybuje jen vpravo. Automat může na vrchol zásobníku ukládat symboly (opět z jisté abecedy) a takto uložené symboly může následně číst s tím, že smí číst pouze z vrcholu zásobníku: přečtený symbol je z vrcholu odstraněn (tj. systém LIFO - Last In First Out). Jinými slovy, nelze číst do hloubi zásobníku, aniž by přečtené symboly nebyly odstraněny - zásobník, u něhož naopak toto "nedestruktivní" čtení lze realizovat se v angličtině nazývá stack, na rozdíl od našeho push-down store s desktruktivním čtením. Takto intuitivně popsané zařízení nyní formalizujme. 3.2.1 Definice PDA Definice 3.36. Nedeterministický zásobníkový automat (PDA) je sedmice M = (Q, T, T, S, qo, Zo, F), kde • Q je konečná množina, jejíž prvky nazýváme stavy, • E je konečná množina, tzv vstupní abeceda, • T je konečná množina, tzv. zásobníková abeceda, • 8 : Q x (T, U {s}) xľ)^ VFin(Q x r*), tzv. (parciální) přechodová funkce1, • qo G Q je počáteční stav, • Zo G T je počáteční symbol v zásobníku, • F C Q je množina koncových stavu. Je-li 8(p, a, Z) definováno, pak zápis 8(p, a, Z) = {( L = L (M) pro nějaký PDA M. Idea důkazu: 1. -^=: k danému A/ zkonstruujeme A4 simulující jeho činnost. Kdykoli M vejde do koncového stavu, bude A4 mít možnost volby, zda pokračovat v simulaci automatu M nebo přejít do svého, nově přidaného stavu qe, v němž vyprázdní svůj zásobník. 3.2. ZÁSOBNÍKOVÉ AUTOMATY 79 Musíme však uvážit možnou komplikaci: M může projít takovou posloupností kroků, kdy jeho vstup způsobí vymazání zásobníku a M není v koncovém stavu, tedy zamítá vstup. Musíme zabránit tomu, aby M. v tomto bodě vstup (prázdným zásobníkem) akceptoval. Řešení spočívá v tom, že ještě před zahájením simulace bude u M. na dně zásobníku nový symbol, který nedovolíme odstranit jinde, než v koncovém stavu q e F nebo ve stavu qe. 2. =>■: M simuluje činnost M. a má opět nově přidaný symbol jako své dno zásobníku. Jakmile je M schopen číst tento symbol (tj. zásobník automatu M. je prázdný), pak M přejde do nově přidaného stavu q/, který je koncovým stavem. Důkaz: 1. <^: Nechť Aí = (g, E, I\ 8, q0, Z0, F) je PDA takový, že L = L(N). Sestrojme A4 takový, že L = Le{M). Položme A4 = (ßU{^,ge},E,ru{Z/},5/,^,Z/,0), kde Z' i T aq0,qe^Q a kde 8' je definována takto: 1. 8'(q'0,e,Z') = {(qo,Z0Z')}, 2. jestliže 8(q, a, Z) obsahuje (r, y), pak 8'(q, a, Z) obsahuje (r, y) pro všechna qeQ,ae'ĽU{s}aZer, 3. Wq G F.VZ G T U {Z'} : 8'(q, e, Z) obsahuje (qe,e) , 4. VZ G T U {Z'} : 8'{qs, s, Z) = {(qe, s)} . Pak zřejmě (qL w, Z') M n M M r-\ (qo,w, Zo Z') -diel (q,e,Yi...Yr) -dle 2 (qs,s,Y2...Yr) -dle 3 (qE,£,£) -dle 4 (kde7r = Z') 1 M právě když (qo, w, Zo) \—rr- {q, £,Y\ ... Yr-\), pro nějaké q e F. 2. =>: Nechť M = (Q, E, T, 8, q0, Z0, 0) je PDA takový, že L = Le(M). Sestroj me M takový, že L = L {M). Položme M = (QU{q0, q/}, E, T\J{Z'}, 8', q0, Z', {q/}) kde S' je definována takto: 1. 8'(q'0,e,Z') = {(qo,Z0Z')} 2. jestliže 8(q, a, Z) obsahuje (r, y), pak S'(q, a, Z) obsahuje (r, y) pro všechna qeQ,ae'ĽU{s}aZer 3. VgGß: 8'{q,s,Z') = {{qf,s)} Požadovaný důkaz, že Le{M) = L {M) je obdobný jako v části 1 a je ponechán čtenáři. D Poznámka 3.40. Ve výše uvedeném důkazu je prezentována technika zavedení nového symbolu Z' označující dno zásobníku simulujícího automatu, která umožňuje de facto testovat prázdnost zásobníku simulovaného automatu. Jestliže též požadujeme (srv odstranění Z' pouze v qe), aby každá vnitřní konfigurace (s eventuelní výjimkou finální při akceptování prázdným zásobníkem) byla tvaru p, y Z', budeme říkat, že takový PDA umožňuje test dna zásobníku. Pokud tedy PDA čte dno Z', musí jej též znovu na dno zapsat, tj. pokud 8 obsahuje jako argument Z', pak je tvaru 8(p, a, Z') = {(q\, y\Z'),... , (q„, y„Z')}. Je zřejmé, že ke každému PDA A lze setrojit PDA A' s testem dna zásobníku akceptující tentýž jazyk. 80 KAPITOLA 3. BEZKONTEXTOVÉ JAZYKY A ZÁSOBNÍKOVÉ AUTOMATY Poznamejme, že obdobně lze ukázat i ekvivalenci (ve smyslu výše uvedené věty 3.39) mezi akceptováním koncovým stavem a akceptováním koncovým stavem a (současně) prázdným zásobníkem či akceptováním vrcholovými symboly v zásobníku. Příklad 3.41. Mějme PDA V = ({/?, q, r], {0, 1}, {Z, 0}, 5, p, Z, {/?}), kde 8 je definována takto: 8(p,0,Z) = {(q,0Z)} 5(0,0,0) = {(g, 00)} 5(r, 1,0) = {(r,e)} 5(g,l,0) = {(r,e)} 8(r,s,Z) = {(p,s)} Automat V pracuje tak, že nejprve ze vstupu načte do zásobníku všechny symboly '0' a následně s každým čteným (vstupním) symbolem '1' odstraní jeden symbol '0' z vrcholu zásobníku. Navíc se kontroluje, zda žádná '1' není před '0' (tím, že pro tyto situace je 8 nedefinována, a tedy není definován krok výpočtu pro žádnou takovou situaci). Možná posloupnost (v obecném, nikoli však v tomto případě, pouze jedna z možných posloupností) konfigurací automatu V pro vstupní slovo například 0011 může být 0,0011, Z) |— (0,O11,OZ) |— (q, ll.OOZ) |— (r,l,0Z) \— (r, e, Z) I— (P, e, e) Lze ukázat, že V akcetuje koncovým stavem jazyk L = {0"lw| n > 0}. Snadno se nahlédne, že L Q L (V): pro n > 1 lze po jediném přechodu z p do q (přečtení '0' a jeho uložení do zásobníku - viz 1. přechod výše) provést n \ přechodů z q do q (opět čtení '0 'a uložení do zásobníku - viz 2. přechod). Následně lze při čtení prvního symbolu '1 'provést jediný přechod z q do r následovaný n\ přechody z r dor po nichž zůstane v zásobníku pouze Z; následuje přechod do koncového stavu p. Případ n = Oje triviální. Ukázat obrácenou inklusi (tj., že V neakcetuje jiná slova než CPI") je obecně těžší úkol. Abychom to ukázali, uvědomme si, že při libovolném výpočtu nad neprázdným slovem musí automat procházet (s případnými cykly) postupně stavy p, q, r a skončí v p. Je-li (p, w, Z) \-^— {q, e, a), i > 1, pak w = 0l a a = 0l Z. Podobně, je-li (r, w, a) \-^— (r, e, ß), i > 1, pak w = V aa = 01 ß. Dále přechod (q, w, a) \— (r, s, ß) nastane jedině tehdy, pokud w = 1 aa = 0ß; podobně (r, w, Z) |— (p, e, e), pokud w = e. Tedy celkem, je-li {p, w, Z) \-^—{p,e,a),i > 0, pak buď w = s ai =0 nebo w = 0lV, i =2n + 1 aa = s. Tedy L D L (P). Zdůrazněme, že tak, jak byl PDA definován, může dělat (e) kroky i po přečtení celého vstupu; PDA nemůže udělat žádný krok, pokud je zásobník prázdný. Poznámka 3.42. O přechodových grafech ('stavových' diagramech) PDA. Na sřavové diagramy konečných automatů lze nahlížet tak, že j sme grafově znázornili vzájemné závislosti (dané přechodovou funkcí) mezi vnitřními konfiguracemi (tj. stavy) automatu. Podobně 3.2. ZÁSOBNÍKOVÉ AUTOMATY 81 můžeme postupovat í v případě PDA V = (N, E, T, 8, qo, Z, F). Uzly přechodového grafu (stavového diagramu) budou označeny vnitřními konfiguracemi uvažovaného PDA (pro jednoduchost pišme vnitřní konfiguraci (p, a) G Q x F* ve tvaru pa G QT*). Analogicky jako u definice kroku výpočtu veďme z uzlu pZa hranu s návěštím a (a G E U {e}) do uzlu qya právě když 8 (p, a, Z) obsahuje (q, y), což zapisujme jako p Za —> qya . Poznamenejme, že stavový diagram PDA má obecně nekonečně mnoho uzlů (proto je PDA prvním příkladem "nekonečného" automatu). Část stavového diagramu pro V z příkladu 3.41 má tento tvar pZ —2-> qOZ —2-> qOOZ —?—> qOOOZ —?—> ••• —^ qOi Z—^—► ••• pe^-—rZi——~rOZ<——-rOOZ^^- ■■■ <—!—grO^Z <—!— ••■ kde koncovými totálními stavy jsou pZ ap, v diagramu pro názornost zapsaný jako pe. Povšimněme si, že ve výše uvedeném stavovém diagramu automatu V jsou uvedeny pouze tzv dosažitelné totální stavy, tj. ty ke kterým existuje cesta z počátečního uzlu (zde p Z) končící v uzlu daném; ostatní nazveme nedosažitelné a obvykle je ve stavovém diagramu neuvádíme (ve výše uvedeném diagramu to jsou např. qZZ, qZOZ a další). V souladu s právě zavedenou notací můžeme též při specifikaci funkce 8 místo 8(p,a,Z) = {(q\,y\),... , (qn,yn)} psát pZ -> q\y\ \ ... \ q„y„. Relaci —> můžeme zřejmým způsobem rozšířit ze symbolů ze E na řetězy nad touto abecedou ( —> = —> o —>); značení —>, w G E* lze chápat jako zobecněnou přechodovou funkci pro PDA). V dalším textu budeme rovněž používat následující značení. Je-li pa nějaká vnitřní konfigurace PDA V = (Q, E, T, 8, qo, Zq, F), pak definujme L(V)(pa) = {weY*\pa^qß,q G F} a Le(V)(pa) = {w G E*| pa 4> qe, q G Q}. Zřejmě tedy L (V) = L(P)(qoZo) a Le{V) = Le(P)(qoZo). Bude-li V zřejmý z kontextu, budeme stručněji psát pouze L(pa) resp. Le(pa). Příklad 3.43. Nechť L = {wwR\ w G {0, 1}*}. Pak PDA rozpoznávající L prázdným zásobníkem je například M. = ({p, q}, {0, 1}, {R, G, B}, 8, p, R, 0) (tj. množina koncových stavů nehraje žádnou roli), kde 8 je definována (ve výše zavedené notaci) takto: (1) pR X pBR (4) pG X pBG (7) qB X qe (2) pR -X pGR (5) pB -X pGB (8) qG -i qe (3) pB X pBB | qe (6) pG -> pGG \ qe (9) pR X qe (10) qR X qe Pravidla (1) až (6) ukládají vstup na zásobník s tím, že pravidlech (3) a (6) je možnost alternativní volby: jestliže A4 uhodne, že bylo dosaženo středu vstupního slova, volí druhou alternativu; v ní pak přejde do stavu q, v němž postupně porovnává zbytek vstupního slova s obsahem zásobníku. Pokud M. hádal správně a slovo bylo tvaru wwR, pak dojde k přečtení celého slova a vyprázdnění zásobníku - vstupní slovo bylo akceptováno. Pokud by M. hádal chybně a slovo bylo tvaru wwR, pak by akceptující konfigurace nedosáhl, což ovšem neznamená zamítnutí vstupního slova - viz téžpozn. 3.38. 82 KAPITOLA 3. BEZKONTEXTOVÉ JAZYKY A ZÁSOBNÍKOVÉ AUTOMATY Uvedený příklad ilustruje nedeterminismus PDA, avšak u PDA z př. 3.41 se možnosti volby způsobující nedeterminismus nevyskytly - v každé (vnitřní) konfiguraci je další krok určen j ednoznačně. Definice 3.44. Rozšířeným PDA nazveme TZ = (Q, E, T, 8, qo, Zq, F), kde všechny symboly mají tentýž význam jako v definici PDA s výjimkou 8, která je zobrazením z konečné podmnožiny množiny Q x (E U {e}) x T* do konečných podmnožin množiny Q x F*. Pojmy konfigurace, kroku výpočtu, výpočtu a akceptovaného jazyka (koncovým stavem, prázdným zásobníkem) zůstávají rovněž beze změny. Povšimněme si, že rozšířený PDA činí rozhodnutí o dalším kroku nikoli na základě jen jednoho (vrcholového) symbolu na zásobníku, ale na základě řetězu (konečné délky!), který je tvořen nejhornějšími symboly na zásobníku. Zápis pa —> qß (resp. 8{p, a, a) obsahuje (q, ß)) interpretujeme tak, že pokud má automat ve stavu p na vrcholu zásobníku a, pak po přečtení symbolu a ze vstupní pásky (analogicky pro £-krok) vymaže ze zásobníku řetěz symbolů a, zapíše na něj řetěz symbolů ß a změní svůj stav na q. Specielně může rozšířený PDA učinit krok bez ohledu na zásobník (uvažuje řetěz e), a tedy obecně je schopen dělat kroky i v situaci, kdy zásobník je prázdný. Lemma 3.45. Nechť TZ je rozšířený PDA. Pak existuje PDA V takový, že L(V) = L (TI). Idea důkazu: Pro daný TZ = (Q, E, F, 8, qo, Zq, F) označme m maximální délku řetězu symbolů na vrcholu zásobníku, který TZ používá k rozhodnutí o dalším kroku výpočtu (tj. m = max{|a|; 8{q,a,a) ^ 0, pro nějaká q e Q, a e E U {s}}). Budeme simulovat TZ tak, že k rozhodování o dalším kroku potřebných m symbolů, které má TZ k dispozici na zásobníku, si bude simulující PDA V uchovávat (a aktualizovat) ve "vyrovnávací paměti" (konečné) délky m (tu bude mít ve své konečně stavové řídící jednotce - stavy automatu V budou tedy dvojice ). Tedy V bude vědět před provedením každého kroku, kterých m symbolů má TZ na vrcholu zásobníku. Zmíněná aktualizace probíhá takto: je-li v TZ nahrazeno k vrcholových symbolů, řekněme a, l symboly, řekněme ß, pak v paměti PDA V nahradíme též těchto k symbolů týmiž / symboly; Je-li l < k, pak V udělá navíc k — l aktualizačních kroků, při nichž postupně přenáší symboly z vrcholu zásobníku do paměti. Je-li / > £, je zapotřebí (ještě před náhradou a za ß) "nadbytečných" l — k symbolů z konečné vyrovnávací paměti postupně přesunout na zásobník. V obou případech tak bude vyrovnávací paměť automatu V opět obsahovat přesně m symbolů, které má TZ momentálně na vrcholu na zásobníku. Důkaz: Nechť TZ = (Q, E, F, 8, qo, Zq, F) je rozšířený PDA a označme m = max{|a|; 8{q, a, a) ^ 0, pro nějaká q e Q, a e E U {s}}). Nyní definujme PDA P = (ßi,E,ri,5i,gi,Zi,F0,kde 1. Qi={[q,a]\q e Q,a eF\,0 <\a\ k, pak pro všechna Z e F\ aa e F* taková, že \a\ = m — k, klademe 8\([q, X\ .. .Xia\,a, Z) obsahuje ([r, ß],yZ), 3.2. ZÁSOBNÍKOVÉ AUTOMATY 83 kdeßy = Fi ... Yia a \ß\ =m; ii. je-li l < k, pak pro všechna Z G T\ a a G T* taková, že |a| = m — k, klademe 8\([q, X\ .. .Xk ([q,a],aw,ß) \^-([r,a'],w, ß'), kde 1. aß = Xi...X„Z»', 2. a'ß' = Yi...YiXk+x...XnZ™, 3. \ v Q lze derivovat a =£-* w V Q je v jednom kroku odvození nahrazen (nejlevější) neterminál A (naráz, celou) pravou stranou X\ ... X„, kdežto v M. bude této situaci odpovídat (1): náhrada neterminálu A na vrcholu zásobníku toutéž pravou stranou následovaná (2): postupným (symbol po symbolu) zpracováním této, na vrchol zásobníku přidané, pravé strany: nechť se má zpracovat (tj. je na vrcholu zásobníku) X,. Je-li X, neterminál, postup ad (1) opakujeme, je-li (2) X, terminál, pak zkontrolujeme (tj. ověřuje se korektnost nedeterministické volby v kroku typu (1)) zda Xj je stejný jako první, dosud nečtený terminálem na vstupu; pokud ano, pak terminál z vrcholu zásobníku odstraníme (a čtecí hlava se posune ojeden symbol vpravo). 84 KAPITOLA 3. BEZKONTEXTOVE JAZYKY A ZÁSOBNÍKOVÉ AUTOMATY Korektnost uvedeného postupu spočívá v důkazu, že v jeho průběhu platí tvrzení (*). Odstartujeme-li A4 v situaci, kdy v zásobníku je pouze kořen (a na vstupu slovo z L (G)), pak (*) platí. Dále se (indukcí) ověří, že operace (1) a (2) zachovávají platnost (*). Pro pochopení činnosti A4 je vhodné si uvědomit, že (*) implikuje tuto (opět v celém procesu invariantní) vlastnost: dosud přečtená část vstupu zřetězena s obsahem zásobníku v A4 je odpovídající levou větnou formou v Q (a obráceně) (tedy vstupní slovo je z L{Q), právě když celý proces skončí v akceptující konfiguraci s celým přečteným vstupem a prázdným zásobníkem). r**\ Důkaz: Nechť Q = (N, E, P, S). Definujme A4 akceptující prázdným zásobníkem jako A4 = ({q}, E.ÄUI], S, q, S, 0), kde 8 je definována takto: (1) q A -> qa G S, je-li A -> a G P (tj. 8(q,e, A) obs. (q, a) a (2) qa -> qe G 8, pro všechna a G E (tj. 8(q, a, a) = {(q, s)}) Abychom ukázali L {Q) = Ze(A4), ukažme, že pro nějaká m, n > 1 platí: A =3-m w <í=> (q,w,A)\——(q,£,s) (tj. q A -> qe y n krocích) (*1) w 1. =>: Mějme A =^m w a ukažme, že (q, w, A) \-—{q,e,e) (tj. qA -> q e): (a) je-li m = 1 a w = a\ ... ak, (k > 0), pak zřejmě A —> w e P,a tedy {q,a\ ...ak, A) |—(q,a\ ...ak,a\ ...ak) |—{q, e, e) (b) Přepokládejme, že (*1) platí pro všechna m' < m a nechť A =^m w pro m > 1. Pak 1. krok derivace je tvaru A => X\X2... Xk, kde Xj =^m' Xj,0 < m, < m, což dle definice 8, bodu (1) dává (q, w, A) \—(q,w,XiX2...Xk). (1.1) Je-li Xj G N, pak dle indukčního předpokladu máme (q, Xj, Xi) |— (q, e, e). (1.2) Je-li Xj G E (tj. Xj =Xj), pak dle definice 8, bodu (2) máme (q, Xj, Xj) |— (q, e, s). (1.3) Kompozicí přechodů (1.1) - (1.3) tedy dostáváme (q, w, A) |-----(q, e, e). 2. -^=: Předpokládejme, že (q, w, A) \^— (q, e, e) a ukažme, že A =^+ w: (a) n = 1 implikuje q A -> qe G 8, a tedy w = s a A -> s e P. (b) Předpokládejme, že dokazované tvrzení platí pro všechna n' < n. Pak 1. krok j e tvaru (q, w, A) \—(q, w, XXX2 . ..Xk), tj. A -> XXX2 ...XkeP (2.1) Dále (q, x j, Xj) \-^— {q, e, e), kde n i < n, 1 < i < k a kde w = x\x2 ... Xk je takové, že je-li Xj G N, pak dle indukčního předpokladu máme Xj =^+ Xj, (2.2) je-li Xj G E, pak Xj =>° xt . (2.3) Vhodnou kompozicí (2.1) - (2.3) tedy obdržíme A=> XlX2...Xk ^*xxX2...Xk =r*x\ ... Xk = w , což je (korektní) levá derivace slova w v gramatice Q. Položíme-li A = S v právě dokázaném tvrzení (*1), okamžitě dostáváme žádané S =>+ w <í=> (q,w,S)\-----(q, e, s), tj. qS -> qe . D 3.2. ZÁSOBNÍKOVÉ AUTOMATY 85 Poznámka 3.48. Poznamenejme, že uvedený důkaz lze modifikovat tak, že (bez újmy na obecnosti) předpokládáme, že daná CFG je v GNF. Pak body (1) a (2) v definici přechodové funkce 8 lze nahradit jediným, a to q A —> qa e 8,je-li A —> aa. Princip důkazu ovšem zůstává beze změny. (Přechodový graf takto vzniklého PDA k dané CFG Q, resp. k ekvivalentní CFG v GNF, nazveme rovněž přechodovým grafem CFG Q.) Prezentovaná varianta byla zvolena proto, že (dle našeho názoru) zřetelněji artikuluje nedetermininismus vznikající právě v bodu (1) definice 8 (viz též poznámka 3.50) a nevyžaduje převod do GNF. Příklad 3.49. Mějme gramatiku Qo = ({E, T, F], {+, *, (,), /}, P, E) s pravidly P danými takto: E -> E + T | T T -> T*F | F F -> (E)\ i Pak PDA sestrojený dle konstrukce z důkazu věty 3.47 je V = ({q}, {+, *, (,), /}, {E, T, F, +, *, (,), /}, 8, q, E, 0), kde 8 je definována takto: £ qE -> qE + T \ qT dle bodu (1) £ qT -> qT*F\qF dle bodu (1) £ qF -> q(E) \ qi dle bodu (1) qa -> qe pro všechna a e {+, *, (,), z'} dle bodu (2) Akceptující výpočet automatu V pro vstupní slovo i +i *z je uveden na obrázku 3.3. Jelikož V je jednostavový, nebudeme stav v konfiguracích uvádět; tyto jsou tedy dvojicemi tvaru (vstup, obsah zásobníku). Doporučujeme ověřit si platnost vlastnosti (*) a (**) spefikované v idei důkazu věty 3.47. krok odpovídající pravidlo z Qq (z +i *z, E) ^(z + z *z E + T) E - * E + T h^-Ci + z *z T + T] E - > T h^-Ci + z *z F + T] T - > F h^-Ci + z *z i + T] F - » z ^( +z *z +T] h^( i *z T) hM i *z T*F] T - > T*F ^( i *z F * F] T - > F h^-C i *z i * F] F - » z h^-C *z *F] H^( i F) hM i i) F - » z h^( Obrázek 3.3: Výpočet automatu V z příkladu 3.49 pro vstupní slovo i +i *i 86 KAPITOLA 3. BEZKONTEXTOVÉ JAZYKY A ZÁSOBNÍKOVÉ AUTOMATY Poznámka 3.50. Jestliže PDA nejen koretně rozhoduje zda w e L (Q), ale při kladné odpovedi je navíc schopen určit derivační strom vstupní věty, říkáme, že PDA provádí syntaktickou analýzu. Ve výše uvedeném příkladu 3.49 je posloupnost odpovídajících pravidel z Qo použitých při výpočtu v V posloupností pravidel použitých při levé derivaci vstupní věty. Pokud bychom na základě této posloupnosti postupně konstruovali odpovídající derivační strom, povšimneme si, že konstrukce začíná u jeho kořene a jde směrem k listům; odtud název této techniky - nedeterministická syntaktická analýza shora dolů. Nedetermi-nismus se objevuje jen v konfiguracích, kdy PDA má na vrcholu neterminál a volí, kterou z odpovídajích pravých stran jej nahradit. Věta 3.51. Ke každému PDA A4 lze sestrojit CFG Q takovou, že Le(M) = L{Q). Idea důkazu: Nejprve si uvědomme, že pokud by PDA byl jednostavový, pak nalezení ekvivaletní CFG by bylo velmi snadné - konstrukce z důkazu věty 3.47 resp. poznámky 3.48 (tj. k CFG sestrojit ekvivalentní PDA) je plně reversibilní. V podstatě tedy půjde o tento cíl: (***) nalézt k danému PDA A4 ekvivaletní PDA M! s jedním stavem (označeným např. symbolem '*') takový, že levé odvození v hledané Q má být simulací práce M! (tj. neterminály, které se vyskytují v libovolném kroku levé derivace v Q, odpovídají symbolům v zásobníku automatu A4' v době, kdy tento již přečetl ze vstupu to, co Q nalevo od nejlevějšího neter-minálu vygenerovala (srovnej s vlastnosti (*) resp. (**) uvedenými v idei důkazu zmíněné věty). Klíčovým úkolem důkazu je tedy ukázat, jak simulovat libovolný PDA A4 jednosta-vovým PDA A4' - oba dva akceptující prázdným zásobníkem. Informaci o stavu simulovaného PDA nelze v simulujícím jednostavovém PDA umístit jinam než na zásobník, tj. "vhodným způsobem" ji na zásobník přidat. W Je-li w e Le(A4), pak qoZo —> q do nějakého q e Q, jinak řečeno A4 odstartován v qoZo přečetl w a skončil vymazáním Zq v nějakém q. Pak v souladu s naším cílem (***) je přirozené požadovat dostupnost přesně této informace v zásobníku j ednostavového PDA: požadujme po A4', aby odstartován s informací tvaru (qoZoq) jako jediným symbolem v zásobníku byl schopen přečíst vstup w a akceptovat jej prázdným zásobníkem, tj. mít v hledané gramatice neterminál tvaru (qoZoq) takový, aby (qoZoq) =>* w. Uvědomme si, že v průběhu celého výpočtu zásobník neklesl - s výjimkou poslední konfigurace - pod hladinu danou vrcholovým symbolem Zq v počátečním totálním stavu qoZo. Původní PDA A4 ovšem prochází při svém (výše naznačeném) výpočtu celou posloupností kroků, a proto je přirozené zjemnit informaci qoZo —> q (resp. (qoZoq) =>* w) tak, že jednostavový PDA A4' bude mít v zásobníku symboly tvaru (pAq) z QTQ takové, aby platilo: A4' odstartován s (pAq) jako jediným symbolem ve svém zásobníku akceptuje vstup x prázdným zásobníkem právě když A4 odstartován ve vnitřní konfiguraci p A akceptuje x prázdným zásobníkem ve stavu q, tj. (připomeňme, že symbol '*' reprezentuje jediný stav PDA A4'): *(pAq) -4- *£ v A4' -<=>• p A -4- q v A4 . Nyní zbývá definovat přechody v A4'. S každým přechodem p A -4 qxB\ ...5„ (<*€£ U{č}) v A4 3.2. ZÁSOBNÍKOVÉ AUTOMATY 87 přidejme do M.' všechny přechody tvaru *(pAq) -4 *(qiBiq2}(q2B2q3} ■ ■ ■ (qnB„q„+i) pro všechny možné volby q2, ... , qn+\ takové, že qn+\ = q. V případě n = 0, tedy p A -> qe v A4, přidáme do A4' přechod *(pAq) -> *£. Intuitivně řečeno, A4' simuluje A4 tak, že nedeterministicky hádá, v kterých stavech se A4 ve svém budoucím výpočtu ocitne: uloží si tato hádání na zásobník s tím, že posléze kontroluje korektnost svého nedeterministického hádání. V následujícím důkazu explicitní konstrukci A4' vypustíme a budeme pracovat přímo s hledanou í/, protože je zřejmé, že každému přechodu *(pAq) —> *(q\B\q2) (qiBiq?,)... (qnBnqn+\) v A4' odpovídá v gramatice přímo pravidlo (pAq) —> ci(q\B\q2)(q2B2q3) ■ ■ ■ (qnBnqn+\). Navíc, protože gramatika může mít jen jeden kořen (resp. PDA jen jeden počáteční symbol v zásobníku), kdežto symbolů tvaru (qoZoq) je obecně více, přidáme i pra- W vidia S -> (qoZoq) pro všechna q e Q (pro A4 platí Le{M) = {w | qoZo -> q, q e Q}). Důkaz: Nechť PDA A4 = (g, E, T, 8, qo,Zo,0)a nechť g = (N,H,P, S) je CFG, kde • N = {S}U{(pAq}\ p, q e Q, A e T, kde S £ gUS U T je nový symbol • P obsahuje pravidla: 1. S —> (qoZoq) pro všechna q e Q 2. (pAq) -> a(qiBiq2}(q2B2q3) ■■■(qnB„q„+i) pro qn+\ =q, ae E U {s}, A,Bi(\ a e P. Abychom ukázali, že L (Q) = Le{M), tj. S => (qoZoq) =3>*w <í=> qo^o -> qe, dokažme: (pAq) =>* x -<=>• pA -4- qs (1) 1. -^=: Dokazujme, že (p, x, A) \-^— {q, e, e) implikuje (pAq) =>* x, a to indukcí vzhledem k i (vzhledem k čemu ještě by šlo indukci vést?). (a) Je-li i = 1, pak jistě p A -> q s e 8 (a e E U {s}), a tedy (pAq) -> a je pravidlo z P. (b) Nechť i > 1 a nechť x = ay a (p,aj;,^)r—(qri,j;,5i52...5M)|-^^(qr,e,e). (1.1) Řetěz y lze zapsat ve tvaru y = jij2 • • • yn takovém, že přečtení yi způsobí odstranění Bi ze zásobníku (posloupností kroků, kdy zásobník může ještě vzrůst, ale nikdy neklesne pod úroveň, na níž je Bi). Jinak řečeno, y\ je takovou předponou slova y, že po jejím přečtení se zásobník poprvé zkrátí na úroveň (hloubku) n — \ (bude obsahovat B2 ... Bn); y2 je takový řetěz, že následuje za y\ a po přečtení j2 se poprvé zásobník zkrátí na úroveň n — 2 atd. Podstatné je, že během zpracování y i se žádné z Bj+\... Bn neobjevilo na vrcholu zásobníku, a tudíž nemohlo ovlivnit průběh této části výpočtu, tj. B j zůstává na zásobníku bez vlivu na výpočet nad y\ ... yj-\ - viz obrázek 3.4. Tedy existují stavy q2,q3, ■ ■ ■ , qn+\ (kde qn+\ =q) takové, že výpočet (qj,yj,Bj) yí-(qj+i,e,e) proběhne v méně než i krocích (qj je stav, do kterého se automat dostal, když se zásobník poprvé zkrátil na úroveň n — j + l). Podle indukčního pžedpokladu tedy dostáváme (qjBjqj+i) =>* y j pravšechna \n přečtený vstup (q =qn+\) Obrázek 3.4: Výška zásobníku jako funkce přečteného vstupu - k důkazu Věty 3.51 (tj. p A -> q\B\B2 ... Bn e 8), máme též (pAq) => a{q\B\q1){q1B1q^) ... (qnBnqn+\), což spolu s (1.2) dává žádané (pAq) =>* ay\y2 ...yn = x. 2. ==>: Nyní předpokládejme, že (pAq) =>' x a indukcí vzhledem k i ukažme, že pak (p, x, A) |-i- (q, s, s). X (a) Je-li i = 1, pak {pAq) -> x je pravidlo v Q, což značí, že p A -> ^ e S (i e S U {s}). (b) Nechť i > 1. Derivaci (pAq) =>' x lze zapsat jako (pAq) => a{q\B\q1){(i1B1q^) ... {qnBnqn+\) =>/_1 x, kdeqn+i=q (2.1). Pak x lze zapsat ve tvaru x = ax\X2 .. .x„ takovém, že pro každé j (l < j < «) platí (qjBjqJ+\) =>* x j, kde každá tato derivace má méně než i kroků. Tedy dle indukčního předpokladu platí (qj,Xj, Bj) |— ( q\B\Bi... Bn) e 8, tj. (p, x,A)\— (qu x\x2 ...xn,B\B1...Bn) je korektní krok, což spolu s (2.2) pro 7 = 1,2,...,« dává žádané (p,x, A) \— (q, e, s). Jestliže v právě dokázaném tvrzení (1) položíme p = qo a A = Zq, dostáváme (qoZoq) =>* x «=> q0Zo 4- qe, což spolu s pravidlem 1. pro konstrukci množiny P pravidel gramatiky Q dává S =>* x <í=> qoZo -> qe pro nějaký stav q e Q, tj. x e L (Q) -<=>■ x e Le{M), což jsme měli dokázat. D 3.2. ZÁSOBNÍKOVÉ AUTOMATY 89 Sumarizujme dosud dosažené výsledky o rozpoznávání CFL pomocí PDA. Důsledek 3.52. 1. L = L (Q) pro nějakou CFG Q 2. L =L(M) pro nějaký PDA M 3. L = L e (M) pro nějaký PDA M 4. L = L (V) pro nějaký rozšířený PDA V. Důkaz: 3 => 1 (dle 3.47); 1 => 3 (3.47); 4 => 2 (3.45); 2 => 4 (triviální); 2 <^=> 3 (3.39). D Příklad 3.53. Mějme dán PDA M = ({go, q\}, {a, b], {X, Z0], 8, q0, Z0, 0), kde 8 je definována takto: qoZo^-qoXZo q\X —>q\ qoX \qoXX q\X A-q\ q0X -+qi qxZoAqi a konstruujme CFG Q = (N, E, P, S) tak, aby generovala Le(A4). Zřejmě E = {a, b} a N = {S} U {{qiXqj)\iJ e (0, 1)} U {(qt Z0qj)\i, j G (0, 1)}. Při konstrukci množiny pravidel P lze postupovat systematicky tak, že začneme s kořenovými S-pravidly a další pravidla přidáváme jen pro ty neterminály (...), které se již vyskytly na některé pravé straně do P již přidaného pravidla (proč?). Tedy S-pravidla j sou S -> (qoZoqo) | (qoZoqi) Nyní přidávejme pravidla pro (qoZoqo) a(qoZoq\). Díky qo Zo —> qoXZo e 8 přidáme (qoZoqo) -> a(qoXqo)(qoZoqo) | a(qoXq\)(q\Zoqo) , (qoZoqi) -> a(qoXqo)(q0Zoqi) \ a(q0Xqi)(qiZoqi) . Opakováním tohoto postupu pro nově vznikající neterminály celkem ještě přidáme (qoXqo) -> a(qoXqo)(qoXqo) \ a(q0Xqi)(qiXq0), a též (qoXqi) -> a(q0Xqo)(qoXqi) \ a(qoXq\)(q\Xq\), protože q0X -4 q0XX e 8, (qoXqx) -> b, protože qoX -> q\ e 8 (qiZoqi)^ e, protože q\Zo —»• q\ € 8, e b (q\Xq\) -> e I b, protože q\X -> q\, q\X -> q\ e 8. Poznamenejme, že neexistují žádná pravidla pro (q\Xqo) a (q\Zoqo); tyto se ovšem na pravých stranách v P vyskytují, tedy tato pravidla nemohou vygenerovat žádný terminálni řetěz, tj. i příslušné levostranné neterminály (qoXqo) a (qoZoqo) jsou nenormované (nepoužitelné). Pak ekvivalentní reduková gramatika má těchto sedm pravidel: 1. S^ (qoZoqi) 2. (qoZoqi)^ a(q0Xqi)(qiZoqi) 5. (qiZ0qi)^ e 3., 4. (qoXqx)^ a(qoXq\)(q\Xq\) \ b 6., 7. (q\Xq\)^ e \ b Příklad 3.54. Nechť je dán PDA V = ({p, q, r,s), {a, b, c, d}, {X}, 8, p, X, 0), kde 8 je dána takto: pX —»- pXX, pX —»- re, pX —»- qe, qX —»- sX, sX —»- qe, rX —»- re. Pro V zkonstruujte část přechodového grafu (např. z pX alespoň dva a-přechody vedoucí postupně do pXX a pXXX a všechny b, c, d-přechody (a totální stavy) vedoucí postupně do akceptujících qe, re). Nalezněte ekvivaletní CFG a zkonstruujte její přechodový graf. Na závěr této části uveďme ještě jedno tvrzení, které je sice již obsaženo v důsledku 3.52, avšak v jeho důkazu bude uvedena přímočará a velmi důležitá konstrukce, 90 KAPITOLA 3. BEZKONTEXTOVÉ JAZYKY A ZÁSOBNÍKOVÉ AUTOMATY která (mimo jiné) ozřejmí, proč jsme definovali rozšířený PDA. Lemma 3.55. (O nedeterministické syntaktické analýze zdola nahoru) Nechť Q je libovolná CFG, pak lze zkonstruovat rozšířený PDA 1Z takový, že L {Q) = L (TZ). Idea důkazu: Z důvodů čitelnosti (viz dále) budeme nyní vrchol zásobníku psát (v definici 8 i v konfiguracích) vždy vpravo. 1Z bude opět de facto jednostavový (druhý stav bude sloužit jen jako koncový). Na rozdíl od důkazu analogického tvrzení pro obyčejný PDA (viz věta 3.47), budeme konstruovat rozšířený PDA 1Z tak, aby simuloval pravé odvození vstupní věty, přesněji řečeno reverzi tohoto odvození: práci začne nad vstupní větou (a - v pricipu - s prázdným zásobníkem) a skončí s pražným vstupem a v zásobníku bude kořen gramatiky (odtud název analýza zdola nahoru. Pravou větnou formu aAy bude mít k dispozici tak, že a A (jako výsledek dosavadní práce nad x -již přečtenou částí vstupu) je obsah zásobníku (s A na vrcholu) a y je dosud nepřečtená (nezpracovaná) část vstupu. Tedy invarintem výpočtu bude vlastnost: obsah zásobníku zřetězen se zbytkem vstupu v 1Z = pravá větná forma v Q (*) či přesněji řečeno, začne-li 1Z pracovat nad vstupem, který je větou z L{Q), pak: aAy je obsah zásobníku zřetězen se zbytkem vstupu <=> (**) aAy je pravá větná forma. Rozšířený PDA 1Z má kroky dvojího typu: (1) může kdykoli číst do zásobníku vstupní symbol, (2) je-li na vrcholu zásobníku řetěz tvořící pravou stranu nějakého pravidla v Q, může nahradit v zásobníku tuto pravou stranu odpovídajícím levostranným neterminá-lem; ze vstupu nic nečte. Krok typu (2) nazveme redukcí podle příslušného pravidla. Automat 1Z bude tedy (opět) nedeterministický, tj. bude hádat, kdy (postupně) číst symboly ze vstupu a kdy a jak redukovat podřetězy v pravých větných formách (vrcholové řetězy v zásobníku), a to počínaje vstupním slovem tak, aby bylo dosaženo kořene gramatiky, právě když vstup je větou v Q. Důkaz: Nechť Q = (N, E, P, S) a položme 1Z = ({q, r}, E, N U E U {_L}, S, q, _L, {r}), kde -L je nově přidaný symbol a kde 8 je definována takto: 1. 8(q,a,s) = {(q, a)} pro všechna a e E , 2. je-li A —> a, pak 8(q, s, a) obsahuje (q, A) , 3. 8(q,s,±S) = {(r,s)}. Úmluva: každé niže uvedené odvození je pravým odvozením. Nyní zformulujme a dokažme implikaci "<^=" v (**). Indukcí vzhledem k n tedy ukažme tvrzení (všimněme si, že =£-* jen říká, že aAy je pravá větná forma - viz úmluva): S^*aAy^"xy => (q,xy, _L) \^-(q, y, ±aA) (1) Báze, tj. n = 0 je triviální - 1Z neudělá žádný krok. Předpokládejme, že (1) platí pro všechna n' < n. Pak můžeme psát aAy =£- aßy =^w_1 xy. Mohou nastat 2 případy: Je-li aß e E*, pak aß = x a (q, xy, _L) |-i- (q, y, Laß) |— {q, y, ±.aA). Je-li aß £ E*, pak lze psát aß = y Bz, kde B je nejpravější neterminál. Podle indukčního 3.2. ZÁSOBNÍKOVÉ AUTOMATY 91 předpokladu máme, že S =>* yBzy =^w_1 xy implikuje (q,xy, _L) |-^- (q,zy, -LyB). Jelikož (q, zy, -LyB) |— (q,y, -LyBz) je možná posloupnost kroků (čtení do zásobníku), dostáváme celkem, že (1) platí. Konečně (q, e, .LS) |— (r, e, e), a tedy L(Q) C L (TZ). Abychom ukázali obrácenou inklusi (tj. implikaci "=>." v (**)), dokažme indukcí vzhledem k n tvrzení (q, xy, ±) \^- (q, y, LaA) => aAy =>* xy (2) Báze indukce, n = 0, platí triviálně. Pro indukční krok předpokládejme, že (2) platí pro všechna n < m. Pokud symbol na vrcholu zásobníku je neterminál, pak jistě musel být poslední krok proveden na základě pravidla redukce (viz bod 2 v definici 8 automatu TZ) - na vstupu neterminály nejsou. Můžeme tedy psát (q, xy, _L) | m~l (q, y, ±aß) |— (q, y, ±aA), kde A —> ß je pravidlo z P. Pokud se v řetězu aß vyskytuje nějaký neterminál, pak dle indukčního předpokladu máme aßy =>* xy. Celkem tedy dostáváme aAy =>■ aßy =>* xy, čímž je (2) dokázána. Nyní specializací (2) dostaneme, že (q, w, _L) |— (q, e, LS) implikuje S =^>* w. Jelikož TZ akceptuje w jen pokud (q, w, _L) |— (q, e, LS) \— (r, e, e), dostáváme, že L (TZ) C L (Q), a tedy celkem L (TZ) = L (Q), čímž je důkaz ukončen. D Příklad 3.56. Mějme Go s pravidly E -+ E + T \ T, T -+ T*F \ F, F -+ (E) \ i. Pak rozšířený PDA z lemmatu 3.55 je V = ({q, r}, {+, *,(,), /}, {E, T, F, +, *, (,), i, _L}, 8, q, .L, {r}), kde 8 je definována takto (připomeňme, že vrchol zásobníku píšeme vpravo): q IA qa Va e {+, *, (,),/} dle bodu 1 qE + T e qE dle bodu 2 qT e qE dle bodu 2 qT*F e qT dle bodu 2 qF e qT dle bodu 2 q (E) e qF dle bodu 2 qi e qF dle bodu 2 q±E e rs dle bodu 3 Všimněme si, že pokud bychom nepřijali konvenci, že vrchol zásobníku píšeme vpravo, museli bychom ve výše uvedené definici funkce 8 místo pravé strany a pravidla z P psát méně přehledný zrcadlový obraz a, tj. aR. Z těchže důvodů jsou v akceptujícím výpočtu pro vstupní slovo i + i * i (viz obrázek 3.5) konfigurace psány ve tvaru trojic (stav, obsah zásobníku, vstup) s vrcholem zásobníku vpravo (a to i pro názornost ověření podmínky (*) z úvodu k důkazu lemmatu 3.55). Poznámka 3.57. Na obrázku 3.5 si všimněme, že posloupnost odpovídajících pravidel z Qo použitých při výpočtu v V je reverzí posloupnosti pravidel použitých při pravé derivaci vstupní věty v Qq. Pokud bychom na základě této posloupnosti postupně konstruovali odpovídající derivační strom, povšimneme si, že konstrukce začíná u jeho (levých) listů a jde směrem ke kořenu; odtud název této techniky - nedeterministická syntaktická analýza 92 KAPITOLA 3. BEZKONTEXTOVE JAZYKY A ZÁSOBNÍKOVÉ AUTOMATY krok výpočtu odpovídající pravidlo z Qq pro následující krok (q, _L, i +i *z) \-^—{q, _l_z, +i *i] F - -> z H^-te, J-^, +i *i] ) T - ■» F h^(<7, -LT, +i * i) E - -> T h^-(q, -LE, +i *i] t^-iq, -LE+, i *i] [í-(q, ±E + i, *i] F - -> z \-^-(q, ±E + F, *i] ) T - ■» F \-^-(q, ±E + T, *i] \-Z-(q, ±E + T*, f ^-(q, ±E + T*i, s] ) F - -> z \-^(q, ±E + T*F. s] ) T - ■» r*F \-^-(q, ±E + T, s] ) E - -> £ + r ^(q, -LE, s] h^O", £ s] Obrázek 3.5: Výpočet automatu V z příkladu 3.56 pro vstupní slovo i +i *i zdola nahoru. Nedeterminismus se objevuje v těchto dvou základních variantách: (1) v konfiguracích, kdy PDA má na vrcholu pravou stranu nějakého pravidla a volí zda redukovat tuto pravou stranu na odpovídající neterminál nebo zda číst ze vstupu - viz výše např. (q, LE + T, *z), kde lze nejen provést uvedené čtení symbolu '*', ale též redukci dle E —> E + T). Tuto situaci nazýváme konfliktem typu čtení versus redukce; (2) v konfiguracích, kdy PDA má na vrcholu takový řetěz, že jsou možné alespoň dvě různé redukce (tj. redukce podle různých pravidel); jako příklad může opět sloužit výše uvedená (q, J-E + T, *z), kde lze redukovat jak E + T na E, tak i příponu tohoto řetězu, tj. T, na (shodou okolností opět) E. Tuto situaci nazývýme konfliktem typu redukce versus redukce. Variantu (1) lze obecně charakterizovat existencí jak pravidla A —> a, tak i B —> aß (spolu s existencí například S =>* yAz a S =>* y B z), kdežto pro (2) je typická existence pravidel A —> a a B —> ßa (spolu například s S =>* yßAz a S =>* y B z). Současný výskyt obou typů konfliktů je samozřejmě v konfiguraci PDA též možný. Co se nedeterminismu týče, je tedy vidět, že zatímco u analýzy shora dolů se omezuje na případ, kdy máme volit, kterou z pravých stran nahradit neterminál na vrcholu zásobníku, je u analýzy zdola nahoru jeho povaha poněkud košatější. 3.3 Vlastnosti bezkontextových jazyků 3.3.1 Uzáverové vlastnosti V této části uvedeme některé uzáverové vlastnosti CFL a ukážeme, jak je lze použít k důkazu, že nějaký jazyk je, nebo není CFL. Díky vztahu CFG a PDA (viz část 3.2) lze v níže 3.3. VLASTNOSTI BEZKONTEXTOVÝCH JAZYKŮ 93 uvedených důkazech použít jak bezkontextových gramatik, tak i zásobníkových automatu. V dalším textu £2 značí třídu všech bezkontextových jazyků a připomeňme, že pokud není řečeno jinak, vždy předpokládáme, že gramtikaje redukovaná. Věta 3.58. £2 je uzavřena vzhledem k operaci (1) sjednocení, (2) zřetězení, (3) iteraci a (4) pozitivní iteraci. Důkaz: Nechť CFL Z,-,/ = 1, 2 je generován CFG Qt = (Nit £,-, Pit St), tj. U =UQi). Bez újmy na obecnosti můžeme předpokládat, že N\ D N2 = 0 (v opačném případě lze například k N2 vytvořit abecedu dvojníků N'2 = {A'\ A G N2}). (1) Jazyk Z = L\U L2 je generován gramatikou g = (Ni U N2 U {S}, Ei U £2, P\ U Z2 U {S -> Si, S -> S2}, S), kde S je nový symbol. Pak každá derivace v Q musí začínat použitím buď S —> Si nebo S —> S2, přičemž podmínka N\ C\ N2 = 0 zaručuje, že při použití S —> Si (resp. S —> S2) lze v dalším derivování používat jen pravidla z P\ (resp. Z2). Formální důkaz, že L (Q) = L(Q)\KJL(Q)2 (tj. obě inkluse) je ponechán čtenáři. (2) Jazyk Z = Z1 .Z2 je generován gramatikou g = (Ni U N2 U {S}, Ei U £2, Pi U P2 U {S -+ S1S2}, S), kde S je nový symbol. (3) Jazyk Z = Z* je generován gramatikou g = (NiU {S}, Ei, Zi U {S -+ SSi I e}, S), kde S je nový symbol. (4) Jazyk Z = L~\ je generován gramatikou £ = (#1 U {S}, Ei, Zi U {S -► SSi I ^1}, 5), kde S je nový symbol. Formální důkazy ad (2) - (4) jsou opět ponechány čtenáři. D Příklad 3.59. Ukažme, že jazyk Li = {am^bm^ . ..am"bm" \ n > O.jw,- > 0, 1 < i < n} je CFL. Stačí si uvědomit, že Li lze obdržet iterací jazyka L = {ambm \ m > 0}, který je CFL,tj.Li =L*. Věta 3.60. £2 není uzavřena vzhledem k operacím (1) průniku a (2) doplňku. Důkaz: (1) Mějme jazyky Li = {a"b"cm \ m,n > l}aZ2 = {amb"cm \ m,n > 1}. Oba tyto jazyky jsou CFL (například Zi je generován CFG s pravidly S —> S\C, Si —> aSib I ab, C —> C c \ c ). Kbyby £2 byla uzavřena vzhledem k operaci průniku, pak i L\ n Z2 = {anbncn I n > 1} musel být bezkontextový, což však není - viz příklad 3.26. (2) Neuzavřenost £2 vůči doplňku plyne okamžitě z její uzavřenosti na sjednocení, neuzavřenosti na průnik a z DeMorganových pravidel: pro libovolné Li, L2 platí Zinz2 = -(-ZiU-z2), tj., kdyby £2 byla uzavřena na doplněk, musela by být uzavřena i na průnik - spor. D Věta 3.61. £2 je uzavřena vzhledem k průniku s regulárním jazykem. Důkaz: Z G £2 značí, že existuje PDA V = (Q\, E, V, 8\,qQ, Zq, Fi), takový, že Z = L(V) a R regulární značí, že existuje (bez újmy na obecnosti deterministický) konečný automat A = (Qi, E, ($2, í/q, Z2), takový, že R = L (A). Abychom ukázali, že Ľ = Z n Z G £2, sestrojme PDA V', takový, že Ľ = L(V'). Položme V = (g', E, V, 8', q'Q, Zq, F'), kde 94 KAPITOLA 3. BEZKONTEXTOVÉ JAZYKY A ZÁSOBNÍKOVÉ AUTOMATY 1. ß/ = ßixß2, 2. q'Q = (qo,ql) 3. F' = F\ x Fi a 4. 5': (^((p, w e L (V) n L (U). D Příklad 3.62. Ukažme, že L = {w G {a, b, c} \ w obsahuje stejný počet symbolů a, b, c} není CFL. K tomu stačí uvážit, že L D a*b*c* = {cŕbncn \ n > 0} není CFL, a tedy ani L není CFL. Věta 3.63. £2 je uzavřena vzhledem k substituci. Důkaz: Nechť L C E* je CFL a a taková substituce, že pro každé a G E platí, že a {a) = L a je CFL. Nechť L = L (Q) a La = L(Qa) pro každé a G E. Bez ujmy na obecnosti předpokládejme, že abecedy neterminálů všech uvedených CFG jsou vzájemně po dvou disjunktní a konstruujme gramatiku Q' takto: 1. neterminály gramatiky Q' jsou sjednocením neterminálů gramatiky Q a neterminálů všech Qa, 2. terminály v Q' jsou sjednocením terminálů všech Qa, 3. pravidla v Q' jsou sjednocením pravidel všech Qa spolu s pravidly, která vzniknou takto: ke každému A —> a v Q vytvoříme nové pravidlo, které vznikne tak, že v a každý výskyt terminálu a nahradíme neterminálem Sa - kořenem gramatiky Qa a 4. kořenem Q' je kořen Q. Formální důkaz je opět ponechán čtenáři. D Příklad 3.64. Nechť L je množina slov, která obsahují stejný počet výskytů symbolu a a b. Nechť dále La = {0n\n\ n >\}aLb = {wwR\ w G (0 + 2)*}. L lze generovat CFG Q s pravidly S —>- aSbS I bSaS \ e, La lze generovat CFG Qa s pravidly Sa -+ 0Sa\ I 01 a Lt, lze generovat CFG Q b s pravidly Sb -+ OSbO I 2Sb2 I e. Je-li f taková substituce, že f (a) = La a f(b) = Lb, pak f {L) lze generovat CFG s pravidly S -+ SaSSbS I SbSSaS \£ Sa^ 0Sal | 01 Sb -+ 0Sb0 I 2Sb2 | s. Jelikož {a, b}, {ab}, a* a a+ jsou CFL, pak uzavřenost £2 na substituci implikuje uzavřenost na sjednocení, zřetězení a (pozitivní) iteraci: sjednocení La U Lb je substitucí La a Lb do {a, b}, podobně zřetězení La.Lb je substitucí La a Lb do {ab} a L* je substitucí La do a*. Tvrzení věty 3.58 bylo tedy možné prezentovat jako důsledek věty 3.63. Důsledek 3.65. £2 je uzavřena vůči (1) homomorfismu a (2) inverznímu homomorfismu. Důkaz: (1) Homomorrismus je speciálním případem substituce, vůči níž je £2 uzavřena. (2) Důkaz na inverzní homomorfismus plyne z uzavřenosti £2 na substituci, homomorfis- 3.3. VLASTNOSTI BEZKONTEXTOVÝCH JAZYKŮ 95 mus a průnik s regulárním jazykem takto: Mějme libovolný homomorfismus h : E —> A* a k E definujme abecedu dvojníků E. Dále definujme: 1. substitúcia : a (c) = E cE* pro každé c G A, 2. regulárni jazyk Zi = {Äro | ä G E, u; G A*, Ä (a) = u;} a 3. homomorfismus/zi : (E U A) —»• E* takto: /?i(Z?) = a pro všechna ä G E h\(c) = e pro všechna c G A. Zřejmě platí, že /z i (er (Z) fl Z*) = h~l(Ľ). Současně však z uzavřenosti třídy £2 vzhledem k výše zmíněným operacím (a faktu, že též jazyk Z* je regulární) plyne, že pro každý jazyk Z G C2 platí h\{a{L) C\ Z*) G £2- Celkem tedy dostáváme h~l{L) G £2, což jsme měli dokázat. D Příklad 3.66. Mějme jazyk L = {ww \ w G {a, b}*} a ukažme, že L není CFL. Předpokládejme, že L je CFL. Pak ovšem L\ = L D a+b+a+b+ by byl též CFL, ale L\ = [ďbJďbJ I i, j > 1}, což je jazyk velmi podobný jazyku L2 = {albJcldJ \ i, j > 1} z příkladu 3.27 o němž jsme pomocí pumping lemmatu ukázali, že není CFL - pomocí obdobných argumentů lze totéž dokázat i o L\. Pokud bychom k důkazu, že L \ není CFL nechtěli použít pumping lemma, lze L \ redukovat přímo na L2 = {ďbJc'dJ \ i, j > 1} takto: Nechť h je homomorfismus definovaný takto: h{a) = h{c) = a a h (b) = h{d) = b. Pakh~l{L\) se skládá ze všech slov tvaru X1X2X3X4 takových, že x\ a X3 jsou z {a, c}+ a mají stejnou délku a podobně X2 a X4 jsou z {b, d}+ a mají stejnou délku. Pak ovšem h~l (L\) C\ a*b*c*d* = L2, a tedy kdyby L\ byl CFL, musel by L2 být rovněž CFL, což (jak víme z příkladu 3.27) není, tudíž ani L1 nemůže být CFL. Příklad 3.67. Na základě příkladu 3.66 lze ukázat, že jazyk fragmentů pascalských programů L = {begin var w : integer, w := 0; end | w G {a,b}+ } není bezkontextový. Nechť h je homomorfismus takový, že h (a) = a, h(b) = b a h(X) = s v ostatních případech. Pakh(L) = {ww \ w G {a, b}+}, a tedy L není CFL. V kompilátorech je tato situace řešena tak, že před vlastní syntaktickou analýzou je text zpracován lexikálním analyzátorem, který identifikátory, jejichž délka není v definici jazyka shora omezena, zpracovává tak, že je redukuje na dvojici fixní délky, kde první komponenta (kterou bere v potaz syntaktický analyzátor) udává, že se jedná o syntaktickou kategorii „identifikátor"; druhá komponenta obsahuje odkaz do tabulky, kde je skutečný textový tvar identifikátoru uložen. 3.3.2 Rozhodnutelné vlastnosti a regularita Již v předchozích částech jsme ukázali, že existuje algoritmus, který pro libovolnou danou CFG Q rozhoduje, zda L(Q) = 0 či nikoliv (tzv problém prázdnosti jazyka je pro CFLs tedy algoritmicky řešitelný - rozhodnutelný). Další důležitou vlastnost jsme ukázali tím, že (opět) k libovolné dané CFG Q lze sestrojit (jazykově) ekvivaletní PDA; jinak řečeno, máme k dispozici (nedeterministický) algoritmus, který rozhoduje problém zda w G L (Q) či nikoliv (tzv. problém příslušnosti slova je v třídě CFLs rozhodnutelný). 96 KAPITOLA 3. BEZKONTEXTOVÉ JAZYKY A ZÁSOBNÍKOVÉ AUTOMATY Některé další vlastnosti CFL jsme již též ukázali v předchozích částech, mimo jiné i tzv Pumping lemma pro CFL, které nám v některých případech (spolu s eventuelním využitím uzáverových vlastností) umožní dokázat, že daný jazyk není bezkontextový. I následující věty jsou de facto důsledkem Pumping lemmatu pro CFL. Věta 3.68. Ke každé CFG Q lze sestrojit čísla m, n taková, že L {Q) je nekonečný právě když existuje slovo z e L {Q) takové, že m < \z\ < n. Důkaz: Předpokládejme, že Q je v CNF. Pak dle Pumping lemmatu pro CFL (viz 3.24) existují čísla/», q s vlastnostmi popsanými v tomto lemmatu. Položmem = p an = p+q. 1. -^=: Jestliže z e L(Q) je takové slovo, že p < \z\ < p + q, pak lze psát z = uvwxy (vx ^ e) auv'wx'y e L(Q) pro všechna/ > 0. Tedy L(Q) obsahuje nekonečně mnoho slov tvaru u v1 wxl y, je tedy nekonečný. 2. =>■: Nechť L (Q) je nekonečný. Pak obsahuje i nekonečně mnoho slov délky větší než p - tuto množinu slov označme M. Zvolme z M libovolné takové slovo z, které má minimální délku a ukažme, že musí platit p < \z\ < p + q. Kdyby \z\ > p + q, pak (opět dle Pumping lemmatu pro CFL) lze z psát ve tvaru z = uvwxy, kde vx ^ e, \vwx\ < q a uv'wx'y e L(Q) pro všechna i > 0. Tedy specielně pro i = 0 máme, že uwy e L (Q) a současně \uwy\ < \uvwxy\. Přitom však (díky \uvwxy\ > p + q a \vwx\ < q) platí, že \uwy\ > (p + q) — q = p; tedy uwy e M, což je spor s volbou z jako slova z M s minimální délkou. Celkem tedy musí být \z\ < p + q. D Poznámka 3.69. Naše dosavadní poznatky o (ne)prázdnosti a (ne)konečnosti CFL lze sumarizovat takto: existují algoritmy, které pro libovolný daný CFL L určí, zda Zje (a) prázdný, (b) konečný, nebo (c) nekonečný. Algoritmus pro problém ad (a) byl podán v 3.9. Problém ad (b) resp. ad (c) lze rozhodovat tak, že postupně pro všechna slova w taková, že p < \w\ < p + q (a těch je jen konečně mnoho nad konečnou abecedou E) testujeme, zda w e L(Q) či nikoliv (pomocí ekvivaletního PDA). Pokud nalezme w takové, že w e L (Q), pak L (Q) je nekonečný, v opačném případě je konečný. Následující vlastnost charakterizuje ty CFL, které nejsou regulární a po ní uvedené tvrzení ilustruje jednu z aplikací GNF Definice 3.70. Nechť Q = (N, E, P, S) je CFG. Řekneme, že Q má vlastnost sebevlo-žení, jestliže existují A e N au, v e E+ taková, že A =^+ uAv. CFL L má vlastnost sebevložení, jestliže každá gramatika, která jej generuje, má vlastnost sebevložení. Věta 3.71. CFL L má vlastnost sebevložení, právě když L není regulární. Důkaz: 1. ==ŕ ( P ==ŕ Q ukazujeme jako —>Q =^ —'P): Je-li L regulární, pak jej lze generovat regulárni gramatikou a žádná regulární gramatika vlastnost sebevložení nemá. 2. ■*== (opět P ■*== Q ukazujeme jako —>Q <= —,P): Nechť L je generovatelný nějakou CFG, která nemá vlastnost sebevložení a ukažme, že pak L musí být regulární. Zmíněnou CFG lze převést na gramatiku Q = (N, E, P, S) v GNF, která opět nemá vlastnost sebevložení a L = L (Q). 3.3. VLASTNOSTI BEZKONTEXTOVYCH JAZYKU 97 Označme n = card(N) a d = max{|a|; A —»- aa G P, A G N}. Nyní ukažme platnost tohoto tvrzení: v žádné levé větné formě v Q nemůže být více než n • d výskytů neterminálů. (*) jeden krok odvození terminály cesta délky větší než n (od kořene k nejlevějšímu neterminálů) -zn.d) —= nejlevější neterminál větné formy a Obrázek 3.6: Derivační strom větné formy a - gramatika v GNF Abychom to ukázali, předpokládejme opak, tj. existuje a takové, S =>* a je levá derivace v Q a, a. obsahuje více než n • d výskytů neterminálů. Při každém odvozovacím kroku se zvýší počet výskytů neterminálů nejvýše od — l, což pro naše a značí, že v deri-vačním stromu pro a (viz obrázek 3.6) má cesta od kořene k nejlevějšímu listu označenému neterminálem (tj. k nejlevějšímu neterminálů v a) délku větší než n. To však znamená, že alespoň dva z vrcholů na této cestě musí být označeny týmž neterminálem, řekněme A. To ovšem značí, že A =^+ uAv, kde u i v jsou neprázdná, což je však spor s tím, že Q nemá vlastnost sebevložení. Tím jsme dokázali tvrzení (*). Jestliže se v libovolné levé větné formě v Q vyskytuje nejvýše n • d neterminálů, pak L{Q) lze generovat regulární gramatikou Q' = (N', E, P', S'), kde • N' = {{a) \a G N*,\a\ aaeP,aeTi,ae N*, pak (Aß) -* a (aß) e P' pro každé ß takové, že \aß\ 1} je příkladem bezprefíxového CFL - tedy rozpoznatelný DPDA prázdným zásobníkem. Zkonstruujte jej! (srv příklad 3.41) Je zřejmé, že ani technika "testu dna zásobníku" problém v případě DPDA neřeší -determinismus neumožňuje hádat, zda byl již přečen poslední symbol ze vstupu. Povšimněme si však, že pro každý L QU* a -\$. E je jazyk L.{-\} bezprefixový (symbol H hraje roli eof, pokud vstup chápeme jako soubor - file). V dalším textu tedy budeme u každého DPDA předpokládat, pokud nebude řečeno jinak, že ke konci vstupního slova je přidán znak (tzv. pravá koncová značka)-!^ E. Formální definici DPDA s pravou koncovou značkou (na vstupu) přenecháváme čtenáři jako cvičení. Definice 3.75. Řekneme, že rozšířený PDA Aí = (Q, T,,T, 8,qo, Zq, F) je deterministický (DPDA) jestliže jsou splněny tyto podmínky: 1. Pro žádná q G Q, a e E U {s} a y e F* neplatí card(8(q, a, y)) > 1. 3.4. DETERMINISTICKÉ ZÁSOBNÍKOVÉ AUTOMATY 99 2. Je-li 8(q, a, a) ^ 0, 8(q, a, ß) ^ 0 a a ^ ß, pak ani a není předponou ß ani ß není předponou«. 3. Je-li 8(q,a,a) j^ 0, 8(q,£, ß) j^ 0 a a 7^ ß, pak ani a není předponou ß ani ß není předponou«. Poznamenejme, že podmínky 2 a 3 jsou formulovány vzhledem ke konvenci, že v konfiguracích píšeme vrchol zásobníku vlevo, tj. a, ß jsou vrcholové řetězy v zásobníku. Při konvenci s vrcholem zásobníku vpravo bychom museli v podmínkách 2 a 3 místo "předpona" použít "přípona". Z definice 3.75 je vidět, že ve speciálním případě, kdy rozšířený PDA je "obyčejným" PDA, uvedená definice souhlasí s definicí 3.72. Poznamenejme též, že pokud je konstrukce z důkazu lemmatu 3.45 aplikována na rozšířený PDA V, pak výsledkem bude DPDA když a jen když V je rozšířeným DPDA. Definice 3.76. (normální forma (D)PDA) Řekneme, že DPDA M = (g, E, T, 8, q0, Zo, F) je v normální formě jestliže platí: je-li 8(q,a, X) = (p, y), pak buď (a) y = e nebo (b) y = X nebo (c) y = Y X pro nějaké Y e T. Identicky lze definovat normálni formu i pro (nedeterministický) PDA. Uvedená normálni forma tedy požaduje, aby jediné povolené operace nad zásobníkem byly odstranění vrcholového symbolu ze zásobníku (viz podmínka (a)) nebo přidání jednoho symbolu na vrchol zásobníku (viz podmínka (c)); podmínka (b) povoluje změnit pouze vnitřní stav, a to bez změny zásobníku. Následující dvě lemmata dokazují, že k libovolnému DPDA (resp. i PDA) lze sestrojit ekvivaletní DPDA (resp. PDA) v normální formě (důkazy pro PDA jsou kopiemi důkazů pro DPDA a nejsou tedy uvedeny). První lemma říká, že v žádném kroku DPDA nemusí ukládat na zásobník více než jeden symbol, protože namísto uložení řetězu symbolů je možné tento řetěz uložit na zásobník postupně, symbol po symbolu, a to pomocí e-kroků. Navazující druhé lemma již konstruuje DPDA v normální formě, tj. ukazuje navíc, že DPDA nikdy nemění vrcholový symbol - nanejvýš nad něj jeden symbol přidá (tedy pokud vrcholový symbol není přímo odstraněn). Těmto změnám vrcholového symbolu se vyhneme tím, že DPDA si bude pamatovat vrcholový symbol v konečně stavové řídicí jednotce a požadované změny se budou odehrávat pouze v ní. Lemma 3.77. Ke každému DPDA M. = (Q, E, I\ 8, qo, Zq, F) existuje s ním ekvivaletní DPDA M = (Q', E, T, 8', go, Zo, F) takový, že je-li 8'{q, a, X) = (p, y), pak\y\<2. Důkaz: Je-li 8 (q, a X) = (p, y) takové, že \y \ > 2, označme y = Y\ .. .Y„, pro nějaké n > 3. Přidejme nové nekoncové stavy p\,... , pn-2 a položme 8'(q, a, X) = (pu ¥„-!¥„), 8'{pi,s, Y„-i) = (Pi+i, Y„-i-\, Y„-i) pro 1 < i < n - 3 a 8'(j?„-2,£,Y2) = (r,YiY2) Automaty M. a M jsou evidentně ekvivaletní - jediný rozdíl jev tom, že pokud je A/" ve stavu q a má při čtení symbolu a nahradit vrcholové X řetězem y = Y\ ... Yn a nabýt stavu r, pak to neučiní v jednom kroku, ale v n — 1 krocích. D 100 KAPITOLA 3. BEZKONTEXTOVÉ JAZYKY A ZÁSOBNÍKOVÉ AUTOMATY Lemma 3.78. Ke každému DCFL L existuje DPDA M = (Q, E, T, 8, q0, Z0, F) v normálni formě takový, že L = L (A4). Důkaz: Nechť L = L(M') pro nějaký DPDA A4' = (Q', E, r', 8', q'Q, X0, F') splňující podmínky kladené na automat Aí lemmatu 3.77. Sestrojíme A4, který bude simulovat činnost M.' tak, že vrcholový symbol automatu M! se bude uchovávat v množině stavů automatu A4. Položme Q = Q' x r', go = [q'Q, X0], F = F' x T\ r = r' U {Z0}, kde Z0 je nový symbol a definujme 8 takto: 1. }e-\i8'(q,a,X) = (p, e), pakVF e r' položme S ([q, X], a, Y) = ([p, Y], e), 2. }e-\i8'(q,a,X) = (p, Y), pakVZe r' položme S ([q, X], a, Z) = ([p, Y], Z), 3. je-US'(q,a,X) = (p, Y Z), pakVW e V položme 8 ([q, X], a, W) = ([p, Y], ZW). Bod 1 říká, že pokud A4' odstraní vrcholový symbol, pak A4 též odstraní vrcholový symbol s tím, že nový vrchol si zapamatuje ve své množině stavů. Bod 2 říká, že pokud A4' změní svůj vrcholový symbol, pak A4 zaznamenává tuto změnu pouze v množině stavů. Konečně 3 říká, že pokud zásobník u A4' roste, pak A4 si odloží příslušný symbol na svůj zásobník. Nyní se snadno ověří (indukcí vzhledem k počtu kroků automatu), že platí: {q'Q,w,Xo)\-^r(q,e,XiX1...Xn) <^=> ([q'0, X0], w, Z0) h^j- ([q, Xi], s, X2X3 ... XnZ0). Tedy L(A4) = L(A4'). D 3.4.2 Uzáverové vlastnosti deterministických jazyků V řadě (i praktických) aplikací je třeba zjistit, zda daný jazyk L je (anebo není) DCFL. K důkazu, zeje DCFL stačí nalézt odpovídající DPDA (alternativně lze zkonstruovat nějakou tzv. LR gramatiku, kterými se zde však nezabýváme). Obrácená situace, kdy chceme ukázat, že L není DCFL, může být složitější. Pokud by L nebyl ani CFL, můžeme použít pumping lemma, ale často L může být CFL, ale ne DCFL. Jelikož není známo žádné pumping lemma, které by platilo specielně pro DCFL, musíme se spolehnout jen na uzáverové vlastnosti. Naštěstí DCFL jsou uzavřeny na některé operace, například vůči doplňku, na něž CFL obecně uzavřeny nejsou. V dalším textu se na třídu všech deterministických bezkontextových jazyků odvoláváme jako na "třídu DCFL". Věta 3.79. Třída DCFL je uzavřena vzhledem k průniku s regulárním jazykem. Důkaz: Konstrukce DPDA akceptujícího průnik CFL L a regulárního jazyka R je identická s konstrukcí z důkazu věty o uzavřenosti třídy CFL vůči průniku s regulárním jazykem (viz 3.61) -je-li A4 rozpoznávající L deterministický, je též determistickým i konstruovaný zásobníkový automat rozpoznávající L D R. D Věta 3.80. Třída DCFL není uzavřena vzhledem k operaci průniku. Důkaz: Snadno se nahlédne, že jazyky L\ a Li v části (1) důkazu věty 3.60 o neuzavře-nosti CFL vůči průniku jsou deterministické. D Nyní budeme chtít ukázat, že třída všech DCFL je uzavřena vůči operaci doplňku. V důkazu téže vlastnosti pro regulární jazyky jsme jednoduše zaměnili koncové a nekon- 3.4. DETERMINISTICKÉ ZÁSOBNÍKOVÉ AUTOMATY 101 cové stavy v odpovídajícím deterministickém konečném automatu. Avšak u DPDA tato technika není takto přímočaře použitelná, a to hned ze dvou důvodů. 1. DPDA A4 nemusí vždy dočíst vstupní slovo až do konce, a to z těchto důvodů: (a) A4 se dostane do takové konfigurace, že další krok není definován nebo (b) A4 se dostane do nekonečného cyklu £-kroků, kdy pouze pracuje s (konečným) obsahem zásobníku, aniž by četl ze vstupní pásky. Jinak řečeno, dělá pouze s-kroky, přičemž buď i. jeho zásobník neomezeně roste nebo ii. zásobník neroste neomezeně, ale jeho obsah "cyklí", tj. po jistém počtu kroků se jeho obsah opakuje. Pokud A4 nedočte slovo až do konce, pak toto slovo není akceptováno a potíž v těchto případech spočívá v tom, že po pouhé záměně koncových a nekoncových stavů by takto modifikovaný DPDA opět slovo nedočetl, tj. nepřijal. 2. DPDA A4 sice dočte slovo až do konce, ale pak může ještě provést jistou posloupnost e-kroků, při které prochází jak nekoncovými, tak i koncovými stavy. Zde je problém v tom, že pokud A4 takto akceptuje, pak po záměně koncových a nekoncových stavů by modifikovaný DPDA opět slovo akceptoval. Následující lemma 3.81 odstraňuje problémy typu 1, problém 2 je řešen ve větě 3.82. Lemma 3.81. Ke každému DPDA A4 existuje ekvivalentní DPDA A4 ', který přečte každé vstupní slovo až do konce. Důkaz: Potíž ad la odstraníme celkem snadno. Pokud by A4 nedočetl slovo proto, že vyprázdní svůj zásobník, použijeme techniku "test dna zásobníku" (viz důkaz věty 3.39 a poznámka 3.40), tj. A4' bude mít své vlastní dno Z'Q nad nějž si uloží dno Zq simulovaného automatu. Jestliže A4 vyprázdní svůj zásobník, A4' je schopen číst své lokální dno Z'Q a na základě toho přejde do nově přidaného (nekoncového) stavu d, v němž dočte vstup až do konce. Rovněž pro každou kombinaci stavu, vstupního symbolu (včetně e) a vrcholu zásobníku, pro kterou není definován další krok, dodefinujeme tento krok přechodem do stavu d. Problémy ad lb vyžadují poněkud více úsilí. Označme s = card(ß), ŕ = card(r) a r = max{|y|; 8(p,s, Z) = (p'', y), p, p' e Q, Z e F} — 1. Tedy r udává maximum, o kolik symbolů se může zásobník zvětšit při jednom £-kroku. Nyní ukažme platnost tohoto tvrzení: zásobník neomezeně roste při £-krocích <<==> (*) během nějaké posloupnosti £-kroků se jeho délka zvětší o více než r.s.t (*) ==> : evidentní (roste-li zásobník nade všechny meze, pak vzroste i o více než r.s.t). (*) ■*== : jestliže během nějaké posloupnosti £-kroků zásobník povyroste o více než r.s.t, pak lze z této posloupnosti konfigurací vybrat (pod)posloupnost všech konfigurací takových, že při přechodu od z-té k z + 1-ní konfiguraci zásobník vzroste nad úroveň, kterou měl v z-té konfiguraci (rostoucí posloupnost vzhledem k délce zásobníku). Tato vybraná posloupnost má jistě délku větší než s.t (viz význam konstant r, s, t). 102 KAPITOLA 3. BEZKONTEXTOVE JAZYKY A ZÁSOBNÍKOVÉ AUTOMATY výška zásobníku >r.s.t kí k2 e-kroky Obrázek 3.7: Vybraná podposloupnost konfigurací při ř-krocích To ovšem značí, že mezi vybranými konfiguracemi existují alespoň dvě konfigurace k\ a £2, které se shodují svým stavem a svým vrcholovým symbolem, přičemž délka zásobníku je v ki větší než v k\ - viz obrázek 3.7. Jelikož A4 je deterministický, pak posloupnost kroků, kterou prováděl mezi k\ a ki, bude dělat i nadále, a to ad infinitum. Tedy zásobník poroste nade všechny meze, čímž jsme dokázali tvrzení (*). K detekci chování typu l(b)i stačí tedy kontrolovat, zda se během nějaké nepřetržité posloupnosti £-kroků nezvětší délka zásobníku o více než r.s.t. Tuto kontrolu zabezpečíme tak, že do konečně stavové řídicí jednotky přidáme čítač cl, který může nabývat (konečně mnoha) hodnot z intervalu (0, r.s.t) a s nímž simulující A4' pracuje takto: • kdykoli se přečte symbol ze vstupu, cl se nastaví na 0; • při každém £-kroku se cl zvětší/zmenší o hodnotu, o kterou se zvětšila/zmenšila délka zásobníku; • místo záporných čísel cl nabývá hodnoty 0; • pokud by měl cl nabýt hodnoty větší než r.s.t, pak simulující A4' přejde do "záchytného stavu d (nově přidaný nekoncový stav - viz tento důkaz, část ad la), v němž dočte vstup až do konce. Tím je tedy odstraněn problém ad l(b)i. Nyní se zabývejme možnostmi detekce situací ad l(b)ii, tj. když během nekonečné posloupnosti £-kroků zásobník neroste neomezeně. Jinak řečeno, jeho délka nepřesáhne určitou mez. V průběhu této posloupnosti zásobník nemůže vzrůst o více než r.s.t, jinak by totiž rošt nade všechny meze - viz tvrzení (*). Nechť tedy při této posloupnosti £-kroků zásobník nikdy neklesne pod úroveň /z, a tedy nikdy nevzroste nah úroveň h + r.s.t. To však značí, že nejpozději zas.(ŕ + \)r-sj kroků se musí dostat do alespoň dvou konfigurací, které se shodují svým stavem i (celým) obsahem zásobníku nad hranicí h. 3.4. DETERMINISTICKÉ ZÁSOBNÍKOVÉ AUTOMATY 103 Pro detekci chování typu l(b)ii tedy přidáme další čítač c2, který může nabývat hodnot z intervalu (0,s.(t + \)r-sj) a který bude uchovávat počet provedených £-kroků: jestliže bude vynulován čítač cl, nastavíme na 0 i čítač c2 a při každém £-kroku zvětšíme c2 o jedničku. Pokud by mělo dojít k přetečení c2, přejde simulující DPDA A4' opět do záchytného stavu d, v němž dočte vstup až do konce. Formální popis simulujícího A4' rozšířeného oproti A4 o možnost testu dna (tj. nový počáteční stav, nové dno zásobníku ZQ a záchytný stav d) a o čítače cl a c2 je vynechán a lze jej nalézt v doporučené literatuře. D Věta 3.82. Třída deterministických bezkontextových jazyků je uzavřena vůči doplňku. Důkaz: Mějme libovolný DCFL Z a bez újmy na obecnosti předpokládejme, že Z = Z(A4), pro něj aký DPDA A4 = (Q, E, T, 8, qo, Zq, F) splňující podmínky lemmatu 3.81. Sestrojme DPDA A4', který má rozpoznávat doplněk jazyka Z. Idea konstrukce: A4' bude simulovat činnost A4, přičemž musíme mít na zřeteli problém 2 uvedený v diskusi před lemmatem 3.81. Stavy budou nyní dvojice z Q x {p, n, f}, kde smyslem druhé komponenty ve stavu [q, *] je zaznamenat mezi dvěma čtecími kroky (které mohou být proloženy posloupností £-kroků), zda A4 prošel či neprošel koncovým stavem. Pokud A4 prošel od posledního čtení vstupního symbolu koncovým stavem, pak * = p, v opačném případě * = n (neprošel koncovým stavem). Je-li druhá komponenta p a A4 čte vstupní symbol, pak A4' simuluje krok automatu A4 a v závislosti na tom, zda A4 se tímto krokem dostal do koncového či nekoncového stavu, A4' aktualizuje svoji druhou komponentu na p čin. Je-li druhá komponenta n, pak A4' nejprve změní «na/a pak simuluje krok automatu A4 a opět aktualizuje svoji druhou komponentu na p či n v závislosti na tom, zda nový stav A4 je či není koncový. Formálně definujme DPDA A4' = (Q', E, I\ 8', q'0, Zq, F'), kde 1. Q' = {[q,*]\qeQ,*e{p,n,f}}, [qo,p] je-hgoeF, [qo,n] je-li 0o £ F, 3. F' = {[q,f]\qeQ}, 4. 8' je pro všechna q, q' e Q a a G E definována takto: (a) je-li 8{q, e, Z) = (q', y), pak 8'aq,p],e,Z) = ([q',p],y) a (iq', P], Y) je-li q'€ F, ([q', n], y) je-li q' Č F, (b) je-li 8{q,a,Z) = (q', y), a G E, pak 8'([q,n],s,Z) = ([q,f],Z) a (iq', P], Y) }e-liq'eF, % = \ 8'([q,n],£,Z) = 8'([q,p],a,Z)=8'aq,f],a,Z) = ([q', n], y) je-li q' £ F. Ukažme nyní, že Z, (A4') je doplňkem Z (A4). Nechť a\ü2 ...a„ G Z (A4). Pak A4 vejde do koncového stavu (někdy) po přečtení a„. V tomto případě bude druhá kompo- 104 KAPITOLA 3. BEZKONTEXTOVÉ JAZYKY A ZÁSOBNÍKOVÉ AUTOMATY nenta A4' nastavena na p (a to předtím, než by Ai' mohl číst nějaký vstup za an). Tedy M! nebude akceptovat, tj. schopen vejít do stavu s druhou komponentou / (pokud an je posledním vstupním symbolem). Je-li naopak ai«2 .. .an $ L (A4), pak (dle lemmatu 3.81) M.' po přečtení an musí po jisté době přestat dělat £-kroky a chtít číst další vstupní symbol. V této situaci je však druhá komponenta A4' rovna n, protože a\ai.. .an $. L (A4). Na základě pravidla 4b v definici S' bude Ať akceptovat (a to před eventuelním pokusem o čtení dalšího vstupního symbolu). Celkem tedy L (A4') = ^L(A4). D Důsledek 3.83. Každý DCFL je akceptován nějakým DPDA, který v koncovém stavu nedělá žádné £-kroky. Důkaz: Tvrzení je implicitně obsaženo v důkazu výše uvedené věty 3.82 - v žádném koncovém stavu (tj. s druhou komponentou rovnou f) není možný žádný £-krok (8' není pro tento případ definována). D Důsledek 3.84. Třída DCFL není uzavřena vzhledem ke sjednocení. Důkaz: Plyne okamžitě z uzavřenosti DCFL vůči doplňku (viz věta 3.82), neuzavřenosti vůči průniku (viz věta 3.80) a De Morganových pravidel. D Příklad 3.85. Uzavřenosti DCFL vůči doplňku lze někdy využít k důkazu, že daný CFL není deterministický. Ukažme, L = ^{anbncn \ n > 1} není DCFL. Rozborem po případech, kdy w £ {crbncn \ n > l}, se snadno nahlédne, že L je CFL: případ w $ a*b*c* je popsatelný pomocí regulárního jazyka - ty jsou uzavřeny vzhledem ke doplňku; případy typu, kdy w e a*b*c*, ale počet symbolů a je různý od počtu symbolů b atdjsou popsatelné pomocí CFL/PDA. Díky uzavřenosti CFL na sjednocení dostáváme, že L je CFL. L však nemůže být DCFL: kdyby tomu tak bylo, pak by (díky uzavřenosti na doplněk) musel být DCFL i jazyk —>L = {anbncn \ n > 1}, který však není ani CFL. Podobně lze ukázat, že například —>{ww \ w e {a, b}*} je CFL (sestrojte nedeterministický PDA), který však není DCFL. Důsledek 3.86. Třída DCFL tvoří vlastní podtřídu třídy bezkontextových jazyků. Důkaz: Viz L = ^{anbncn \ n > 1} z právě uvedeného příkladu 3.85. D Kapitola 4 Turingovy stroje a jazyky typu 0 Cílem této kapitoly je definovat a prozkoumat vlastnosti nejsilnějšího z doposud uvažovaných výpočetních modelu — Turingova stroje. Je pojmenován podle matematika Alana Turinga, který ho v roce 1936 definoval. Turingův stroj dokáže realizovat libovolný proces, který lze intuitivně nazvat algoritmem. Ve skutečnosti, jak ukážeme později, je smysluplné definovat pojem algoritmicky řešitelný právě jako řešitelný Turingovým strojem. 4.1 Turingův stroj: model a jeho definice Neformální popis Turingův stroj byl navržen dlouho předtím, než se objevil první počítač. Motivací pro jeho definici byla snaha přesně rozlišit co je a co není vyčíslitelné, tj. co lze a co nelze efektivně vypočítat. Z toho vyplynuly základní požadavky: zaprvé, každý výpočet se musí dát reprezentovat konečným způsobem. Zadruhé, výpočet se má skládat z diskrétních kroků, přičemž každý z nich je mechanicky realizovatelný. Turingův stroj (anglicky Turing machine, zkráceně TM) má konečnou množinu stavů Q, pásku, která je rozdělena na jednotlivá políčka, a hlavu, která se může po pásce pohybovat doleva a doprava, číst a zapisovat symboly. Na každém políčku pásky je zapsán právě jeden z konečně mnoha páskových (pracovních) symbolů. Páska je jednosměrně nekonečná. Na nejlevějším (nultém) políčku je zapsán speciální symbol >, označující levý konec pásky. Na začátku výpočtu je na prvním až n-tém, n > 0, políčku pásky zapsán vstupní řetěz (vstupem tedy může být i prázdný řetěz). Ostatních nekonečně mnoho políček napravo od vstupuje prázdných — tuto skutečnost vyjádříme pomocí speciálního znaku U. Výpočet začíná v počátečním stavu qo, přičemž hlava snímá nulté políčko obsahující levou koncovou značku >. Krok výpočtu spočívá v tom, že stroj v závislosti na momentálním stavu a symbolu snímaném hlavou 1. změní svůj stav (či přesněji může změnit), 2. zapíše symbol na políčko snímané hlavou (čímž přepíše symbol, který tam byl zapsán předtím) a 3. posune hlavu o jedno políčko doprava, nebo doleva. 105 106 KAPITOLA 4. TURINGOVY STROJE A JAZYKY TYPU 0 > a b a b b u u nekonečná vstupní páska čtecí/zápisová hlava konečně stavová řídící jednotka Obrázek 4.1: Turingův stroj Způsob, jakým se má změnit stav, přepsat symbol a posunout hlava, předepisuje přechodová funkce 8. Stroj akceptuje vstupní řetěz, právě když přejde do speciálního akceptujícího stavu qaccept- Stroj zamítá právě když přejde do speciálního zamítajícího stavu qreject-Na některých vstupech může výpočet běžet nekonečně dlouho, aniž by stroj vstupní slovo akceptoval, nebo zamítnul. V takovém případě říkáme, že stroj pro daný vstup cyklí. Formální definice Turingova stroje Formálně, Turingův stroj (TM) je 9-tice M. = (Q, S,T, >, U, 8,qo, q accept, qreject) kde: • Q je konečná množina stavů; • E je konečná množina vstupních symbolů; • T je konečná množina páskových (pracovních) symbolů, obsahující jakou svou podmnožinu abecedu £; • > G T \ £ je levá koncová značka; • U G T \ £ je symbol označuj ící prázdné políčko; • <*> : (ô \ {qaccept, qreject}) xľ^ gxľ x{I,Ä}je totálnípřechodová funkce; • qo G Q je počáteční stav; • qaccept e Q je akceptující stav; • qreject € Q je zamítající stav; Navíc požadujeme, aby Turingův stroj nikdy nepřepsal levou koncovou značku jiným symbolem a aby nikdy neposunul svou hlavu vlevo od políčka obsahujícího levou koncovou značku. Formálně, požadujeme aby pro každé q G Q existoval stav p G Q takový, že 8(q,» = (p,>,R). Množina stavů spolu s přechodovou funkcí se někdy souhrnně označuje jako řídící jednotka Turingova stroje. 4.1. TURINGŮV STROJ: MODEL A JEHO DEFINICE 107 Konfigurace a výpočet Abychom mohli přesně definovat pojem výpočtu, potřebujeme, podobně jako u zásobníkových resp. konečných automatů, definovat nejdříve pojem konfigurace. Konfigurace obsahuje kompletní informaci o momentálním stavu výpočtu Turingova stroje, tj. o stavu řídící jednotky, o poloze hlavy na pásce a o obsahu pásky. V libovolném okamžiku výpočtu je na pásce zapsán řetěz tvaru ylf, kde y e T* (má konečnou délku!) a symbol \J° značí nekonečný řetěz uuuuuuuu... I když páska Turingova stroje je nekonečná, dokážeme vždy její obsah jednoznačně popsat konečným řetězem: stačí totiž specifikovat obsah neprázdných políček (a těch je konečně mnoho). Formálně, konfigurace je prvek množiny Q x {y\J° \ y G ľ*} x No. Konfigurace (q, z, n) specifikuje, že Turingův stroj je ve stavu q, obsah pásky je z a hlava snímá n-té políčko zleva, n > 0. Počáteční konfigurace stroje A4 pro vstup w G S* je konfigurace (qo,>w\J°,0). Akceptující konfigurace je každá konfigurace tvaru viaccept-> Z, n), kdež G r*,« G No. Podobně zamítající konfigurace je každá konfigurace tvaru vir ejects z ■> M)- Na množině všech konfigurací Turingova stroje A4 definujeme binární relaci krok výpočtu, označujeme | . Pro libovolný řetěz z (i nekonečný) nad abecedou T, nechť zn označuje n-tý symbol řetězu z (zo označuje nejlevější symbol řetězu z). Dále nechť s%(z) označuje řetěz, který získáme tak, že v z nahradíme symbol zn symbolem b. Pak relace | je definována předpisem (p,z,n) M (q,s%(z),n + \) pro 8(p,zn) = (q,b, R) (q,s%(z),n - 1) pro 8(p,z„) = (q,b,L). Analogicky jako v 3.37 definujeme | a | , resp. Výpočet Turingova stroje A4 na vstupu w je posloupnost konfigurací Kq, K\, K2 ... taková, že • Äľo je počáteční konfigurace stroje A4 pro vstup w a • K i I Kj+\ pro všechna z > 0. Výpočet může být konečný ale i nekonečný. Stroj A4 akceptuje vstupní řetěz w G E* právě když výpočet A4 na w je konečný a poslední konfigurace výpočtu je akceptující, tj. právě když (qo, >w\JÚJ, 0) 1-^- (qaccept, z, n). 108 KAPITOLA 4. TURINGOVY STROJE A JAZYKY TYPU 0 Stroj A4 zamítá vstupní řetěz w e E* právě když výpočet A4 na u; je konečný a poslední konfigurace výpočtu je zamítající, tj. právě když (go, >Wlŕ, 0) \-^- (greject, Z, n). Stroj se zastaví na vstupu w právě když výpočet A4 na u; je konečný, tj. právě když A4 akceptuje anebo zamítá w. Samozřejmě, může nastat situace, kdy výpočet A4 na w je nekonečný, tj. stroj vstupní řetěz ani neakceptuje, ani nezamítá. V takovém případě říkáme, že stroj pro vstup w cyklí. Turingův stroj se nazývá úplný, právě když se pro každý vstup zastaví. Jazyk akceptovaný Turingovým strojem A4 označujeme Z (A4) a definujeme jej jako množinu řetězů, které A4 akceptuje, tj. I (A4) = {w e E* I A4 akceptuje w}. Speciálně, jestliže A4 je úplný, pak říkáme, že jazyk Z (A4) je rozhodovaný strojem A4 nebo že stroj A4 rozhoduje jazyk L (A4). Příklad 4.1. Navrhněme Turingův stroj rozhodující jazyk L = {anbncn \ n > 0], který není bezkontextový. Stroj nejdříve posouvá svou hlavu až na konec vstupního řetězu a kontroluje, zda řetěz zapsaný na pásce je tvaru a*b*c*. Přitom vůbec nemění obsah pásky (formálně: zapíše vždy ten symbol, který přečetl). Poté, co hlava přečte první prázdné políčko (formálně: políčko obsahující symbol u), začne se posouvat doleva až na levý konec pásky. Následuje cyklus, ve kterém hlava „vymaže" (přepíše symbolem X) jeden symbol a, jeden b, jeden c a vrátí se na levý konec pásky. Pokud vstupní řetěz patří do jazyka L, stroj nakonec vymaže na pásce všechny symboly a, b,c a akceptuje. V opačném případě vstup zamítne. Nechť M = (Q, E, T, >,\J, 8,q0,qa,qr), kde Q = {go, gi, gi, g3, g4, g5, g6, ga, gr], E = {a, b, c], r = e u{t>,u,X}. Přechodová funkce je určena touto tabulkou: > a b c U X go (qo,>,R) (qo,a,R) (qi,b,R) (qi,c,R) (?3, U, Z) — g\ — (gr,-,-) (q\,b,R) (qi,c,R) (?3, U, Z) — gi — (gr,-,-) (qr,-,-) (92, c, R) (?3, U, Z) — g3 (gA,>,R) (43, a, L) (q3,b,L) (q3,c,L) (93, U, L) (93, X, L) q4 — (qs,X,R) (qr,-,-) (9r,-,~) (9a, -, -) (9A,X,R) g5 — (q5,a,R) (q6,X,R) (9r,-,~) (9r,-,~) (95, X, R) g6 — — (96, b, R) (SK, X, L) (9r,-,~) (96, X, R) Symbol "-" v tabulce vyjadřuje, že není podstatné, co se zapíše na uvedené místo (můžeme tam doplnit cokoli vyhovující definici). Výpočet stroje A4 na vstupu a2b2c2 je 4.1. TURINGŮV STROJ: MODEL A JEHO DEFINICE 109 (qo, \>aabbcc\J°', 0) (qo, >aabbcc\J°, 3) (#3, >aa66ccUÍW, 6) (#6, >XaX6ccUÍW, 4) (^OXXXôXcU0^) (g4, >XXXXXX\J°, 1) ^o» >aa^ôccuÍW, 1) q\, >aabbcc\Jw, 4) //4, >aa66ccUÍW, 1) (go, >aabbcc\J°, 2) (t/2, >aabbccu°\ 7) (05, oXaôôccLi", 2) (g4, >XaX6XcUÍW, 1) (^OXXXXXXu0^) #4, >XXXXXXUÍW, 7) \-^(qa, >XXXXXXU°\ 7) Rekursivní a rekursivně spočetné jazyky Jazyk ICE* nazýváme rekursivně spočetný (Recursively enumerable, RE) právě když Z = L (A4) pro nějaký Turingův stroj A4; rekursivní (Recursive, Rec) právě když Z = L (A4) pro nějaký úplný TM A4. Ke každému rekursivnímu jazyku Z existuje Turingův stroj, který ho rozhoduje, tj. výpočet na každém vstupním slovu je konečný. Rekursivně spočetný jazyk musí splňovat slabší podmínku: musí pro něj existovat Turingův stroj, který ho akceptuje, tj. akceptuje každé slovo z Z, ale výpočet na slovu nepatřícím do Z může být buď zamítající, nebo nekonečný. Rozhodnutelné, nerozhodnutelné a částečně rozhodnutelné problémy Problém, kdy se má určit, zda řetěz w má vlastnost Z, nazýváme rozhodnutelný právě když množina všech řetězů majících vlastnost i5 je rekursivní, tj. existuje úplný Turingův stroj A4, který akceptuje každý řetěz mající vlastnost P a zamítne každý řetěz, který tuto vlastnost nemá (A4 rozhoduje jazyk obsahující právě všechna ta slova, která mají vlastnost Z); nerozhodnutelný právě když není rozhodnutelný; částečně rozhodnutelný (semirozhodnutelný) právě když množina všech řetězů majících vlastnost P je rekursivně spočetná, tj. existuje Turingův stroj, který akceptuje každý řetěz mající vlastnost P (a zamítá anebo cyklí pro řetěz nemající vlastnost P). Namísto „problém určit, zda řetěz w má vlastnost P je rozhodnutelný (částečně rozhodnutelný)" zkráceně říkáme, že vlastnost P je rozhodnutelná resp. ze, problém P je rozhodnutelný (částečně rozhodnutelný). Ačkoli vlastnost rekursivní resp. rekursivně spočetný vypovídá o množinách, zatímco roz-hodnutelnost resp. semirozhodnutelnost je vlastnost problémů, jsou oba pojmy úzce spjaty. Platí mezi nimi tato ekvivalence: •<=> jazyk {w \ w má vlastnost i5} je rekursivní ? •<=> problém „w G Z" je rozhodnutelný •<=> jazyk {w \ w má vlastnost i5} je rekursivně spočetný •<=> problém „w G Z" je semirozhodnutelný P je rozhodnutelný Zje rekursivní Zje semirozhodnutelný Zje rekursivně spočetný 110 KAPITOLA 4. TURINGOVY STROJE A JAZYKY TYPU 0 Turingovy stroje a funkce Na Turingovy stroje můžeme nahlížet nejen jako na automaty, které akceptují jazyky, ale i jako na zařízení počítající (vyčíslující) funkce na množině řetězů (slov) nad nějakou abecedou, případně též i na množině přirozených čísel. Pro jednoduchost předpokládejme, že přirozená čísla budeme reprezentovat v unární číselné soustavě, tj. číslo i G No zapíšeme jako řetěz 0' (nulu reprezentujeme prázdným řetězem). Uvažujme funkci arity k; jejich k argumentů i \, z 2, • • • ,h můžeme j ednoznačně reprezentovat řetězem 0n\0'2\ .. A0'k. Turingův stroj A4 počítá funkci / : Nq —> No právě když A4 akceptuje vstupní řetěz O'110'21 ... \0'k a obsah jeho pásky v akceptující konfiguraci je >0"3U£O, kde m = f(i\, Í2, ■ ■ ■ , h)- Nevylučujeme možnost existence vstupu tvaru Qfl\ ... \0lk, který TM zamítne anebo pro který cyklí, resp. který akceptuje, ale nevypočte žádnou hodnotu (obsah pásky není požadovaného tvaru). Podotýkáme, že jeden Turingův stroj může počítat funkci jedné proměnné, jinou funkci dvou proměnných atd. Funkce / : Nq —> No se nazývá částečně rekursivní právě když existuje Turingův stroj počítající funkci /; rekursivní právě když existuje Turingův stroj počítající funkci / a navíc funkce /je totální. Hodnota částečně rekursivní funkce nemusí být definována pro všechny vstupní argumenty. Všechny běžné aritmetické funkce, jako například součet, násobení, faktoriál, jsou rekursivní. Přirozeným způsobem lze definici rozšířit i pro funkce nad libovolným jiným definičným oborem a oborem hodnot. Zejména tedy můžeme definovat fuknce typu E x ... x E <— E nad řetězci (slovy) nad nějakou abecedou E, které můžeme považovat za (jednosměrné) seznamy znaků abecedy. Takto lze snadno definovat obvyklé funkce zřetězení (slov, seznamů) a další standardní funkce pro práci nad seznamy, jako například heah, tail, cons, append a další. 4.2 Metody konstrukce Turingových strojů Turingův stroj můžeme programovat podobně jako počítač. Tím, že určujeme přechodovou funkci Turingova stroje, píšeme pro něj vlastně program. Abychom byli schopni naprogramovat i komplikované Turingovy stroje, uvádíme několik triků resp. konceptuálni ch pojmů, které mohou tento úkol učinit snadnějším. Zapamatování v řídící jednotce Prostřednictvím stavu si Turingův stroj může zapamatovat konečně mnoho různých informací. V takovém případě je vhodné zapisovat (pojmenovat) stav jako uspořádanou dvojici. Hodnota v první složce řídí činnost stroje; ve druhé složce je uložena informace, kterou si stroj potřebuje zapamatovat. Definice Turingova stroje zůstává nezměněna, stav jako uspořádaná dvojice je jenom naše vlastní interpretace (označení). Příklad 4.2. Mějme jazyk L slov nad {a, b}, které začínají a končí stejným symbolem, tj.: L = {xux I x G {a, b}, u G {a, b}*} U {a, b}. 4.2. METODY KONSTRUKCE TURINGOVÝCH STROJŮ 111 Turingův stroj M. přečte první symbol vstupního řetězu a zapamatuje si ho ve svém stavu — změní stav na [q\, a] resp. [q\, b]. Dále posouvá hlavu doprava, dokud nenarazí na prázdné políčko. Posune hlavu o jednu pozici doleva a akceptuje právě když symbol zapsaný na snímaném políčku j e shodný se symbolem, který si zapamatoval ve svém stavu. Formálně, M = (Q, E, T, >, U, S,s, qaCcept-,qr eject), kde Q = {s, qaccept,qreject, [qi,a], \qi, a], [q\,b], [q2, b]}, E = {a, b}, r = e u{t>,u}. Přechodová funkce je určena tabulkou: > a b U s (s,>,R) ([ť/l, a], a, R) (íqi,b],b,R) vir eject-, ■> ) [qua] — ([ť/l, a], a, R) ([qua], b, R) ([q2,a],U,L) [q\,b] — (íqi,b],a,R) ([qub],b,R) ([ť/2, ô], U, Z) [q2,a] — {q accept -, » ) \Qr eject-, » ) — VqiM — \Qr eject-, » ) {q accept, -, ) — Označování symbolu Označování symbolu je užitečný trik, který najde uplatnění především v situacích, kdy potřebujeme porovnat jisté skupiny symbolů. Použití techniky ilustruje příklad 4.1. V něm se symbol, který už byl „započten", označil (tj. přepsal symbolem X). Jiný způsob užití této techniky ilustruje následující příklad. Příklad 4.3. Nechť L = {w \ w e {a}*, \w\ =2", n > 1}. Turingův stroj akceptující jazyk L může postupovat tak, že označí polovinu symbolů na pásce a druhou polovinu nechá neoznačenu. Realizace je taková, že prochází slovo zleva doprava a každý druhý symbol a přepíše symbolem A. Pak posune hlavu na začátek pásky. V dalším průchodu se stroj znovu snaží přepsat polovinu doposud neoznačených symbolů a atd. Pokud je délka vstupního slova mocninou 2, stroj dojde do situace, kdy na pásce je jenom jeden symbol a a akceptuje. V opačném případě nastane někdy během výpočtu situace, ve které se stroj snaží rozdělit na dvě stejné poloviny řetězec liché délky; stroj zamítne. Formálně, M = (Q, E, T, >, U, 8,s, qaCcept,qreject), kde \2. = {/S» '» W-, qaccept-, qrejects, E = {a}, r = e u{>,u,^}. Přechodová funkce je určena tabulkou: > a A u s (s,>,R) {ha, R) (s, A, R) (n, u, L) I — (s, A, R) (l,A,R) (k, u, L) n (s, >, R) (n, a, L) (n, A, L) k — (k, a, L) (k, A, L) k (qaccept i ■> ) Kqr eject-, ■> ) (k, A, L) Otázka 4.4. Modifikujte stroj M. tak, aby rozhodoval jazyk L. 112 KAPITOLA 4. TURINGOVY STROJE A JAZYKY TYPU O Násobné stopy Představme si, že Turingův stroj má „širokou" pásku, která je rozdělena na A: stop, pro libovolné konečné k. Situace pro k = 3 je naznačena na obrázku 4.2. Pracovní abeceda stroje obsahuje £-tice symbolu, jeden znak pro každou stopu. Pro lepší názornost je na obrázku &-tice symbolu zapsána ve svislé poloze a jednotlivé položky jsou odděleny vodorovnou čárou. > 1 0 1 1 1 1 u u u u u 1 0 1 1 0 0 1 0 1 Obrázek 4.2: Páska se 3 stopami Příklad 4.5. Sestrojme Turingův stroj, který jako vstup dostane přirozené číslo zapsané v binární soustavě. Akceptuje právě když vstup je prvočíslem. Stroj „rozdělí" svou pásku na tři stopy tak, že svou hlavu posouvá doprava a symbol 1 (0) přepíše symbolem [1, U, U] ([0, U, U]). Na druhou stopu postupně píše binárně čísla 2, 3, 4, ... Pro každé číslo i zapsané na druhé stopě testuje, zda i dělí vstup. Provádí to tak, že od vstupu opakovaně na třetí stopě odečítá i. Na obrázku 4.2 je zachycena situace, kdy TM testuje, zda-li číslo 47 je prvočíslem. Na druhé stopě je zapsáno číslo 5, které už dva krát odečetl od 47 a proto na třetí stopě je zapsáno 37. Podprogramy Podobně jako v programování, je i při konstrukci Turingova stroje výhodné použít „modulární" přístup, tedy přístup shora dolů. Turingův stroj dokáže simulovat libovolný typ procedury, s jakou se můžeme setkat v běžných programovacích jazycích, včetně rekursiv-ních procedur a různých způsobů předávání parametrů. Trik jev tom, že můžeme napsat program Turingova stroje, který budeme využívat jako proceduru. Program má specifikovaný počáteční a koncový stav. Pro koncový stav není zatím definován žádný přechod. Když Turingův stroj chce zavolat tuto proceduru, udělá to tak, že přejde do jejího počátečního stavu. Samozřejmě předpokládáme, že stavy procedury jsou disjunktní se stavy Turingova stroje. Návrat z procedury se realizuje přechodem z koncového stavu procedury do určeného stavu Turingova stroje, který byl například zapsán na pásku jako „návratová adresa". 4.3 Modifikace Turingových strojů Jedním z argumentů pro to, aby Turingův stroj byl považován za obecný model výpočtu, je jeho robustnost. Mnohé modifikace TM, které se na první pohled zdají býti silnějšími nebo naopak slabšími, jsou ve skutečnosti výpočtově ekvivalentními, tj. akceptují (i rozhodují) stejnou třídu jazyků. 4.3. MODIFIKACE TURINGOVÝCH STROJŮ 113 Turingův stroj s obousměrně nekonečnou páskou Jedním z nejjednodušších rozšíření Turingova stroje je obousměrně nekonečná páska. Jak vyplývá z jeho názvu, páska je nekonečná jak směrem doprava, tak i doleva. Jeho výpočtová sílaje stejná ve srovnání se základním modelem TM. Turingův stroj simulující TM s obousměrně nekonečnou páskou bude mít dvě stopy: jedna bude reprezentovat políčka vpravo od políčka, které se čte na začátku výpočtu (včetně tohoto políčka), druhá bude v obráceném pořadí reprezentovat políčka vlevo od počátečního políčka. Vztah mezi oběma stroji je naznačen na obrázku 4.3. Políčko, na které ukazuje šipka, bylo čteno na začátku výpočtu. U u c a b a c c c a b c c u u t > c c c a b c c u u a b a c u u u Obrázek 4.3: Simulace obousměrně nekonečné pásky jednosměrně nekonečnou páskou. Turingův stroj s více páskami Vícepáskový Turingův stroj se skládá z řídící jednotky, která má k hlav na k (jednosměrně nekonečných) páskách; k je pevně dané přirozené číslo. Na začátku výpočtu je vstupní řetěz zapsán na první pásce. Ostatní pásky mají na nejlevějším políčku zapsán symbol > (levá koncová značka) a zbylé políčka jsou prázdné (obsahují symbol u). V jednom kroku výpočtu stroj přečte k symbolů zapsaných na políčkách snímaných k hlavami. Na základě této informace, a v závislosti na svém stavu, stroj zapíše nový symbol na každé snímané políčko, změní svůj stav a každou z k hlav buď posune (doprava nebo doleva) anebo nezmění její pozici. Přechodová funkce ^-páskového TM je zobrazení množiny (Q\ viaccept-, (Irejects) x 1 do množiny {L, R, S}k (symbol S vyjadruje skutečnost, že pozice hlavy se nemění). Příklad 4.6. Sestrojíme dvoupáskový Turingův stroj rozhodující jazyk L = {anb"2 | n > 0} . Jazyk L obsahuje slova nad abecedou {a, b} taková, že počet symbolů b je druhou mocninou počtu symbolů a. Výpočet Turingova stroje M. na vstupu w bude sledovat nesledové schema: 1. Současně posouvá obě hlavy doprava a na druhou pásku zapisuje symbol A, dokud na první pásce nenarazí na první symbol b (stav q). Druhou hlavu posune na začátek pásky (stav n). 114 KAPITOLA 4. TURINGOVY STROJE A JAZYKY TYPU O 2. Druhá hlava hledá symbol A (stav h a); když ho najde, přepíše ho symbolem B (stav n a) a přesune se na začátek pásky. 3. Obě hlavy se současně posouvají směrem doprava (stav o), dokud druhá hlava nenarazí na první symbol U. 4. Druhá hlava se posune na začátek pásky (stav n) a výpočet pokračuje bodem 2. 5. K akceptování dojde, když jsou současně splněny tyto podmínky: (a) obě hlavy současně přečetly symbol U a (b) všechny symboly A na druhé pásce byly přepsány symbolem B (toto se ověří ve stavu k). Formálně, M = {Q, E, T, >, U, 8, s, qaccePt,qreject), kde Q = {q, n, h a,n a, o, k, qaCcePt,qreject), E = {a, b}, T = E U{>,U,A,B}. Přechodová funkce j e určena takto: 8(q, >, » = (q, >, >, R, R) 8{nA, b, B) = (nA, b, B, S, L) 8(q, a, U) = (q, a, A, R, R) 8(nA, b, >) = (o, b, >, S, R) 8(q,b,\J) = (n,b,u,S,L) 8(o,b,B) = (o,b,B,R,R) 8(n, b, A) = (n, b, A, S, L) 8(o, b, A) = (o, b, A, R, R) 8(n, b, B) = (n, b, B, S, L) 8(o, b, u) = (n, b, u, S, L) 8(n, b, » = (hA, b, >, S, R) 8(o, u, u) = (k, u, u, S, L) 8(hA, b, B) = (hA, b, B, S, R) 8(k, u, B) = (k, u, B, S, L) 8(hA, b, A) = (nA, b, B, S, L) 8(k, U, » = (qaccept, U, >, S, S) Pro všechny ostatní kombinace (stav, čtené symboly) definujeme hodnotu funkce 8 jako přechod do zamítajícího stavu qreject ■ Nechť )C je ^-páskový TM. Ukážeme, jak je možno sestrojit (jednopáskový) TM J, který simuluje výpočet stroje tC. Páska stroje J bude rozdělena na k stop. Každá stopa reprezentuje obsah jedné pásky stroje )C. Navíc, každá stopa obsahuje právě jeden speciálně označený symbol indikující, které políčko právě snímá zodpovídající hlava stroje )C. Na začátku výpočtu si J upraví odpovídajícím způsobem svou pásku. Pro vstup a\ci2 .. .an bude mít upravená páska podobu zachycenou na obrázku 4.4. Aby stroj J odsimuloval jeden krok stroje )C, musí J postupně přečíst každé políčko označené speciální značkou • a označené symboly si zapamatovat ve svém stavu. Formálně, J prochází svou pásku zleva doprava, dokud nenajde všech k značek a ve svém stavu si pamatuje uspořádanou £-tici symbolů. Hlava se vrátí na levou koncovou značku. Po shromáždění všech potřebných údajů J zjistí, který krok by vykonal stroj K, a realizuje ho 4.3. MODIFIKACE TURINGOVÝCH STROJŮ 115 > • > a\ ai Cln u u • > U u u • > u u u • > u u u Obrázek 4.4: Simulace 4 pásek pomocí jedné. tím, že znovu prochází svou pásku. Vždy, když narazí na speciální značku, změní patřičným způsobem obsah políčka a posune značku doleva anebo doprava. Nakonec J opět posune svou hlavu na levou koncovou značku a začíná simulovat další krok stroje tC. Na rozdíl od předcházející simulace (obousměrně nekonečná —> jednosměrně nekonečná páska), je v tomto případě na simulaci jednoho kroku původního stroje potřebných více kroků. Otázka 4.7. Navrhněte TM se třemi páskami, akceptující jazyk z příkladu 4.1. Srovnejte počet kroků, které musí udělat stroj z příkladu 4.1, než akceptuje vstup délky n, a které musí udělat Vámi navržený stroj. Nedeterministický Turingův stroj Rozdíl oproti původnímu (deterministickému) Turingovu stroji spočívá v tom, že pro daný stav a snímaný symbol má nedeterministický stroj obecně několik možností pro následující krok. Každá možnost zahrnuje nový stav, symbol, který se má zapsat na pásku a směr, kterým se má posunout hlava. Nedeterministický stroj akceptuje právě když existuje výpočet (tj. nějaká posloupnost výběru kroků) vedoucí do akceptující konfigurace. Definice 4.8. Nedeterministický Turingův stroj je 9-tice M. = (Q, E, T, t>, U, 8, qo, qaccept, Ireject), kde význam všech složek je stejný jako v definici 4.1, s výjimkou přechodové funkce. Taje definována jako (totální) zobrazení 8 : (Q \ {qaccept, qreject}) x T —> Stejně jako v případě deterministických TM, je možné definovat jazyk M. pomocí pojmů konfigurace a krok výpočtu; jediná změna je v definice relace krok výpočtu: relace | je definována předpisem (p,z,n) M (q, s%(z), n + 1) právě když 3 (q, b, R) e 8(p, zn) (q, s%(z), n — \) právě když 3 (q, b, L) e 8(p, zn) Výpočet TM M. na vstupu w si můžeme pro názornost představit jako strom (tzv výpočtový strom), jehož vrcholy jsou konfigurace (kořen je počáteční konfigurace A4 na w) a jednotlivé cesty odpovídají různým výpočtům Ainaw. Stroj M. akceptuje vstup w právě když ve výpočtovém stromu existuje cesta z kořena do listu odpovídajícímu akceptující konfiguraci. I v tomto případě, i když je to možná poněkud překvapující, se dá navrhnout simulace (deterministickým) Turingovým strojem. 116 KAPITOLA 4. TURINGOVY STROJE A JAZYKY TYPU O Věta 4.9. Pro každý nedeterministický Turingův stroj existuje ekvivalentní deterministický Turingův stroj. Důkaz: Nechť M = {Q, E, T, t>, U, 8, qo, qaccept, qreject) je nedeterministický TM. Navrhneme deterministický TM T> simulující nedeterministický stroj N'. Simulace je založena na tom, že stroj V prozkoumá všechny výpočty stroje M a zjistí, jestli některý z nich obsahuje akcetpující konfiguraci. Když si výpočty stroje M na vstupu w představíme jako výpočtový strom, tak prohledání výpočtů znamená vlastně prohledání stromu. Je třeba si ale uvědomit, že z dvou možných způsobů, které přicházejí do úvahy — prohledávání do hloubky a do šířky —je jen jeden korektní. Protože výpočtový strom může být nekonečný, můžeme se při prohledávání do hloubky dostat do situace, kdy sledujeme jednu konkrétní, nekonečnou cestu a nikdy se nedostaneme k prozkoumání ostatních cest, z nichž některá může vést do akceptující konfigurace. Stroj V bude mít 3 pásky. První páska obsahuje vstupní řetěz a její obsah se v průběhu výpočtu nemění. Na druhé pásce simuluje V výpočet stroje M. Na třetí pásce si V uchovává informaci určující, který vrchol výpočtového stromu právě prohledává. Specifikujeme nejdříve, jakým způsobem stroj V reprezentuje informaci na třetí pásce. Každý vrchol výpočtového stromu má nejvýše b následníků, kde b je maximální kardinalitamnožiny 8(q, a), b = max{\8(q,a)\ \ q e Q,a e F} . Každý vrchol stromu označíme řetězem nad abecedou £& = {1,2,... ,b}. Například řetězem 314 označíme vrchol (konfiguraci), do kterého se dostaneme z kořenu (počáteční konfigurace) když si v prvním kroku výpočtu vybereme třetího následníka, v druhém kroku prvního a v třetím kroku čtvrtého následníka (obr. 4.5). Každý symbol v řetězu určuje, kterého následníka si máme vybrat při simulaci dalšího kroku výpočtu. Může nastat situace, kdy symbolu neodpovídá žádný následník - v takovém příapdě je řetěz kódem neplatného výpočtu. Kořen stromu je označen řetězem e. Informace na třetí pásce stroje V je reprezentována právě jako řetěz nad abecedou £&. Teď již jsme připraveni popsat výpočet stroje V. 1. Na začátku obsahuje první páska vstup w; druhá a třetí páska jsou prázdné. 2. Zkopíruje obsah první pásky na druhou pásku. 3. Na druhé pásce simuluje výpočet M na vstupu w, přičemž v každém kroku se rozhoduje podle následujícího symbolu z třetí pásky, kterým směrem pokračovat v simulaci. Když všechny symboly z třetí pásky byly přečteny, nebo řetěz na třetí pásce je kódem neplatného výpočtu, nebo simulovaný výpočet se dostal do zamítající konfigurace, tak V pokračuje bodem 4. Když se simulovaný výpočet dostane do akceptující konfigurace, tak V akceptuje. 4. Řetěz na třetí pásce nahradí řetězem, který za ním následuje v lexikografickém uspořádání. Pokračuje bodem 2. (tj. simulací dalšího výpočtu stroje Af). Je tedy vidět, že jazyky akceptované strojem V a strojem Aí jsou si rovny, což jsme měli dokázat. D 4.3. MODIFIKACE TURINGOVÝCH STROJŮ 117 •e - • 1 »2 • 11 •111 »311 • 1111 Obrázek 4.5: Výpočtový strom a jeho značení Poznamejme, že pokud stroj M z právě uvedeného důkazu neakceptuje a zamítá, pak simulující stroj V může cyklit, což však na akceptovaný jazyk nemá vliv. Důsledek 4.10. Jazyk je rekursivně spočetný právě když je akceptován nějakým nedeterministickým Turingovým strojem. Konečně poznamenejme, že tvrzení analogické větě 4.9 by platilo i pro úplný nede-termistický TM a rozhodování jazyků (definici tohoto stroje ponecháváme čtenáři; zejména by v libovolném výpočetním stromu takového stroje neexistovaly žádné nekonečné cesty). Simulující deterministický stroj V by pak bylo možno zkonstruovat tak, aby byl rovněž úplný. Turingův stroj s oddělenou vstupní páskou Jedná se o model, ve kterém má stroj dvě pásky: vstupní a pracovní. Vstupní řetězec je zapsán na vstupní pásce, z níž může stroj jen číst (nesmí měnit její obsah). V závislosti na tom, zda se hlava na vstupní pásce může pohybovat jenom doprava resp. oběma směry, hovoříme o on-line resp. off-line Turingových strojích. Zřejmě tato modifikace neovlivní výpočetní sílu TM. Všechny doposud uvažované modifikace byly rozšířeními základního modelu. Následující modely by na první pohled mohly mít méně výpočetních možností než Turingovy stroje; o všech však prokážeme, že jejich výpočetní sílaje stejná jako u Turingových strojů. Stroj se dvěma zásobníky Jedná se o Turingův stroj se vstupní páskou, který má místo pracovní pásky dva zásobníky. Výpočet (jednopáskového) TM dokáže stroj se dvěma zásobníky simulovat takto: do prvního zásobníku si uloží tu část pásky TM, která je vlevo od políčka právě snímaného hlavou, přičemž na vrcholu zásobníku je symbol bezprostředně vlevo od snímaného symbolu. Zbývající část pásky si uloží do druhého zásobníku tak, že právě čtený symbol je •31 _ »32 •312 »313 »314 118 KAPITOLA 4. TURINGOVY STROJE A JAZYKY TYPU O na vrcholu zásobníku. Pohyb hlavy doleva (doprava) je simulován přesunem vrcholového symbolu prvního (druhého) zásobníku na vrchol druhého (prvního) zásobníku. Například páska (pozice hlavy je naznačena šípkou) > a a a a a u u t je simulována zásobníky a a a 1 a a 1 Všimněme si ještě, jakým způsobem stroj manipuluje se zásobníkem. V každém kroku zjišťuje, jaký symbol je uložen na vrcholu zásobníku a následně buď tento symbol ze zásobníku odstraní, nebo na vrchol přidá nový symbol. Stroj s dvěma počitadly Obecně, ^-počitadlový stroj je Turingův stroj se vstupní páskou a s A: pracovními páskami, který navíc splňuje tyto požadavky: • na každou z pracovních pásek může stroj zapisovat jenom jeden ze dvou symbolů: > (levá koncová značka) a U (symbol pro prázdné políčko), • symbol > je na začátku zapsán na levém krajním políčku pracovní pásky a nikdy se nesmí objevit na jiném políčku. Když hlava snímá z-té políčko pracovní pásky, můžeme to interpretovat jako fakt, že stroj má uloženo v paměti celé nezáporné číslo z. Přitom v každém kroku výpočtu stroj testuje, zda číslo uložené na pásce je rovno nule (čte se symbol >) nebo různé od 0 (čte se symbol u). V každém kroku může stroj hodnotu zapamatovaného čísla zvětšit anebo zmenšit (to v případě, že je nenulové) o jedničku tím, že svou hlavu posune doprava nebo doleva. Namísto termínu počitadlo se lze často setkat s termínem čítač (anglicky counter). Mírná modifikace (rozdíl se týká jen způsobu zápisu) počitadlového stroje je známá jako Minského stroj (dle matematika Marvina Minského). Formálně lze tento stroj (s k počitadly) definovat jako konečnou posloupnost instrukcí s návěštími (program) tvaru: Iq : příkazQ,... ,l„-\ : příkazn_\, ln : stop, kde každá z instrukcí // : příkazi, z e (0, n — 1} je tvaru buď lp : Ci :=Ci + 1; goto lq lp : if Ci = 0 then goto lq else c i := Cj — 1; goto lr 1 < z < k, nebo 1 < z < k . Počáteční konfigurace , pokud není řečeno jinak, je definována tak, že čítač instrukcí je nastaven na /o, hodnoty počitadel c\,... , c\ kódují požadovaný vstup. 4.3. MODIFIKACE TURINGOVÝCH STROJŮ 119 V literatuře je možno se setkat i s dalšími modifikacemi. Všechny mají společné to, že stroj si může do paměti uložit (několik) libovolně velkých čísel, přičemž o každém z nich je schopen zjistit jenom to, jestli je rovno 0 anebo různé od 0. Navíc, v jednom kroku výpočtu může změnit hodnotu každého z čísel maximálně o 1, či jinou, předem danou celočíselnou konstantu. Nás bude zajímat vztah počitadlových a Turingovych strojů. Nejdříve ukážeme, že dvě počitadla se dají simulovat jedním zásobníkem. Jak už víme, Turingův stroj se dá simulovat strojem s dvěma zásobníky. Spojení obou poznatků nám umožní dokázat ekvivalenci Turingovych strojů a strojů s 4 počitadly. Lemma 4.11. Stroj s jedním zásobníkem se dá simulovat strojem s dvěma počitadly. Důkaz: Nechť A4 je stroj s jedním zásobníkem, jehož pracovní abeceda sestává ze symbolů Z\,... , Zk-\ (tj. stroj má A: pracovních symbolů). Předpokládejme, že obsah zásobníku stroje M. je Z;i • • • Z,m (vrchol zásobníku je vpravo). Chceme ukázat, jakým způsobem je možné tutéž informaci uložit do jednoho počitadla. K tomu si stačí uvědomit, že na řetěz Z;i • • • Z,m můžeme nahlížet jako na poziční zápis čísla i\ • km~l + ii • km~2 + -----\-im-\ -k + im v £-adické soustavě. Na druhé straně, v počitadle si stroj pamatuje číslo zapsané v unární soustavě. Proto zásobník Zjl • • • Zjm se dá jednoznačně reprezentovat v počitadle jako číslo j = im + k • im-\ + k2 • im-2 + • • • + km~l • i\. Dále potřebujeme ukázat, jak stroj s počitadly dokáže simulovat operace nad zásobníkem, tj. přidání a odebrání symbolu ze zásobníku a přečtení symbolu z vrcholu zásobníku (srovnej s přecházejícím odstavcem). • Přidání symbolu do zásobníku Předpokládejme, že na vrchol zásobníku je přidán symbol Zr. Pak číslo reprezentující tento nový obsah zásobníku je právě j • k + r. To znamená, že potřebujeme vynásobit předešlý obsah počitadla číslem k a připočíst k němu r. Proto opakovaně (předpokládáme, že číslo j je uloženo v 1. počitadle a 2. počitadlo je prázdné) - 1. počitadlo posune svou hlavu o 1 políčko doleva zatímco - 2. počitadlo posune svou hlavu o k políček doprava. Jakmile 1. počitadlo je na dně (čte se symbol >), pak 2. počitadlo obsahuje číslo k- j, k němuž lehce (pomocí konečně stavové řídící jednotky, bez manipulace s počitadly) připočteme r (r e {l, k — 1}). • Odebrání symbolu ze zásobníku Z vrcholu je odebrán zymbol Zjm a číslo reprezentující změněný zásobník je j div k. Abychom dosáhli odpovídající situaci v počitadle, opakovaně - 1. počitadlo posune svou hlavu o k políček doleva a - 2. počitadlo posune svou hlavu o 1 políčko doprava. Jakmile 1. počitadlo dosáhne dna, je ve 2. počitadle číslo j div k. • Přečtení symbolu na vrcholu zásobníku V 1. počitadle je uloženo číslo j a na zjištění, který symbol je na vrcholu zásobníku musíme vypočítat j mod k. Toho dosáhneme tak, že kopírujeme obsah 1. počitadla do 2. počitadla a ve stavové jednotce přitom počítáme j mod k. D 120 KAPITOLA 4. TURINGOVY STROJE A JAZYKY TYPU 0 Důsledek 4.12. Každý Turingův stroj lze simulovat strojem s 4 počitadly. Nyní ukážeme, že právě navrženou simulaci je možné ještě zoptimalizovat. Věta 4.13. Každý Turingův stroj lze simulovat strojem s 2 počitadly. Důkaz: Potřebujeme ukázat, že stroj s 4 počitadly se dá simulovat strojem s 2 počitadly. Nechť 4 simulovaná počitadla mají poradě hodnoty i,j,k, l. Jedno simulující počitadlo může reprezentovat všechny 4 výše uvedené počitadla číslem n = 2'3j5 7 (2, 3, 5, 7jsou prvočísla, a tedy z n lze jednoznačně určit hodnoty z, j, k, l). Nyní zvýšit číslo z, j, k nebo / o 1 znamená násobit číslem 2, 3, 5 nebo 7. K tomu využijeme 2. počitadlo, které nastavíme na nulu a opakovaně • 1. počitadlo posune svou hlavu o 1 políčko doleva zatímco • 2. počitadlo posune svou hlavu o 2 (resp. 3, resp. 5, resp. 7) políček doprava. Jakmile 1. počitadlo je na nule, 2. počitadlo obsahuje číslo 2n (resp. 3/7, resp. 5zz, resp. In). Analogicky snížit z, j, k nebo / o 1 znamená dělit číslem 2, 3, 5 nebo 7. K dokončení zbývá ukázat, jak se provede test na nulu (tzn. jak se zjistí, zda obsah konkrétního počítadla je roven nule nebo různý od nuly). K tomu se obsah 1. počitadla (n) zkopíruje do 2. počitadla a přitom se testuje, zda n mod 2 (resp. n mod 3, resp. n mod 5, resp. n mod 7) je rovno nule. D Důsledek 4.14. Libovolný stroj s k počitadlami lze simulovat strojem s 2 počitadly. Upozorněme, že simulace jednoho kroku TM si vyžaduje obrovský počet kroků stroje se 2 počitadly. Stroj s jedním počitadlem je slabší než TM - de facto se jedná o speciální případ PDA se zásobníkovou abecedou {Zo, /}, kde Zq smí označovat pouze dno zásobníku (takto je umožněn test na nulu) a počet symbolů / na zásobníku odpovídá hodnotě počitadla. Jazyky akceptovaných těmito stroji s jedním čítačem se v anglické literatuře nazývají one-counter languages. Konečně upozorněme, že pro vlastní převod libovolného vstupního slova Turingova stroje do počáteční konfigurace stroje s počitadly potřebujeme 3 počitadla; konstrukci zde neuvádíme a lze ji nalézt v literatuře. 4.4 Vlastnosti rekursivních a rekursivně spočetných jazyků Cílem je prozkoumat uzavřenost vůči elementárním operacím U, D, •,* a komplementu. V případě prvních čtyř budou důkazové techniky podobné těm, které byly použity při zkoumání uzáverových vlastností regulárních a bezkontextových jazyků. Věta 4.15. Třídy rekursivních a rekursivně spočetných jazyků jsou uzavřeny vzhledem k operacím U, D, •, a*. Důkaz: Nechť L\, L2 jsou jazyky akceptovány Turingovými stroji M.\, M.2- Bez újmy na obecnosti můžeme předpokládat, že A41 a Mi mají disjunktní množiny stavů. Nedeterministický stroj .Mu, akceptující L \ UZ2, dostaneme sjednocením strojů M\ a M.2 (obr. 4.6). Stroj .Mu bude mít navíc nový počáteční stav. V prvním kroku výpočtu 4.4. VLASTNOSTI REKURSIVNÍCH A REKURSIVNĚ SPOČETNÝCH JAZYKŮ 121 ľ \ ACCEPT r Mi J ACCEPT^__^-——^ REJECT~-—~^_ REJECT w ACCEPT r v. Mi J REJECT*-—~—^ REJECT Mu j Obrázek 4.6: Konstrukce TM pro sjednocení dvou jazyků A4 u nedeterministicky přejde buď do počátečního stavu stroje M\, nebo do počátečního stavu stroje Mi. V dalším simuluje výpočet zvoleného stroje. Stroj Mc\, akceptující L\ D Z2 (obr. 4.7), bude mít pásku se třemi stopami. Na první stopě je zapsán vstupní řetěz a její obsah se v průběhu výpočtu nemění. Stroj Mn okopíruje svůj vstup w na druhou stopu a na ní simuluje výpočet M\ na w. V případě, že M\ akceptoval, okopíruje vstup w na třetí stopu a na ní pak simuluje výpočet M2 na w. Jestliže AI2 akceptoval, pak A4n též akceptuje. w w ^ ACCEPT ^ ACCEPT REJECT REJECT M( ACCEPT REJECT Obrázek 4.7: Konstrukce TM pro průnik dvou jazyků Nedeterministický stroj M0, akceptující L\ • L2, bude mít pásku se třemi stopami. Na první stopě je zapsáno vstupní slovo. Stroj překopíruje nějaký (může být i prázdný) prefix vstupního slova na druhou stopu — délku prefixu určí nedeterministicky. Symboly, které byly okopírovány se na první stopě oznackují. Na druhé stopě pak Mo simuluje výpočet Ali. V případě, že simulovaný výpočet skončí v akceptující konfiguraci, tak Af0 122 KAPITOLA 4. TURINGOVY STROJE A JAZYKY TYPU O překopíruje na třetí stopu zbylou (neoznačkovanou) část vstupu a simuluje výpočet A4 2 na řetězu zapsaném natretí stopě. A40 akceptuje právě když A4 2 akceptuje. Nedeterministický stroj M*, akceptující Z* je zobecněním stroje A40. Za předpokladu, že stroje M\ a M2 jsou úplné, budou i stroje Mu, A4n, A4, a M* úplné. To dokazuje platnost věty i v případě rekursivních jazyku. D Poslední elementární operací nad jazyky je komplement (doplněk). Vzhledem k této operaci se třídy rekursivní ch a rekursivně spočetných jazyků chovají rozdílně. Zatímco komplement rekursivního jazyka je vždy rekursivní jazyk, komplement rekursivně spočetného jazyka nemusí být rekursivně spočetný. Věta 4.16. Třída rekursivních jazyků je uzavřena vzhledem k operaci komplementu. Důkaz: Nechť Z je jazyk akceptovaný úplným deterministickým Turingovym strojem M = (Q, E, T, >, U, 8, qo, t, r). Stroj CO-A4, akceptující jazyk CO-Z = E* - Z, získáme tak, že všude v definici přechodové funkce 8 zaměníme navzájem akceptující stav qaCcept a zamítající stav qreject (obr. 4.8). Protože M je úplný, bude i CO-A4 úplný. D f A co-A4 I_____________________________________________________/ Obrázek 4.8: Konstrukce TM pro komplement rekursivního jazyka Poznamenejme, že pokud stroj M z předchozího důkazu není úplný, pak jazyk Z (CO-A4) nemusí být roven CO-Z. Stačí uvážit slovo w, na kterém A4 cyklí. Pak i CO-A4 na w cyklí, a tedy w $. Z (CO-A4). Současně však w e CO-Z. Z uvedené úvahy samozřejmě ještě nevyplývá, že třída rekursivně spočetných jazyků není uzavřena vůči komplementu. Věta 4.17. Nechť jazyk L i jeho komplement CO-Z jsou rekursivně spočetné. Pak jazyky L a CO-Z jsou rekursivní. Důkaz: Předpokládejme, že A41 a A42 jsou Turingovy stroje akceptující poradě jazyky Z a CO-Z. Sestrojíme Turingův stroj A4, který bude na vstupu w současně simulovat výpočet A4i na w i výpočet A42 na w. Formálně, stroj A4 bude mít dvě stopy, jednu pro každý simulovaný výpočet. A4 střídavě simuluje jeden krok výpočtu stroje A4i (na první stopě) a jeden krok výpočtu stroje A42 (na druhé stopě). A4 akceptuje vstup, právě když ho akceptuje A41 a A4 zamítá vstup, právě když ho akceptuje A42- Protože každý řetěz w patří 4.5. TURINGOVY STROJE A JAZYKY TYPU O 123 buď do jazyka Z anebo do jazyka CO-Z, výpočet A4 se pro každý vstup zastaví. Proto Z je rekursivní. Rekursivi ta jazyka CO-Z plyne z věty 4.16. D Poznamejme, že výše uvedená věta je známa jako Postova věta a je též uváděna jako tvrzení: L je rekursivní -<==>■ Z a CO^L jsou rekursivní. Platnost tohoto tvrzení je vzhledem k právě dokázané větě 4.17 a větě 4.16 zřejmá. Důsledkem uzavřenosti třídy rekursivně spočetných jazyků k operaci komplementu by byla rovnost tříd rekursivních a rekursivně spočetných jazyků. V následující kapitole (věta 5.6) ukážeme, že tyto dvě třídy nejsou stejné, a proto třída rekursivně spočetných jazyků není uzavřena na komplement. Věty 4.16 a 4.17 mají i další zajímavé důsledky. Například, že pro jazyk Z a jeho komplement CO-Z může nastat jen jedna z těchto tří možností: 1. oba jazyky Z a CO-Z jsou rekursivní; 2. žádný z jazyků Z a CO-Z není rekursivně spočetný a 3. jeden z jazyků Z a CO-Z je rekursivně spočetný ale není rekursivní, druhý není rekursivně spočetný. 4.5 Turingovy stroje a jazyky typu 0 Cílem této části je ukázat, že gramatiky typu 0 (též známé jako frázové gramatiky) jsou výpočetně ekvivalentní Turingovým strojům. Jinými slovy, že třída jazyků generovaných gramatikami typu Oje právě třída rekursivně spočetných jazyků. I když oba formalismy jsou stejně expresívni, rozdíl mezi nimi je ve způsobu, jakým popisují uvedenou třídu jazyků. Zatímco TM je ve své podstatě návodem, jak rozpoznat, zda dané slovo patří do jazyka, tak formální gramatika je návodem, jak vytvořit slovo patřící do jazyka. První z následujících dvou lemmat prokazuje, že každá gramatika typu 0 generuje rekursivně spočetný jazyk; druhá pak opačnou implikaci. Lemma 4.18. Nechť L je jazyk generovaný gramatikou typu 0. Pak L je rekursivně spočetný. Důkaz: Nechť Z je jazyk generovaný gramatikou Q = (N, E, P, S) typu 0. Sestrojíme nedeterministický Turingův stroj A4 akceptující jazyk Z. Stroj A4 bude mít dvě stopy. Na první stopě je zapsán vstupní řetěz a její obsah se v průběhu výpočtu nemění. Na druhé stopě simuluje A4 odvození v Q a je na ní zapsána (do daného okamžiku vygenerovaná) větná forma a gramatiky Q. A4 inicializuje obsah druhé stopy na S a pak A4 opakovaně provádí tyto kroky: 1. Nedeterministicky vybere pozici i v řetězu a zapsaném na druhé stopě. Přesněji, počínaje nejlevějším políčkem pásky, buď posune hlavu doprava anebo zvolí momentální pozici. 2. Nedeterministicky zvolí pravidlo ß —> y gramatiky Q. 3. Je-li ß podřetězem řetězu a, začínajícím na pozici i, pak nahradí ß řetězem y. V případě, že \y\ < \ß\, „přisune" zbývající část řetězu a tak, aby nově vytvořený řetěz byl zapsán na za sebou následujících políčkách. V situaci \y\ > \ß\ je naopak 124 KAPITOLA 4. TURINGOVY STROJE A JAZYKY TYPU O zapotřebí zbývající část řetězu «„odsunout", aby vznikl prostor pro zapsání celého řetězu y. 4. Porovná vstupní řetěz, zapsaný na prvé stopě, s nově vytvořeným řetězem na druhé stopě. V případě rovnosti akceptuje, v případě neshody pokračuje bodem 1. Lehce se prokáže, že každý řetěz vytvořený na druhé stopě je větnou formou gramatiky Q a naopak, že každou větnou formu gramatiky Q je možno popsaným způsobem vytvořit. VrotoL{G) = L{M) = L. D Lemma 4.19. Nechť L je rekursivně spočetný jazyk. Pak L je generován gramatikou typu 0. Důkaz: Předpokládejme, že L je akceptován deterministickým Turingovym strojem A4 = (Q, E, r, t>, U, 8, qo, qaccept, Qreject)- Naším cílem je zkonstruovat gramatiku Q takovou, že slovo w se dá odvodit v Q, právě když w je akceptováno strojem A4. Proto odvození v gramatice musí nějakým způsobem simulovat výpočet stroje. Simulace je založena na tom, že v gramatice Q vygenerujeme dvě kopie slova w nad abecedou E a nad druhou z nich v každém kroku odvození simulujeme jeden krok výpočtu stroje A4. Pokud stroj A4 neakceptuje, odvození nikdy nepovede k terminálnímu řetězu. Formálně je Q = (N, E, P, S), kde N = {S, S', I)UgU((SU {s}) x r). Pro lepší názornost rozdělíme množinu pravidel do 3 skupin podle toho, ve které fázi odvozování je možno tato pravidla aplikovat. I Na začátku odvození potřebujeme vygenerovat nějaké slovo w a jeho kopii (nad kterou se pak bude simulovat výpočet stroje A4). Proto budeme jako neterminály používat uspořádané dvojice [x, y], podobně jako tomu bylo u TM s více stopami. Posloupnost takových neterminálů můžeme pak chápat jako dva řetězy zapsané nad sebou. Abychom mohli se spodním řetězem pracovat jako s konfigurací TM, přidáme neterminály odpovídající počátečnímu stavu stroje a levé koncové značce. Dále, abychom měli možnost rozpoznat, který symbol je poslední, přidáme na konec neterminál K. 1. S^qo[e,>]S' 2. S' —>• [a, a]S' pro každé a G E 3. S' -+ K. Aplikací pravidel 1-3 dokážeme v Q vygenerovat z počátečního neterminálů S řetěz (pro lepší pochopení jsou uspořádané dvojice zapsány svisle) K II Větná forma odvozena aplikací pravidel 1-3 obsahuje dvě informace. Na horní stopě je zapsáno slovo w e E*. Obsah dolní stopy spolu se symbolem qo určují počáteční konfiguraci výpočtu A4 na w (hlava snímá políčko bezprostředně vpravo od neterminálů určujícího stav). Druhá skupina pravidel umožní simulovat výpočet A4 na w. Přesněji, jestliže a \ M ß je krok výpočtu stroje A4 a ä iß) je větná forma obsahující na spodní stopě konfiguraci a iß), pak pravidla z druhé skupiny umožní odvozenia =ŕg ß. s Cl\ a2 Cln go > a\ ai Cln 4.6. LINEÁRNĚ OHRANIČENÉ AUTOMATY A JAZYKY TYPU 1 125 4. p[x,a] —> [x, b]q pro každé x e E U {s}; a, b e T; p, q e Q takové, že 8(p, a) = (q, b, R) 5. [y,c]p[x,a] -> q[y,c][x,b] pro každé x, y e E U {s}; a, b, c e T; p, q e Q takové, že 8(p,a) = (q, b, L) 6. pK -> [£, b]qK pro každé b e T; p, q e Q takové, že 8(p, u) = (q, b, R) 7. [y,c]pK^q[y,c][s,b]K pro každé jeSU {s}; b, c e T; p, q e Q takové, že 8(p, u) = (q, b, L) Jestliže A4 akceptuje vstup a\ • • -an, pak (go, >WUW, 0) ^-(qaccept, >Z\ . . . ZSVT, i) Použitím pravidel 4-7 můžeme v gramatice Q odvodit ?o e > Cl\ Cl\ a2 a2 an an K^l e > Cl\ A qaccept Cli A A ä: kde aw+i = ... = as = s. III Aplikací pravidel z prvních dvou skupin se dá v Q odvodit řetěz £ obsahující neterminál (laccept právě když A4 akceptuje slovo u; zapsané na první stopě řetězu £. Třetí skupina pravidel umožní odvodit z £ terminálni řetěz. Přesněji, neterminály určující stav a konec (K) přepíšeme na s. Neterminál — uspořádanou dvojici — přepíšeme na symbol z první komponenty dvojice. 8- Zqaccept -* q accept Z pro všechna Z e N 9. qaccept [a, x] -* aqaccept pro všechna a G E,x e T 10. qacceptís, x] -* qaccept pro všechna x e T 11 • qaccept & ~^ £ Množina pravidel gramatiky Q j e tvořena právě pravidly 1-11. D Věta 4.20. Třídy jazyků, které lze generovat gramatikami typu 0, resp. akceptovat Turin-govymi stroji, jsou si rovny a tvoří právě třídu rekursivně spočetních jazyků. Pozorný čtenář si jistě v důkazu věty 4.19 povšimne, že libovolný rekursivně spočetný jazyk je tedy generovatelný gramatikou, která obsahuje právě jedno ř-pravidlo - viz pravidlo 11 (nejedná se však o pravidlo typu S —> e, kde S se nevyskytuje na žádné pravé straně v pravidlech gramatiky - srv. definicí pojmu Q je bez ^-pravidel). 4.6 Lineárně ohraničené automaty a jazyky typu 1 Výsledky prezentované v předchozí části ukazují, že rekursivně spočetné jazyky je možné popsat dvěma formalismy: prostřednictvím Turingových strojů a gramatik typu 0. Z výsledků předcházejících kapitol víme, že podobnou možnost máme i pro regulární jazyky (konečné automaty a regulární gramatiky) a bezkontextové jazyky (zásobníkové automaty a bezkontextové gramatiky). Zbývá najít protějšek kontextových gramatik. Ukážeme, že 126 KAPITOLA 4. TURINGOVY STROJE A JAZYKY TYPU O jím jsou Turingovy stroje se speciálním omezením na velikost pásky —tzv lineárně ohraničené automaty. Lineárně ohraničený automat (anglicky Linear Bounded Automaton), zkráceně LBA, je jednopáskový nedeterministický TM, který nikdy neopustí ta políčka, na kterých byl umístěn vstup. Formálně, lineárně ohraničený automat A4 je 10-tice A4 = (Q, E, T, >, <, U, 8, qo,qaccept,qreject) kde symboly Q, E, T, t>, U, 8, qo, qaccept, qreject mají stejný význam jako u nedeterministického TM. < G T \ E je pravá koncová značka. Podobně jako u TM požadujeme, aby LBA nikdy nepřepsal levou (pravou) koncovou značku jiným symbolem a aby nikdy neposunul svou hlavu vlevo (vpravo) od políčka obsahujícího levou (pravou) koncovou značku. Definice konfigurace, relace kroku výpočtu a jazyka L (A4) zůstávají stejné jako u nedeterministického TM. Název LBA je odvozen z následujícího faktu. Uvažme ty nedeterministické TM A4, pro které existuje taková konstanta k e N, že pro každý vstupní řetěz u; je pozice hlavy v každé konfiguraci každého výpočtu A4 na u; nanejvýš k • \w\. Zřejmě každý LBA splňuje uvedenou vlastnost. Naopak, ke každému TM uvedené vlastnosti se dá (technikou podobnou té, kterou jsme použili při simulaci ^-páskového Turingova stroje jednopásko-vým) skonstruovat ekvivalentní LBA. Alternativně tedy možno definovat LBA jako TM s lineárně ohraničeným prostorem. O LBA říkáme, že je deterministický, právě když pro každé q G Q a a G r je množina 8(q,a) jednoprvková. Není známé, zda třída jazyků akceptovaných deterministickými LBA je vlastní podtřídou třídy jazyků akceptovaných lineárně ohraničenými automaty. Víme, že každý jazyk akceptovaný nedeterminickým lineárně ohraničeným automatem se dá akceptovat deterministickým Turingovým strojem. Velikost pásky, kterou potřebuje takovýto Turingův stroj však může být až exponenciální funkcí délky vstupního slova a nejenom lineární (viz konstrukce v 4.3). Náš zájem o LBA byl dán skutečností, že akceptují právě třídu kontextových jazyků. Důkaz tohoto tvrzení je podobný jako důkaz tvrzení, že gramatiky typu 0 akceptují právě třídu rekursivně spočetných jazyků. Lemma 4.21. Nechť L je jazyk generovaný kontextovou gramatikou. Pak L je akceptován nějakým lineárně ohraničeným automatem A4. Důkaz: Automat A4 konstruujeme podobně jako v důkazu lemmatu 4.18 s tím rozdílem, že nepovolíme, aby délka řetězu a na druhé stopě někdy přesáhla délku vstupního řetězu. Korektnost konstrukce plyne z faktu, že pokud S = wo =3>g w\ =3>g W2 • • • =3>g wn , tak pro každé i = 1,... , n je \wí-\ \ < \wí\. Stroj A4 má proto dostatek prostoru na to, aby odvození vstupního řetězu, pokud existuje, našel. D Lemma 4.22. Nechť A4 je lineárně ohraničený automat. Pak existuje kontextová gramatika generující jazyk L (A4). 4.6. LINEÁRNĚ OHRANIČENÉ AUTOMATY A JAZYKY TYPU 1 127 Důkaz: Důkaz tohoto tvrzení je nepatrnou modifikací důkazu lemmatu 4.19. Modifikace je nutná proto, že pravidla 10 a 11 nejsou kontextová. Změny doznají pravidla skupiny I, kdy první a poslední neterminál generovaného řetězu v sobě ponesou informaci o tom, že jsou prvním resp. posledním neterminálem. Neterminál, určující stav odpovídající konfigurace LBA, se stane součástí neterminálu pro obsah políčka. D Věta 4.23. Třídy jazyků, které lze generovat kontextovými gramatikami, resp. rozhodovat lineárně ohraničenými automaty, jsou si rovny. Důležitou vlastností lineárně ohraničených automatů je, že každý LBA můžeme transformovat na ekvivalentní úplný Turingův stroj. Věta 4.24. Každý kontextový jazyk j e rekursivní. Důkaz: Nechť Z je jazyk akceptovaný lineárně ohraničeným automatem A4 = (ß, E, T, >, , U, 8, qo, qaccept, qreject)- Bez ztráty na obecnosti můžemepřed-pokládat, že množina stavů Q = {qo, q\,q2, ■ ■ ■ , je levá koncová značka a X\ = U je symbol pro prázdné políčko. Symbolům pro směr pohybu můžeme též přiřadit synonyma L = S\ a R = S2- Pak hodnotu přechodové funkce 8(qi, Xj) = (qk, Xi,Sm) můžeme jednoznačně kódovat binárním řetězem O'WlO^TO'lO™ . (5.1) Binárním kódem Turingova stroje A4 je řetěz 111 kódi 11 kód2 11 • • • 11 kódr 111, kde kód, je řetězec tvaru 5.1 a kódi,... , kódr jednoznačně popisují celou přechodovou funkci stroje A43. Kód stroje A4 budeme označovat (A4). Každý binární řetězec je kódem nanejvýš jednoho Turingova stroje. Některé řetězy nejsou kódem žádného stroje; v takovém případě interpretujeme řetězec jako kód stroje přijímajícího prázdný jazyk. Podobným způsobem můžeme kódovat i vstupní slova stroje A4 — slovu Xj1 • • • Xjk přiřadíme kód O'11 • • • \0'k\. Prázdnému slovu přiřadíme kód £. Kód slova w označujeme (w). Příklad 5.1. Mějme M = ({go, 01, 02, 03J, {0, 1}, {>, U, 0, 1, A, B], 8, >, U, q0, q\, q2) s přechodovou funkcí S(0o,» = (93,>,R) 5(03,0) = (q3,A,R) 5(03,1) = (03, B, L) 5(03, ,4) = (qi,A,L) 5(03,» = (02, >,R) Kódem stroje A4 je (A4) = 1111100011001100010010001000010011000100010001000001011 000100001010000101100011001100111 Kódem slova 001101 je (001101) =00100100010001001000. Univerzální Turingův stroj Zavedené kódování strojů ajejich vstupů nám umožňuje zkonstruovat univerzální Turingův def stroj U takový, že U akceptuje (A4)Ö(u;) •<=>■ A4 akceptuje w, to jest: L (Ví) = { (A4)tf(w) | A4 akceptuje w }. Jinými slovy, jestliže stroj U dostane na vstup kód stroje A4 a kód jeho vstupu w (vzájemně odděleny symbolem #), pak akceptuje, právě když A4 akceptuje w. Stroj U pracuje takto: 3. Poznamenejme, že neklademe žádné podmínky na uspořádání, a proto jeden TM může mít více různých kódů. 132 KAPITOLA 5. NEROZHODNUTELNOST 1. nejdříve ověří, zda jeho vstup je tvaru {0, 1}*{#}{0, 1}*. Když není, tak zastaví a zamítne. 2. U simuluje krok po kroku výpočet stroje A4 na íi>. Páska stroje U je rozdělena na tři stopy. Na první stopě si stroj U udržuje kód simulovaného stroje A4. Na druhé stopě má zaznamenán aktuální obsah pásky stroje A4 s vyznačenou pozicí hlavy. Třetí stopa slouží na zapamatování aktuálního stavu stroje A4. Simulace jednoho kroku znamená, že stroj srovnává obsah třetí a relevantní části druhé stopy s obsahem první stopy aby zjistil, jaká akce je předepsána pro aktuální stav a snímaný symbol stroje A4. Předepsanou akci odsimuluje: změní kód stavu na třetí stopě, přepíše snímaný symbol a posune značku pro pozici hlavy. 3. U akceptuje (zamítá) právě když se na třetí stopě objeví kód akceptujícího (zamítajícího) stavu. Pokud A4 na vstupu w cyklí, pak i U na vstupu (A4}#(w) cyklí. Poznámka 5.2. Na tomto místě (jako i na mnoha jiných v dalším textu) stavíme na Chur-chově tezi. Místo toho, abychom přesně definovali univerzální Turingův stroj (tj. specifikovali jeho množinu stavů, přechodovou funkci atd.), popsali j sme jeho činnost jen „slovně". Důvod je zřejmý: tento popis je mnohem přehlednější a srozumitelnější, než kdybychom měli k dispozici popis přechodové funkce o délce několika (desítek) stran. 5.3 Diagonalizace Hlavním cílem této kapitoly je prozkoumat, které problémy, vztahující se k formálním jazykům a automatům, jsou resp. nejsou algoritmicky řešitelné. Popíšeme dvě matematické metody, které umožňují o problému dokázat, že není (částečně) rozhodnutelný — metodu diagonalizace a metodu redukce. Jaký typ problémů je nerozhodnutelný, tj. algoritmicky neřešitelný? Jsou tyto problémy jen „teoretické", nebo se s nimi můžeme běžně setkat? První z problémů, který prozkoumáme je formulován takto: máme daný program a přesnou specifikaci, co by tento program měl dělat (např. násobit dvě matice). Potřebujeme verifikovat, zda program skutečně dělá to, co od něj očekáváme. Jelikož jak program, tak i specifikace, jsou matematicky přesně definované objekty, přáli bychom si, aby proces verifikace byl pokud možno automatizován. Ukážeme, že právě toto je typ problému, který (obecně) není rozhodnutelný, a tedy řešitelný počítačem. Přesněji formulováno, budeme se zabývat problémem příslušnosti pro Turinovy stroje. Pro daný Turingův stroj A4 a slovo w chceme určit, zda A4 slovo w akceptuje, nebo neakceptuje (tj. A4 zamítá w nebo na w cyklí). Jinými slovy, chceme určit, zda slovo w buď přísluší, nebo nepřísluší jazyku L (A4). Univerzální Turingův stroj a technika diagonalizace jsou nástroje, které nám umožní dokázat, že problém příslušnosti pro Turingovy stroje je nerozhodnutelný. Jinak řečeno, dokážeme, že jazyk def PP = { (M)Uw) I stroj A4 akceptuje w] není rekursivní. 5.3. DIAGONALIZACE 133 První idea, jak problém řešit, je použít univerzální stroj U, kterému na vstup dáme řetěz (A4)\!l(w). U simuluje výpočet A^naioa následně • zastaví a akceptuje právě když A4 se zastaví a akceptuje • zastaví a zamítne právě když A4 se zastaví a zamítne • cyklí právě když A4 cyklí. Lehce ověříme, že L (JA) = PP. Problém příslušnoti je tedy částečně rozhodnutelný. Protože však stroj U není úplný, neplyne z jeho existence rozhodnutelnost problému příslušnosti. Na místě je tedy otázka, zda existuje nějaká jiná metoda, která na základě popisu Turingova stroje a jeho vstupu umožní vždy rozhodnout, jak dopadne výpočet stroje na daném vstupu. Ve skutečnosti takováto metoda neexistuje. Pro konkrétní TM a slovo se nám může podařit problém rozhodnout aplikací nějakého heuristického (ad hoc) přístupu, ale obecná metoda, která by poskytla řešení pro libovolnou dvojici ( stroj, slovo } neexistuje. Věta 5.3. Problém příslušnosti pro Turingovy stroje je částečně rozhodnutelný, ale není rozhodnutelný. Částečnou rozhodnutelnost jsme již dokázali. Tvrzení o nerozhodnutelnosti dokážeme pomocí Cantorovy diagonalizační metody. Tuto metodu poprvé použil matematik Georg Cantor v roce 1873, když se zabýval problémem měření mohutnosti nekonečných množin. Diagonalizací prokázal, že množiny přirozených a reálných čísel mají různou mohutnost. Analogickým způsobem můžeme prokázat, že existuje jazyk, který není akceptován žádným Turingovým strojem. Lemma 5.4. Existuje jazyk, který není rekursivně spočetný. Důkaz: Z předcházejícího víme, že každý řetězec nad abecedou {0, 1} můžeme chápat jako kód nějakého Turingova stroje resp. jako kód nějakého slova. Pro každé x e {0, 1}* označme A4X Turingův stroj s kódem x. Podobně wx je slovo, jehož kód je právě x. Rostoucí uspořádání slov4 nad abecedou {0, 1} určuje uspořádání Turingových strojů Me, A40, MuMoo, MouMw, Mn,Mooo, ■ ■ ■ a uspořádání slov We, Wo, W\, WOO, Woi, W\o, W\\, W000, ■■■ ■ Snadno nahlédneme, že uvedené uspořádání je natolik jednoduché, že se dá zkonstruovat TM, který pro dané přirozené číslo m vypočte kód m-tého Turingova stroje resp. m-tého slova. Uvažme nyní nekonečnou dvojrozměrnou tabulku (obr. 5.1). Řádky tabulky jsou označeny Turingovými stroji v zavedeném uspořádání. Sloupce jsou označeny slovy v zavedeném uspořádání. Na průsečíku z-tého řádku a j-tého sloupce obsahuje tabulka symbol 1, právě když z-tý Turingův stroje akceptuje 7-té slovo. Jestliže stroj vstup neakceptuje, pak na uvažované pozici tabulka obsahuje symbol 0. 4. V rostoucím uspořádání slovo menší délky předchází slovu větší délky. Pokud a = a\-am ab = b\-bm mají stejnou délku, pak a předchází b právě když existuje /' takové, že ct\ = b\,... ,at_i =bj_\ actj < bt. 134 KAPITOLA 5. NEROZHODNUTELNOST We wo wi ^00 IU01 lüio wn wooo wool • • • Ms 1 0 1 1 0 1 0 1 1 Mo 0 1 1 1 0 1 0 0 1 Mi 1 1 1 0 1 1 0 0 Moo 0 0 0 0 0 1 0 1 Moi 1 0 0 1 0 0 1 1 Mio 0 0 0 1 1 1 0 1 Mn 1 1 0 1 0 1 0 0 Mooo 0 1 1 0 0 1 1 1 1 Mooi 1 1 1 1 1 0 0 1 0 Obrázek 5.1: Tabulka obsahující informace o výpočtech Turingových strojů (symboly 1 a 0 jsou rozmístěny náhodně, čistě pro ilustraci.) Zkonstruujeme jazyk D (tzv diagonální jazyk) nad abecedou {0, 1}* využitím prvků, které v tabulce leží na diagonále. Abychom zabezpečili, že jazyk D není akceptován žádným Turingovým strojem, požadujeme, aby slovo d patřilo do jazyka D tehdy a jen tehdy, když stroj Md neakceptuje slovo Wd, tj. na průsečíku řádku Md a sloupce Wd obsahuje tabulka symbol 0. Lehce přijdeme ke sporu: předpokládejme, že existuje nějaký stroj Mx akceptující jazyk D. Jestliže slovo x patří do jazyka Z), pak tabulka obsahuje na pozici (Mx, wx) symbol 0 a nemůže být L(MX) = D. Naopak, jestliže slovo x nepatří do jazyka Z), pak tabulka obsahuje na pozici (Mx, wx) symbol 1, a tedy opět nemůže platit L(MX) = D. Proto neexistuje žádný TM, který by akceptoval jazyk D. D Nyní jsme již připraveni dokázat větu 5.3 o nerozhodnutelnosti problému příslušnosti. Důkaz: věty 5.3 Důkaz věty provedeme sporem. Předpokládejme, že existuje úplný stroj T akceptující jazyk PP. Nad vstupním slovem (M)$(w) stroj T pracuje takto: • T se zastaví a akceptuje právě když M se zastaví a akceptuje w • T se zastaví a zamítne právě když M se zastaví a zamítne anebo když cyklí na w. Zkonstruujeme nový Turingův stroj M (viz obr. 5.2), který pro vstup x e {0, 1}* 1. zapíše na svou pásku řetěz x $x, 2. simuluje výpočet stroje T na vstupu x §x, 3. M akceptuje vstup x, právě když T zamítne vstup xßx. M zamítne vstup x, právě když T akceptuje vstup xßx. Při konstrukci stroje A/" jsme využili existenci univerzálního TM. Konkrétně, v bodě 2. předepisujeme, aby stroj M simuloval jiný stroj, jehož popis dostal jako součást vstupu -to ale znamená, že se chová j ako univerzální stroj. Pro každé slovo x e {0, 1}* 5.3. DIAGONALIZACE 135 x x$x M U REJECT ACCEPT Obrázek 5.2: Konstrukce stroje N J\í akceptuje x -<==>■ T zamítá vstup x$x (podle definice J\í) •<=> stroj s kódem x zamítá anebo cyklí na vstupu s kódem x (podle předpokladu o T) Speciálně nás zajímá výpočet stroje M na vstupu (A/"}, tj. na vstupu, který je kódem stroje J\í. Tedy dostáváme J\í akceptuje (J\í) <<=> T zamítá vstup jVjJA/" •<=> stroj s kódem (J\í) zamítá anebo cyklí na vstupu s kódem (J\í) •<=> M neakceptuje (J\í) To je zřejmý spor, a proto náš předpoklad o existenci úplného Turingova stroje T musel být chybný. D Ještě jednou zopakujme, jakým způsobem jsme dokázali nerozhodnutelnost problému příslušnosti. Předpokládali jsme existenci stroje T rozhodujícího tento problém. Zkonstruovali jsme stroj M (který využíval T) takový, že když M dostal na vstup x, tak ho akceptoval jedině tehdy, když stroj s kódem x neakceptoval vstup s kódem x. Nakonec jsme spustili stroj M na vstupu (J\í). Chování stroje M popisuje řádek U We WO W\ WQO WQ\ W\0 W\\ WQOO WQ0\ 0 0 0 který vznikl „negací" diagonály z tabulky 5.1. Srovnáme-li stroj M s libovolným Turingo-vym strojem Á4X, tak vidíme, že jejich chování na vstupu s kódem x se liší: když jeden ze strojů akceptuje, tak druhý neakceptuje a naopak. Problém příslušnosti pro Turingovy stroje je příkladem problému, který je částečně rozhodnutelný, ale není rozhodnutelný. Přirozenou je otázka, zda existuje problém, který není ani částečně rozhodnutelný. Příkladem takového problému je komplement problému příslušnosti. 136 KAPITOLA 5. NEROZHODNUTELNOST def Věta 5.5. JazykCO-PP = {{A4)^{w) \ A4 neakceptuje w] nenírekursivně spočetný. Důkaz: Předpokládejme, že jazyk CO-i5i5 je rekursivně spočetný. Pak podle věty 4.17 je jazyk P P rekursivní, což je spor. D 5.4 Redukce S problémem příslušnosti pro TM úzce souvisí problém zastavení pro TM. Pro libovolný daný TM A4 a libovolné dané slovo w se ptáme, zda výpočet A4 na w je konečný či nikoli. Opět nás zajímá, zda je tento problém rozhodnutelný, tj. zda jazyk PZ dá {(MMw) výpočet A4 na w je konečný } je rekursivní. Věta 5.6. Problém zastavení pro Turingovy stroje není rozhodnutelný. Důkaz: Důkaz provedeme sporem. Předpokládejme, že problém je rozhodnutelný. Pak existuje úplný Turingův stroj T akceptující jazyk PZ. Ukážeme, jak s pomocí stroje T, můžeme sestrojit úplný Turingův stroj Aí akceptující jazyk PP. Jelikož však jazyk P P není rekursivní, tak předpoklad o rozhodnutelnosti problému zastavení vede ke sporu. Úkolem stroje Aí je pro daný stroj A4 a slovo w rozhodnout, zda A4 akceptuje w. Stroj Aí pro vstup (A4}#(w) pracuje takto (obr. 5.3): 1. simuluj e výpočet stroj e T na vstupu (A4} fj (w), 2. v případě, že T akceptuje (A4)#(u;}, tak výpočet A4 na w j e konečný. Proto Aí může simulovat výpočet A4 navu a Aí akceptuje právě když A4 akceptuje w, 3. v případě, že T zamítá (A4)#(u;}, tak A4 na w cyklí. Proto Aí zamítne svůj vstup. (M)Uw) ACCEP'i J REJEC Aí ACCEPT ---------------^> REJECT REJECT Obrázek 5.3: Konstrukce stroje Aí Stroj Aí je úplný, protože stroj T je úplný a Aí simuluje jen konečné výpočty stroje A4. Stroj Aí akceptuje jazyk PP, protože platí: 5.4. REDUKCE 137 M akceptuje (M.)$(w) -<=>■ stroj T akceptuje (M.)$(w) a A4 akceptuje w. D Metoda, kterou jsme použili v důkazu věty 5.6 je založena na tzv redukci: problém příslušnosti jsme převedli (redukovali) na problém zastavení tak, že kdybychom měli k dispozici algoritmus řešící problém zastavení (stroj T), pak bychom dokázali sestrojit i algoritmus rozhodující problém příslušnosti (stroj M). Z předcházejícího víme, že takový algoritmus existovat nemůže, a tedy nemůže existovat ani algoritmus rozhodující problém zastavení. Jelikož úplně stejný postup můžeme použít i pro jiné problémy, zformulujeme metodu redukce a její použitelnost obecně. Definice 5.7. Nechť A, B jsou jazyky, A C E*, B C **. Redukce jazyka A najazyk B je rekursivní funkce o : E* —»• *I>* taková, že w e A Tb akceptuje o(w) «=>• a(w) e B «=>• w e A (ii) Analogicky jako v předcházejícím případě. Protože však B je rekursivní, existuje úplný TM Tb, který ho akceptuje. Pak ale i stroj Ta bude úplný, a tedy jazyk A rekursivní. D Obrázek 5.5: Konstrukce stroje Ta Důkaz nerozhodnutelnosti problému P metodou redukce se skládá ze dvou kroků. 1. Zvolíme nějaký problém N, o kterém už bylo dokázáno, zeje nerozhodnutelný. 2. Prokážeme, že N < P. Nerozhodnutelnost problému P je pak důsledkem věty 5.8. Redukci můžeme, samozřejmě, využít i k důkazu rozhodnutelností nějakého problému P. V takovém případě 1. Zvolíme nějaký problém R, o kterém už bylo dokázáno, zeje rozhodnutelný. 2. Prokážeme, že P < R. Rozhodnutelnost problému P je pak opět důsledkem věty 5.8. Konstrukce redukce A < B se skládá z následujících kroků. Nechť A C E*, 5 C **. 5.5. DALŠÍ ROZHODNUTELNÉ A NEROZHODNUTELNÉ PROBLÉMY PRO TMI 3 9 1. Definujeme funkci a : E* -> *I>*. 2. Ověříme, že funkce a je rekursivní (například tak, že zkonstruujeme úplný Turingův stroj (tj. algoritmus), který pro každé w G E* vypočte a (u;)). 3. Ověříme platnost ekvivalence u; G v4 <í=> a(u;) G B . Otázka 5.9. Který z jazyků P P, P Z hraje v důkazu věty 5.6 roli jazyka A a který roli jazyka B. Jak je definována redukce A na B? Otázka 5.10. Ukažte, že redukovatelnost je tranzitivní, tj. když A < B a B < C, pak A < C. Je redukovatelnost symetrická, tj. plyne z A < B platnost B < A? 5.5 Další rozhodnutelné a nerozhodnutelné problémy pro TM Doposud jsme se setkali se třemi nerozhodnutelnými problémy, z nichž dva (problém zastavení a příslušnosti pro TM) byly částečně rozhodnutelné a třetí (komplement problému zastavení) nebyl ani částečně rozhodnutelný. Dále jsme ukázali princip, jak lze pomocí redukce dokázat (částečnou) rozhodnutelnost či nerozhodnutelnost jiných problémů. Aplikujme nyní tyto poznatky a prozkoumejme další problémy týkající se TM (rekursivně spočetných jazyků). Věta 5.11 (Rozhodnutelné problémy). Následující problémy jsou rozhodnutelné. Pro libovolný daný Turingův stroj M. rozhodnout, zda (a) A4 má alespoň 1998 stavů, (b) výpočet stroje M. nad vstupním slovem a1998 je delší než 1998, (c) existuje slovo w takové, že výpočet stroje M. nad vstupním slovem w je delší než 1998. Věta 5.12 (Semirozhodnutelné problémy). Následující problémy nejsou rozhodnutelné, ale jsou částečně rozhodnutelné. Pro libovolný daný Turingův stroj M. rozhodnout, zda (a) jazyk L (M.) je neprázdný, (b) jazyk L (A4) obsahuje alespoň 1998 slov. Věta 5.13 (Nerozhodnutelné problémy). Následující problémy nejsou (ani) částečně rozhodnutelné. Pro libovolný daný Turingův stroj 7W rozhodnout, zda (a) jazyk L (7W) je prázdný, (b) jazykL(A4) obsahuje nanejvýš 1998 slov, (c) jazyk L (7W) je konečný, (d) jazyk L (A4) = R pro libovolný daný regulární jazyk R, (e) jazyk L (7W) je regulární (tj. zda existuje regulární jazyk R takový, že L (A4) = R), (í) jazyk L (A4) je rekursivní (tj. zda existuje rekursivní jazyk L takový, že L (A4) = L, tj. problém, zda 7W je úplný TM). 140 KAPITOLA 5. NEROZHODNUTELNOST Důkaz: věty 5.11 Rozhodnutelnost všech uvedených problémů prokážeme tak, že zkonstruujeme úplný TM T akceptující právě kódy Turingových strojů majících požadovanou vlastnost. (a) Stroj T prochází vstup a testuje, zdali je na některé z pozic příslušejících stavům (viz kódování TM) řetěz tvaru 019980*. (b) Stroj T má tři pásky. Na třetí pásce si na počátku výpočtu označí 1999 políček. Na druhou pásku zapíše řetěz a1998. Pak na druhé pásce simuluje krok po kroku výpočet stroje s kódem x (x je vstup stroje T) na vstupu a1998. Za každý odsimulovaný krok označí T j eden symbol natretí pásce. Když simulovaný výpočet skončil dříve, než byly označeny všechny symboly na třetí pásce, tak T zamítá. Pokud T označil všechny symboly, tak akceptuje. (c) Naším cílem je zkonstruovat TM T, který pro dané (A4) rozhodne, zdali existuje slovo w takové, že výpočet stroje M. na vstupu w je delší než 1998. Stroj T bere postupně slova nad vstupní abecedou stroje M. v rostoucím uspořádání až do délky 1999. Pro každé slovo simuluje výpočet stroje M. nad tímto slovem, přičemž si pamatuje počet už odsimulovaných kroků výpočtu. Když délka simulovaného výpočtu přesáhne 1998, tak T se zastaví a akceptuje. Když délka výpočtu na žádném z uvažovaných slov nepřesáhne 1998, tak T se zastaví a vstup zamítne. Zůstává prokázat korektnost navrženého postupu. Tvrdíme, že když jsme hledané slovo nenašli mezi slovy délky maximálně 1999, tak skutečně neexistuje. Víme, že délka výpočtu na žádném ze slov délky 1999 nepřesáhla hodnotu 1998. To znamená, že stroj nikdy nečetl poslední symbol vstupu (na to by potřeboval alespoň 1999 kroků). Průběh výpočtu je tedy jednoznačně určen prefixem délky 1998 a není ovlivněn symboly za tímto prefixem. D Důkaz: věty 5.12 (a) Nejdříve dokážeme, že problém neprázdnosti není rozhodnutelný. Navrhneme redukci jazyka P Z (který není rozhodnutelný — věta 5.6) na jazyk PN = { (M) \L(M) #0}. Nerozhodnutelnost problému neprázdnosti plyne z věty 5.8. Protože PZ C {0, 1, tf}*, PN c {0, 1}*, tak hledaná redukce a je funkce z {0, 1, tf}* do {0, 1}*. Slovu x e {0, 1, tf}* přiřadí a slovo (11 x), přičemž (1ZX) je kód takto definovaného Turingova stroje. Stroj 1ZX pro vstup w e {0, 1}* pracuje následovně. 1. Jestliže slovo x nepatří do {0, 1}*{#}{0, 1}*, tak 1ZX vstup w zamítne. 2. V opačném případě smaže obsah své pásky a zapíše na ní slovo x. Nechť x = *ltl*2- 3. Stroj 1ZX simuluje výpočet stroje s kódem x\ na vstupu s kódem X2- 4. Jestliže simulovaný výpočet je konečný, tak 1ZX akceptuje. Pokud simulovaný výpočet je nekonečný, tak i výpočet 1ZX je nekonečný. Funkce a je úplná a je vyčíslitelná (vypočítatelná) Turingovým strojem, což znamená, že je rekursivní. Je důležité si uvědomit, že jazyk akceptovaný strojem 1ZX 5.5. DALŠÍ ROZHODNUTELNÉ A NEROZHODNUTELNE PROBLÉMY PRO TMI 41 je L(nx) = 0 když stroj s kódem x\ na vstupu s kódem X2 cyklí, resp. v případě že x nepatří do {0, 1}*{#}{0, 1}* {0, 1}* když výpočet stroje s kódem x\ na vstupu s kódem X2 je konečný. Funkce a zachovává příslušnost do jazyka, protože {-R,x)zPN<^L{nx) = {0,\}* «=> x =x\§X2, x\,xi g {0, 1}* a výpočet stroje s kódem x\ na vstupu s kódem X2 je konečný «=>Jt G PZ Zůstává dokázat, že jazyk PN je rekursivně spočetný. Zkonstruujeme Turingův stroj T akceptující jazyk PN. Nabízí se vcelku přímočaré řešení. Chceme-li zjistit, zda daný stroj A4 akceptuje vůbec nějaké slovo, stačí brát všechna možná vstupní slova a simulovat postupně výpočet stroje A4 na každém z nich. Pokud A4 akceptuje nějaké slovo, určitě na něj dříve nebo později narazíme. Potíž je v tom, že dříve než dojde na toto slovo, které by stroj A4 akceptoval, tak se může zkoušet i slovo, na němž A4 cyklí - k hledanému slovu se tak nikdy nedostaneme. Potíž můžeme obejít využitím „paralelismu". Namísto toho, aby se simuloval vždy jen jeden výpočet stroje A4, bude stroj T simulovat několik výpočtů stroje A4 najednou. Provedeme to tak, že T vždy odsimuluje krok jednoho výpočtu, pak krok dalšího výpočtu atd. Předpokládejme libovolné, ale fixní uspořádání slov nad vstupní abecedou stroje A4. Pracovní páska stroje T bude rozdělena na několik úseků oddělených speciálním symbolem $ G T. V každém úseku je aktuální konfigurace jednoho simulovaného výpočtu. Na počátku má T jen jeden úsek a na něm počáteční (nultou) konfiguraci na prvním vstupu stroje A4. Jeden cyklus spočívá v tom, že T prochází svoji pracovní pásku zleva doprava. V každém úseku přepíše konfiguraci jejím následovníkem. Když dojde za poslední úsek, napíše tam počáteční konfiguraci výpočtu na dalším, ještě neprozkoumaném slově. Obsah pracovní pásku stroje T po pátém opakování cyklu je schematicky naznačen na obrázku 5.6 (symbol Konfi^- značí 7-tou konfiguraci výpočtu stroje A4 na z-tém vstupu). Pokud se v některém z úseků objeví > Konfigl $ Konfigj $ Konfigl $ Konfig\ $ Konfigl $ u... Obrázek 5.6: Paralelní simulace výpočtů akceptující konfigurace (což nastane, právě když jazyk Z (A4) je neprázdný), pak stroj T akceptuje. Pro vstup (A4) takový, že Z (A4) = 0, stroj T cyklí. (b) Tvrzení dokážeme nepatrnou modifikací předcházejícího důkazu. Pro nerozhodnutel-nost stačí vzít v úvahu, že jazyk Z (A4) obsahuje alespoň 1998 slov tehdy a jenom 142 KAPITOLA 5. NEROZHODNUTELNOST tehdy, když L(1ZX) = {O, 1}*. Pro semirozhodnutelnost stačí modifikovat stroj T tak, aby akceptoval až po objevení se 1998 akceptujících konfigurací. D Důkaz: věty 5.13 (a) Nerozhodnutelnost problému prázdnosti (anglicky emptiness) dokážeme redukcí jazyka CO-PZ (který není rekursivně spočetný — dokažte!) najazyk PE, kde PEdá{(M) \L(M) = 0}. Redukce a je definována podobným způsobem, jako v důkazu nerozhodnutelnosti případu neprázdnosti (věta 5.12, případ (a)). Jediná změna se týká bodu 1.: pokud slovo x nepatří do {0, 1}*{#}{0, 1}*, pak 1ZX vstup w akceptuje. Opět platí, že jazyk L{1ZX) je buď prázdný (v případě, že stroj s kódem x\ na vstupu s kódem X2 cyklí) , nebo stroj 1ZX akceptuje každé vstupní slovo (to v případě, že výpočet stroje s kódem x\ na vstupu s kódem X2 je konečný, resp. v případě že x nepatří do {0, 1}*{#}{0, 1}*). Funkce a zachovává příslušnost do jazyka, protože (Rx)ePE^ L(Rx) = 0 «=> x =x\$X2, x\,X2 e {0,1}* a stroj s kódem x\ na vstupu s kódem X2 cyklí «=>• x e co-PZ (b),(c) Stejně jako předcházející případ. Jazyk L(1ZX) je buď prázdný, a tedy obsahuje nanejvýš 1998 slov, resp. je konečný, neboje nekonečný. (d) Předpokládejme, že problém, zda daný TM a konečný automat akceptují stejný jazyk, je částečně rozhodnutelný. Pak za konečný automat můžeme zvolit automat akceptující prázdný jazyk a dostáváme, že i problém prázdnosti pro Turingovy stroje je částečně rozhodnutelný — spor. (e) Zvolme jazyk Z, který je bezkontextový a není regulárny. Nechť A je zásobníkový automat akceptující jazyk L. Chceme dokázat, že jazyk PR Ü { (M) | L (M) je regulární}. není rekursivně spočetný. Důkaz provedeme redukcí jazyka CO-PZ najazyk PR. Hledaná redukce a slovu x e {0, 1, #}* přiřadí slovo (TZX), přičemž (TZX) je kód takto definovaného Turingova stroje. Stroj 1ZX pro vstup w e {0, 1}* pracuje následovně. 1. Jestliže slovo x nepatří do {0, 1}*{#}{0, 1}*, tak 1ZX pokračuje bodem 4. 2. V opačném případě změní svou pásku na třístopou. Na druhou stopu zapíše slovo x. Nechť x = x\$X2. 3. Stroj 1ZX simuluje na své třetí stopě výpočet stroje s kódem x\ na vstupu s kódem X2- Jestliže simulovaný výpočet je konečný, tak 1ZX pokračuje bodem 4. Pokud simulovaný výpočet stroje s kódem x\ na vstupu s kódem X2 je nekonečný, tak i výpočet 1ZX je nekonečný. 4. 1ZX simuluje výpočet zásobníkového automatu A na vstupu w. 5.6. POSTŮV KORESPONDENČNÍ PROBLÉM 143 5. Jestliže automat A slovo w akceptuje, tak i stroj 7lx svůj vstup w akceptuje. Pokud A zamítne, tak i 1ZX zamítá. Funkce a je úplná a je vyčíslitelná Turingovým strojem, což znamená, zeje rekur-sivní. Jazyk akceptovaný strojem 1ZX )Q L(nx) = L jestliže výpočet stroje s kódem x\ na vstupu s kódem X2 je konečný resp. v případě že x nepatří do {0, 1 }*{#}{(), 1}*) 0 jestliže stroj s kódem x\ na vstupu s kódem X2 cyklí Funkce a zachovává příslušnost do jazyka, protože (nx)ePR^^L(nx) = 0 «=>x =x\$X2, x\,X2 e {0, 1}* a stroj s kódem x\ na vstupu s kódem X2 cyklí «=>• x e co-PZ (f) Analogicky jako v případě (e) s tím rozdílem, že jako jazyk L zvolíme jazyk, který je rekursivně spočetný a není rekursivní. D 5.6 Postův korespondenční problém V předchozí části jsme zkoumali rozhodnutelnost různých problémů týkajících se Turin-gových strojů. Poznali jsme, že až na několik málo velice jednoduchých problémů, jsou nerozhodnutelné. Přirozenou je proto otázka, co se stane, když v uvedených problémech zaměníme TM nějakým výpočtově slabším zařízením. Překvapujícím(?) je zjištění, že pokud chceme, aby se problém stal rozhodnutelným, pak ho musíme většinou (až na několik málo již ukázaných výjimek) formulovat pro velice omezenou třídu jazyků: pro deterministické bezkontextové, resp. v některých případech až pro regulární jazyky. Shrnutí všech uvažovaných problémů najde čtenář na konci této kapitoly. V předchozí části byl klíčovým důkaz nerozhodnutelnosti problému příslušnosti (věta 5.3). Nerozhodnutelnost všech ostatních problémů byla dokázána redukcí. Obdobnou klíčovou roli v této části sehraje tzv Postův korespondeční problém. Postův problém je úzce spjat s problémem zastavení, avšak jeho formulace je pro naše cíle mnohem vhodnější. Formulace Postův korespondenční problém (anglicky Post Correspondence Problem), zkráceně PKP (PCP), lze formulovat takto: jsou dány dva seznamy, A = x\,... , xn a B = y\,... ,yn, neprázdných slov nad abecedou E. Seznamy A, B nazýváme instancí (případem) PKP a označujeme (A, B). Daná instance PKP má řešení, právě když existuje konečná posloupnost přirozených čísel i\, i2, ■ ■ ■ ik, k > 1, taková, že hxh' ■' x'k — yi\yí2''' y h • 144 KAPITOLA 5. NEROZHODNUTELNOST Posloupnost z'i, Í2, ■ ■ .ik se nazývá řešením PKP. Postův korespondenční problém j e formulován jako třída problémů rozhodnout pro libovolnou danou instanci PKP, zda má řešení. Příklad 5.14. Nechť A, B jsou seznamy nad abecedou {a, b, c}, A = (b, ebb, ab, c) B = (bbc, b, a, bc). Pro lepší predstavu si instand PKP můžeme znázornit jako kostky domina " b " "ebb" "ab" rc i bbc ' b ' a ' LbcJ Řešením uvedené instance PKP je posloupnost 3,1,2,1,2,4 protože xt,x\X2X\X2X^ = y^y\yiy\yiy\ = abbcbbbcbbc. Opět pro lepší představu uvádíme i grafickou prezentaci 3 12 12 4 a bjbkc b bj b U b bjc a [b b c I b I b b c] b lb c Uvedená posloupnost není jediným řešením daného případu; jsou jím např. i posloupnosti 3,1,2,1,2,1,2,4 a 3,1,2,1,2,4,3,1,2,1,2,4 a další. ? ?■*"? ?■*"? ? 5 ? ?*"? ?""? '?^? -*" ?""? -*" ?""5 Otázka 5.15. íCoiiic řešení má instance PKP z předcházejícího problému? Příklad 5.16. Mějme instanci PKP, danou seznamy A, B nad abecedou {0, 1} takto: y4 = (01,001,11) B = (10,00, 011). Hledané řešení by muselo začínat indexem 2, protože dvojice x\, y\ a téžxj,, yj, se liší v již prvním symbolu (přesněji: v žádné z těchto dvojic není jedno ze slov předponou druhého). Tím máme 0 o y) 0 0 1 Ze seznamu B musíme nyní vybrat slovo, které začíná symbolem 1. Jedinou možností je slovo 10. Dostáváme a to je situace shodná s předcházející. Proto tato instantce PKP nemá řešení (neexistuje konečná posloupnost čísel požadovaných vlastností). Jsme tedy schopni pro některé konkrétní případy rozhodnout, zda mají řešení. Jak ovšem uvidíme, nelze napsat algoritmus, který by pro libovolnou instanci PKP rozhodoval, zda má či nemá řešení. 5.6. POSTŮV KORESPONDENČNÍ PROBLÉM 145 Iniciální Postův korespondeční problém Našim cílem je dokázat, že Postův korespondenční problém není rozhodnutelný. Použijeme metodu redukce a sestrojíme redukci problému příslušnosti pro TM (věta 5.3) na PKP Protože sestrojit hledanou redukci přímo je poměrně (technicky) náročné, zjednodušíme si celý problém následovně. Definujeme iniciální Postův korespondenční problém (zkráceně inPKP) a prokážeme, že pokud je inPKP nerozhodnutelný, tak i PKP je nerozhodnutelný. Pak dokážeme, že inPKP je nerozhodnutelný. Rozdíl ve formulaci inPKP a PKP je v tom, že u iniciálního Postova problému se pro danou instanci {A, B) ptáme, zda má řešení začínající číslem 1. Přesněji, instance {A, B) iniciálního Postova korespondečního problému má řešení právě když existuje posloupnost přirozených čísel i\, Í2, ■ ■ ■ h, k > 0, taková, že ■^i-K/i-K/2''' xik = y^y^yh ° * ~yh • Příklad 5.17. Iniciální Postův korespondeční problém pro seznamy A, B z příkladu 5.14 má řešení 122, protože x\x 1X2X2 = y\y\y2yi = bbcbbcbb. Lemma 5.18. Z nerozhodnutelnosti iniciálního Postova korespondečního problému plyne nerozhodnutelnost Postova korespondečního problému. Důkaz: Předpokládejme, že PKP je rozhodnutelný. Dané instanci {A,B) inPKP přiřadíme instanci (C, D) PKP tak, že {A, B) má řešení právě když (C, D) má řešení. Z roz-hodnutelnosti PKP by tedy plynula i rozhodnutelnost inPKP. Nechť tedy seznamy A = x\,... , xn a B = y\,... , yn nad abecedou E jsou instancí iniciálního Postova problému. Dále nechť $, 0 jsou dva symboly nepatřící do abecedy E. Zavedeme homomorfismy hi, h r : E* —> E* U {$, 0} definované předpisem: def def hi(a) = $, je posloupnost 1, (i\ + 1),... (ik + 1), n + 2 řešením instance (C, D) PKP. 2. ==}•: Nechť řešením instance (C, D) PKP je posloupnost j\, 72,... , jk- Pak nutně musí být ji = 1 a jk = n + 2. Řešením instance (A, B) inPKP pak bude například posloupnost (72 — 1),... , (Ji — 1), kde / je nejmenší takové číslo, že ji+\ = n + 2. Nutnost volby / je dána faktem, že dvojice Xn+2, Yn+2 nemá v (A, B) žádný vzor. D 146 KAPITOLA 5. NEROZHODNUTELNOST Příklad 5.19. Redukcí instance (A, B) iniciálního PKP "ba" ' b bb ' " b " abb "bab" a l dostaneme i "0b0a0" "b0a0" " b0 " " b0 " 0b ' c Pb J' _0b0b_ ' 0a0b0b ' b0a0b0 _$_ 0$ Řešení 3,4,2 instance {A, B) odpovídá například řešení 1,4,5,3,6 instance (C, D). Poznámka 5.20. Jiná formulace tvrzení uvedeného v lemmatu 5A8 je, že inPKP < PKP. Dokažte, že platí i opačné tvrzení, tj. že PKP < inPKP. Nerozhodnutelnost Postova korespondenčního problému Věta 5.21. Postův korespondenční problém je nerozhodnutelný. Důkaz: Vzhledem k tvrzení lemmatu 5.18 stačí dokázat nerozhodnutelnost iniciálního Postova problému. Sestrojíme redukci problému příslušnosti pro TM (věta 5.3) na iniciální Postův problém: dvojici Turingův stroj T a slovo w tato redukce přiřadí dva seznamy A a B tak, že instance (A, B) inPKP má řešení, právě když stroj T akceptuje slovo w. Nechť T = (g, S, T, >, U, S, qo,qaccept,qreject), w G E*. Dále předpokládejme, že ö fir = 0 a že # ^ OUT (nový symbol). Každou konfiguraci (q, z,r) stroje T můžeme jednoznačně reprezentovat řetězcem z\qz2, kde z\Z2UC0 = z a \z\\ = r. V této reprezentaci je pozice hlavy určena umístěním symbolu stavu v řetězci z. Základní idea konstrukce je přiřadit dvojici T, w takovou instanci iniciálního Postova problému, že její řešení (posloupnost čísel) určuje slovo fl > qow$ u>tt II Z Z pro všechna Z e T U tí III pro všechna q e Q \ {qaccept} p e Q, X, Y, Z g T qX Yp jestliže 8(q, X) = (p,Y,R) ZqX pZY jestliže 8(q, X) = (p, Y, L) q% Yp$ jestliže 8(q, u) = (p, 7,7?) Zq$ pZY$ jestliže <$(#, U) = (p, Y, L) IV Z q accept qaccept pro všechna Z e T ^accept Z qaccept pro všechna Zeľ v q accept li ft Ô Obrázek 5.7: Redukce problému příslušnosti pro TM na inPKP Seznamy A, B jsou tvořeny slovy nad abecedou E U F U {#} tak, jak je uvedeno v tabulce 5.7. Pro lepší pochopení jsou slova seskupena do menších celků. S výjimkou 5.6. POSTŮV KORESPONDENČNÍ PROBLÉM 147 první dvojice (skupina I), která musí být v seznamech na prvním místě, uspořádání zbylých dvojic může být libovolné. Konstrukci nejdříve ilustrujeme na příkladu a až pak prokážeme její korektnost. Příklad 5.22. Prezentovanou redukci ilustrujeme na příkladu stroje T = ({go, q\}, {«» b}, {>, U, a, b, A}, [>,U,8,qo, qaccept, ^reject) (S je dána tabulkou 5.1) a slova w = aa. Dvo- > a u (qo,>,R) (qi,A,R) (qi,A,L) (qaccePt, A, R) (qreject,>,R) (qo,A,R) (qo,A,L) (q0,\J,L) qo 91 Tabulka 5.1: Přechodová funkce stroje T jici Taw přiřadíme případ (A, B) ínícíálního PKP popsaný v tabulce 5.8. Pokusíme se najít řešení této instance PKP. Jako první musíme vzít ze seznamu A slovo $ a ze seznamu B k němu odpovídající slovo §qo > aa§ (plyne z definice Ínícíálního PKP). U Ö qo > a a Ze seznamu A musíme dále vybírat tak, abycom vytvořili řetěz qo\>aa§. K dispozici máme slova z druhé a třetí skupiny. U u Všimněme si, že zatímco první slovo jsme prodloužili o řetěz qo > aa§ (počáteční konfigurace T na w), k druhému slovu jsme přidali řetěz \>qoaa§, což je konfigurace, do které přejde T z počáteční konfigurace v jednom kroku výpočtu. Opět tedy musíme k prvnímu slovu přidat \>qoaa§. U u Podobně postupujeme, dokud nenastane situace Symbol qaccept ve spodním slově ukazuje, že stroj T by slovo aa akceptoval. Proto bychom měli být schopni najít řešení dané instance iniciálního PKP. Skutečně, dvojice ze 4. a 5. 148 KAPITOLA 5. NEROZHODNUTELNOST Seznam A Seznam B tJ %qoaa% > > u U a a b b A A tJ tJ go> >go q0a ^! >q0A gi > A aqoA q\ciA Aq0A q\AA Uq0A q\UA qoU Aqaccept qoti AqacceptM q\> ^qreject q\a Aqo >q\A qo> A aq\A qoaA Aq\A q\AA Uq\A q\UA >giU qo > u aq\\J qoau Aq\\J qoAu Uť/iU qoUU >qú qo > Ö aq\tt qoa§ AqiW qoAŮ ugitt goutf ^ q accept qaccept Ciqaccept qaccept Aq accept qaccept ^qaccept qaccept qaccept t> qaccept qaccept^ qaccept qaccept A qaccept qaccept Ľ qaccept qaccept P í U protože 5(ť/o, >) = (, ^) protože 5(go, a) = (q\, A, R) protože <5(ť/o, A) = (q\, A, L) protože 8(qo, u) = (qaccept, A, R) protože 8(q\, t>) = (qreject, >, R) protože 8(q\, a) = (qo, A, R) protože 8(q\, A) = (qo, A, L) protože 8(q\, u) = (go, U, Z) Obrázek 5.8: Seznamy A a B 5.6. POSTŮV KORESPONDENČNÍ PROBLÉM 149 skupiny nám umožní, aby se obě slova „srovnala": Podobně postupujeme až do úspěšného konce ...... L^rt L^p> (Jaccept KU Kßaccept (J $ ...... (t t> ^accept ] (t I ^accept \ (J \ (J Pokračování důkazu věty 5.21 Máme dokázat, že navržená transformace je redukcí. Re-kursivitaj e zřejmá. Zůstává ověřit, že Turingův stroj T akceptuje slovo w tehdy a jen tehdy, když k němu přirazená instance iniciálního PKP má řešení. Je-li ((x\,... , xn), (y\,... , yn)) instance iniciálního PKP, pak posloupnost indexů i\,... ,im nazveme částečným řešením této instance, právě když slovo x = x\Xix • • -Xim je prefixem slova y = y\yix • • • yim. O slovech x ay říkáme, že jsou definovány částečným řešením i \,... ,im. Nechť qo > w h u\q\v\ h U2qiV2 h • • • h u^qkVk je výpočet stroje T na vstupu w a nechť w$uiqiv\$---$uk-iqk-iVk-ú y = $qo>w$uiqiv\$---$uk-iqk-iVk-úukqkVk$ a navíc, že neexistuje žádné jiné řešení definující dvojici slov (c, y) pro žádné c. Uvedené tvrzení lehce dokážeme indukcí vzhledem ke k. Pro k = 0 je tvrzení triviální: jedině prázdná posloupnost čísel definuje dvojici slov (fl, ftí/o^)- Předpokládejme, že tvrzení platí pro nějaké k a že qk $ {qaccept, qreject}- Dokážeme, že pak platí i pro k+l. Protože y = xz, kde z = u^q^V]^, tak ze seznamu A musíme vybrat slova tvořící z. Pro symboly Z e T můžeme použít jedině slova ze skupiny II. Pro symbol qk a symbol bezprostředně za ním následující resp. předcházející je ve skupině III jediné slovo. Toto slovo spolu se svým protějškem ze seznamu B přirozeným způsobem prezentují krok výpočtu stroje T. Žádný jiný výběr neumožňuje vytvoření slova z. Tímto dostáváme nové částečné řešení definující dvojici slov (y, yiik+\qk+\Vk+ú)■ Lehce nahlédneme, že UkqkVk I- Uk+\qk+\Vk+\- Navíc, jestliže qk+\ = qaccePt, tak jednoduchým způsobem získáme (použitím slov ze skupin IV a V) z tohoto částečného řešení řešení instance (A, B). Tedy existuje-li akceptující výpočet stroje T na vstupu w, pak instance {A, B) iniciálního PKP má řešení. Pokud T slovo w neakceptuje, pak (A, B) může mít částečná řešení, která ale definují dvojice slov nestejné délky a není možné je prodloužit na řešení. D 150 KAPITOLA 5. NEROZHODNUTELNOST 5.7 Nerozhodnutelné problémy z teorie formálních jazyků Nerozhodnutelnost Poštová korespondenčního problému využijeme v následujících úvahách o (ne)rozhodnutelnosti některých problémů týkajících se gramatik Chomského hierarchie. Poznamenáváme jenom, že vzhledem ke známým vztahům mezi gramatikami a automaty, všechna uvedená tvrzení platí stejně i pro odpovídající typ automatů. Problém prázdnosti Je formulován jako úloha pro libovolnou danou gramatiku Q rozhodnout, zda L{Q) = 0. Věta 5.23. Problém prázdnosti pro třídu bezkontextových gramatik je rozhodnutelný. Důkaz: Je obsažen v důkazu věty 3.9. D Důsledek 5.24. Problém prázdnosti pro třídu regulárních gramatik je rozhodnutelný. Důkaz: Protože každá regulární gramatika je současně bezkontextovou, na rozhodování problému můžeme použít algoritmus navržený pro bezkontextové gramatiky. D Úvahu použitou v důkazu důsledku 5.24 můžeme lehce zobecnit. Nechť P je problém a S množina jeho instancí. Pak z rozhodnutelnosti problému P pro množinu instnací S plyne rozhodnutelnost tohoto problému pro každou množinu instancí S', kde S' C S. Tvrzení nemusí platit pro množinu S' D S, což dokazuje následující věta. Věta 5.25. Problém prázdnosti pro třídu kontextových gramatik je nerozhodnutelný. Důkaz: Navrhneme redukci komplementu Postova korespondenčního problému na problém prázdnosti pro kontextové gramatiky. Komplement PKP není rozhodnutelný (kdyby byl, tak podle věty 4.16 i PKP by byl rozhodnutelný). Redukce přiřadí seznamům A, B kontextovou gramatiku Q takovou, že instance (A, B) nemá řešení tehdy a jen tehdy, když gramatika Q generuje prázdný jazyk. Vyjdeme z poznatku, že daná instance A = (x\,... , x„), B = (y\,... , yn) PKP nad abecedou E buď nemá žádné řešení, nebo jich má nekonečně mnoho. Uvažme jazyky La a L g nad abecedou E U {#, 1,... , n} (předpokládáme E D {#, 1,... , n} = 0); def La = { */i • • • xikŮik •••i\ | 1 < i j < n pro j = 1,... , k] def Ĺb = { JV ' yik&k • • • z'l I l/i • • • yi^h •••i\ I 1 < i j < n pro j = 1,... , k}. jejichž průnik je neprázdný, právě když instance (A, B) má řešení. Navíc definujeme jazyky L a,b a S předpisem L a,b = La • {Öl • LB S = {uMvRtiuR I u e E*, u €{1,... ,nf}. Otázka 5.29. Sestrojte deterministické zásobníkové automaty akceptující jazyky L a,b ä S. Vlastnosti definovaných jazyků popisují následující tři lemmata. 152 KAPITOLA 5. NEROZHODNUTELNOST Lemma 5.30. Instance (A, B) Poštová problému mářešení, právě když LA,Bns^0 Důkaz: Předpokládejme, že posloupnost čísel i\,... , ik je řešením instance (A, B). Tato posloupnost určuje slova u e S av e L a,b, přičemž U = Xtl • • • Xik tJ/ýfc • • • z'i ttz'i • • • ikUik • • • *ii v = xh • --Xi^ik • • ./itJ/i • • -iktiyik • • • ytv Protože i\,... , ik je řešením instance (A, B), je Xjl • • • Xjk = yix • • • yik a následně u = v. Jazyk L a,b H ^ je tedy neprázdný. Opačná implikace se dokáže analogicky. D Lemma 5.31. Jazyk CO-(La,b H 51) je bezkontextový. Důkaz: Vyjděme ze vztahu CO-(La,b C\ S) = CO-La,b U CO-^. Protože jazyk L a,B je deterministický bezkontextový (5.29), je i jazyk CO-(La,b) deterministický bezkontextový (věta 3.82). Analogicky pro jazyk S. Tvrzení lemmatu plyne z uzavřenosti třídy bezkontextový ch j azyků vůči operaci sj ednocení (věta 3.58). D Lemma 5.32. Jazyk L a,b H S je bezkontextový tehdy a jen tehdy, když je prázdný. Důkaz: Pro danou instanci (A, B) Postova problému obsahuje (podle lemmatu 5.30) jazyk L a,b H S právě slova odpovídající řešením instance (A, B). Protože každá instance PKP buď nemá žádné řešení nebo jich má nekonečně mnoho, tak i jazyk L a,b H S je buď prázdný anebo nekonečný. Pokud L a,B H S je prázdný, tak je triviálně bezkontextový (ba dokonce regulární). Abychom ukázali obrácenou implikaci, předpokládejme, že L a,b H S je neprázdný a zeje bezkontextový. Pro každý bezkontextový jazyk platí lemma o vkládání (věta 3.24). Tedy i pro L a,b H S musí existovat dvě konstanty p, q takové, že každé slovo z e (La,b ^ S) délky větší než p lze napumpovávat (existence takovéhoto slova plyne z nekonečnosti jazyka La,b n S). Zvolme slovo z e L, z = xtl ■ --Xi^ik • • -i\%i\ ■ --iuyh • • • J/i3 kde k > q. Toto se musí se dát rozdělit na pět částí u, v, w,x,y tak, aby vx ^ e a \vwx \ < q. Pro žádné z možných rozdělení však neplatí uv2wx2y e (L a,b H S), což je spor. Jazyk L a,b H S je tedy bezkontextový jedině tehdy, když je prázdný. D Jako přímý důsledek právě uvedených tří lemmat dostáváme toto tvrzení: Věta 5.33. Pro libovolnou danou bezkontextovou gramatiku Q a libovolnou danou regulární množinu R je nerozhodnutelné určit, zda (a) L(Q) = R (b) L(Q)^R Důkaz: (a) Stačí za R zvolit (E U {#} U {1,... , n})* a, za, Q bezkontextovou gramatiku generující jazyk CO-(La,b H S). Podle lemmatu 5.30 je CO-(La,b D S) = R právě když instance {A, B) PKP nemá řešení. 5.7. NEROZHODNUTELNÉ PROBLÉMY Z TEORIE FORMÁLNÍCH JAZYKU 153 (b) Ukážeme, že inkluze L (G) C R je snadno rozhodnutelná. Kdyby byla rozhodnutelná i inkluze uvedená v (b), pak bychom uměli rozhodovat i rovnost, což je spor s bodem (a). K rozhodnutelnosti inkluze L(G) Q R ú stačí uvědomit, že L(G) C R -<=> L (G) n CO-R = 0 a jazyk L (G) n CO-R je bezkontextový. D Důsledek 5.34. (a) Pro libovolnou danou bezkontextovou gramatiku Q s terminálni abecedou E je nerozhodnutelné určit, zda L (Q) = E*. (b) Pro dvě libovolné dané bezkontextové gramatiky G\ a G\ je nerozhodnutelné určit, zda L(Gi) = L(Gi) resp. zdaL(Gi) D L(Gi). Věta 5.35. Pro dvě libovolné dané bezkontextové gramatiky G\ a Gi je nerozhodnutelné určit, zda (a) L{Q\) f! L {Q 2) je bezkontextový jazyk, (b) CO-L (G\) je bezkontextový jazyk, (c) L (Gi) je regulárni jazyk (či ekvivaletně: jazyk L (G\) nemá vlastnost sebevložení). Důkaz: (a) Stačí zvolit bezkontextové gramatiky G\ a Gl tak, aby L(G\) = L a,B a L(Gi) = S a aplikovat lemma 5.32. (b) Zvolme bezkontextovou gramatiku Q\ tak, aby L(G\) = CO-(La,b H S). Tvrzení je pak důsledkem lemmatu 5.32. (c) Provedeme volbu jako v předcházejícím případě. Jazyk L(G\) je regulární, právě když je roven (E U {#} U {1, ... , n})*. Jazyk CO-(La,b H S) je regulární, právě když Ĺ a, B H S je regulární, a to je (podle lemmatu 5.32) tehdy a j en tehdy, když instance {A, B) PKP nemá řešení. D Věta 5.36. Pro libovolnou danou bezkontextovou gramatiku G je nerozhodnutelné určit, zda j e víceznačná. Důkaz: Nechť (A, B) je instance Postova korespondenčního problému nad E, A = (x\,... , x„), B = (yi,... , y„). Bez újmy na obecnosti můžeme předpokládat, že E fl {1,... ,«} = 0 a [t ^E. K této instanci nyní sestrojíme bezkontextovou gramatiku G = (N, E U {1, ... , n] U {fl}, P, S) s množinou pravidel P : S -+ Si \ Si Si —> XjSii | fl pro všechna 1 yiSii | fl pro všechna 1 < z < « Zřejmě gramatika ^ je víceznačná tehdy a jen tehdy, když instance (A, B) Postova kore-spondečního problému má řešení. D Věta 5.37. Pro libovolnou danou bezkontextovou gramatiku G je nerozhodnutelné určit, zda je víceznačná. Důkaz: Nechť (A, B) je instance Postova korespondenčního problému nad E, A = (x\,... , x„), B = (yi,... , y„). Bez újmy na obecnosti můžeme předpokládat, že E fl 154 Je L (Q) prázdný? konečný? JeZ(£) = E*? Je L{Q) = R? (R]e regulárni množina) JeZ(0i) = Z(02)? Je Z(0i)DZ(02)? Je Z, (í/) regulárni jazyk? Je průnik dvou jazyků jazyk téhož typu? Je sjednocení dvou jazyků jazyk téhož typu? Je komplement jazyka jazyk téhož typu? Je zřetězení dvou jazyků jazyk téhož typu? Je gramatika Q víceznačná? KAPITOLA 5. NEROZHODNUTELNOST R DCF CF CS Ttec tf£ R R R N N N R R N N N N R R N N N N R R N N N N R N N N N N ano R N N N N ano N N ano ano ano ano N ano ano ano ano ano ano N ano ano N ano N ano ano ano ano R N N N N N {1,... ,«} = 0 a [t ^E. K této instanci nyní sestrojíme bezkontextovou gramatiku Q = (N, E U {1, ... , n] U {(J}, P, S) s množinou pravidel P : S -► Si | & 5*1 —»- x, Si i | Ö pro všechna 1