1   Přehled pojmů z funkcionální analýzy
V - lineární prostor
Q C W1 - otevřená množina v W1
C(íž) - prostor funkcí spojitých na íl
C(Q) - prostor funkcí spojitých na uzavřené množině íž
Obdobně pro prostory funkcí se spojitými derivacemi do řádu m včetně.
Lineární obal: sp{-ui,..., vn} = {XT=i aivu cti g K, i = 1,..., n}, kde v;t g V
a K je množina skalárů (reálná nebo komplexní čísla)
Definice 1.1. Lineární prostor V se nazývá konečně dimenzionální, jestliže existuje konečná maximální množina nezávislých vektorů {vi,... ,vn}, tj. množina {vi,..., vn} je lineárně nezávislá, ale množina {vi,... ,vn, vn+í} je lineárně závislá pro libovolný vektor vn+í g V. Množina {vi,..., vn} se nazývá báze prostoru V. Jestliže taková množina neexistuje, je prostor V nekonečně dimenzionální.
Věta 1.1. Pro konečně dimenzionální lineární prostory obsahuje každá báze stejný počet prvků. Toto číslo se nazývá dimenze V.
1.1   Normované prostory
Definice 1.2. Nechť V je lineární prostor, norma ||*|| je funkce z V do IR s následujícími vlastnostmi:
1. H^ll > 0 pro Vti g ľ a H^ll = 0 <^ v = o,
2. ||cm;|| = \a\ \\v\\ pro \/v g V, Va g K,
3. ||it + v\\ < \\u\\ + \\v\\ pro Vit, v E V. Pak V je normovaný lineární prostor.
Definice 1.3. Nechť V je lineární prostor, seminorma |*| je funkce z V do IR s vlastnostmi normy, kromě toho, že \v\ = 0 nemusí implikovat v = o.
Definice 1.4. Řekneme, že dvě normy ||*||(i), ||*||(2) jsou ekvivalentní, jestliže existují kladné konstanty ci,c2 takové, že ci||it||(i) < \\u\\^) < c2||-u||(1), pro
y u g v.
Poznámka. Pro ekvivalentní normy platí: posloupnost {un} konverguje v jedné normě právě tehdy, když konverguje v druhé normě.
Věta 1.2. Pro každý konečně dimenzionální prostor platí, že každé dvě normy jsou ekvivalentní.
Poznámka. V nekonečně dimenzionálních prostorech toto tvrzení neplatí.
1
1.2   Banachovy (úplné) prostory
Definice 1.5. Řekneme, že normovaný prostor je úplný, jestliže každá cau-chyovská posloupnost konverguje k prvku tohoto prostoru.
Příklad. Nechť Q E W1 je otevřená, omezená množina. Pro v E C (Q) a 1 < p < oo definujme p - normu
|w(x)|p dx
i/p
kde x = (xi,..., Xd)T, dx = (dxi,..., dx^)- Definujme dále oo - normu nebo maximální normu
||v||oo = max
Prostor C(íž) s ||*||oo je Banachův prostor, tj. stejnoměrná limita posloupnosti spojitých funkcí je rovněž spojitá funkce.
Příklad. Prostor C(íž) s p-normou 1 < p < oo není Banachův prostor: C[0,1]
'o
un(x) = \nx
n < x < I__L
u — x — 2       2n '
1 \ + ±<x<l.
Nechť
Pak \\un
u
, ,     J 0   0 < x < i W     |l   i < x < 1.
0,n —► oo, tj. posloupnost {un} konverguje k u v normě
u
\\*\\p- Ale zřejmě, bez ohledu na to, jak definujeme it(l/2), limitní funkce není spojitá.
Příklad. C[—1,1], un(x) = x2™-1, (rr, ^/!ř, iJj/řĚ, ^/!ř, ...), un E C[—1,1]
-1 -l<x<0, ■u(x) = ^ 0     x = 0,
1     0 < x < 1.
1í„ — 1í
= 2 = 2
-1,	1]-
	
	
-1	
ŕ	i
	^ 2n— 1
Jo	
r2n	- 1
L2ra + 1	
x2"-1 — tí(rr)
cřx = 2
2n
+ 1
Q£ 2n—l
2
2x2"-i + 1
dx
n(2n + 1)
=> un —► u, \\*\\2, ale u G" C[—1,1] =>• C[—1,1] není Banachův prostor. 1.3   Úplný obal normovaného prostoru
Věta 1.3. Nechť V je normovaný prostor. Pak existuje úplný normovaný prostor W s těmito vlastnostmi:
(a) Existuje podprostor V CW a lineární bijekce I: V —► V taková, že
\\Iv\\w = \\v\\v, VveV Funkce I se nazývá isometrický isomorfismus prostorů V a V.
(b) Podprostor V je hustý v W, tj. pro každé w G W existuje posloupnost {vn} ^ V taková, že
\\w — vn\\w ~^ 0   Pro n ~^ °°-
Prostor W se nazývá úplný obal (zúplněni) prostoru V a je definován jednoznačně až na isometrický isomorfismus.
Poznámka. Prostory V a, V jsou obecně identické.
Příklad. Prostor Cm[a,b] s normou
i/p
3=0
Prostor Cm[a, b] není úplný s touto normou. Jeho úplný obal se značí Wm,p(a, b) a je to příklad Sobolevova prostoru.
1.4   Prostory se skalárním součinem
Definice 1.6. Nechť V je lineární prostor nad K. Skalární součin (*,*) je forma z V x V do K s těmito vlastnostmi:
1. (u, u) > 0   Vit G V, (u, u) = 0 ^ u = o,
2. (u, v) = (v, u)   Vit, v E V,
3. (au + flv, w) = a(u, w) + (3(v, w) Vit, v, w G V, a, f3 G Pak V je prostor se skalárním součinem.
3
Věta 1.4 (Schwarzova nerovnost).
< a/(u,v)(u,v),    \/u,v G V.
Rovnost platí    u, v jsou lineárně závislé (u = tv).
Definujeme normu: ||it|| = a/(u,u),\/u G V.
Věta 1.5. Skalární součin je spojitá funkce vzhledem k indukované normě. Jinými slovy: jestliže ||*|| je norma definovaná \\u\\ = ^JJu~u), pak \\un — it|| —► 0 a \\vn — i>|| —► 0 pro n —► oo implikuje (un,vn) —► (u,v). Zejména, jestliže un —► u, pak pro každé v: (un, v) —► (u, v).
Věta 1.6 (Polarizační identita).
(u,v) = -      + v\\2 — \\u — v\\2) (u,v) = - (\\u + v\\2 — \\u — v\\2 + i\\u + iv\\2 — i\\u — iv\\2^
pro reálný, resp. komplexní případ. Důkaz. Dokážeme pro reálný případ.
||m + w||2 — \\u — "u II2 = (u + V,U + v) — (u — V,U — v)
= (u, u) + (u, v) + (v, u) + (v, v)
- [(u, u) - (u, v) - (v, u) + (v, v)] = A(u,v).
□
1.4.1   Rovnoběžníkové pravidlo
Věta 1.7. Norma ||*|| na V je indukována skalárním součinem <=>> splňuje rovnoběžníkové pravidlo1:
\\u + v\\2 + \\u - v\\2 = 2\\u\\2 + 21|w||2,   Vit, v G V.
Důkaz. Dokážeme to pouze pro reálné prostory.
=>- Nechť ||*|| = a/(*, *) pro nějaký skalární součin (*,*). Pak pro každé u, v G V platí:
||w + -u||2 + II m — w ||2 = (u + v,u + v) + (u — v,u — v)
= 2(u, u) + 2(v, v) + (u, v) + (v, u) - (u, v) - (v, u)
= 2(HI2 + H2)
1 Rovnoběžníkové pravidlo je zobecněním Pythagorovy věty pro trojúhelníky.
4
Předpokládejme, že norma ||*|| splňuje rovnoběžníkové pravidlo. Pro u, v G V definujme
\u — v\
2)
a ukážeme, že je to opravdu skalární součin.
(u,u) = j\\2u\\2 = \\u\\2 >0a(n,ii) = 0^ii = o (u,v) = \ (\\u + v\\2 — \\u — v\\2) = (v,u) linearita:
(u + v,w) = (u, w) + (v, w),\/u, v,w G V a (au, v) = a(u,v),Wu G V,a G IR
(u,w) + (v,w) = - (||w + w;||2 — \\u — w||2 +     + u>||2
\v — w\
u + w\\2 + \\v + w\\2
\u — w\\2 + \\v — w ||2))
■ (\\u + v + 2w\\2 + \\u - v\\2) - (\\u + v - 2w\\2 + \\u - v\\2)
- (\\u + v + 2w\ 8
\u + v- 2w\\2)
Zavedeme substituci U = u + v + w, pak
\\U + w\\2+\\U-w\\2 = 2(\\U\\2+\\w\\2)
\\U + w\\2 = 2(\\U\\2+\\w\\2)-\\U-w\\2
= 2 (\\u + v + w\\2 + \\w\\2) - \\u + '
Podobně pro V = u + v — w dostaneme
||V - uj||2 = 2 (\\u + v - w\\2 + \\w\\2) - \\u + v\\2. Celkem tedy
(u,w) + (v,w) = - 2 (\\u + v + w\\2 + \\w||2) — \\u + ■ 8 L
- 2 (\\u + v - w\\2 + \\w\\2) + \\u + v
\u + v + w\
\u + v — w\\2}
(u + v, w)
5
Důkaz vztahu (au, v) = a(u,v) viz [Atkinson, str. 21 a dále]. Definujme funkci f(a) = \\au + v\\2 — \\au — v\\2. Ukážeme, že f(a) je lineární funkcí a.
lu + v\\2 + \\3u-v\\2
f (a) — f (3) = \\au + v\\2 — \\au — v\\2 -
= \\au + v\\2 + \\3u - v\\2 - (\\au - v\\2 + \\3u + v\\2)
= 1-{\\(a + l3)u\\2 + \\(a-3)u + 2v\\2) -\{\\(a + 3)u\\2+\\(a-3)u-2v\\2)
a - 8)u + 2i
; 2
a-3
u + v
a- 3)u- 2v\\2) a-3
-u — v
a-3
□
1.5   Hilbertovy prostory
Definice 1.7. Úplný prostor se skalárním součinem se nazývá Hubertův prostor.
Příklad. Příklady Hilbertových prostorů:
• L2(0,1) ^u{x)v{x)dx
• L2(Q)    jQu(x)v(x) dx
• w(x) je kladná funkce na íž:
L2W(Q) = {v - měřitelná; jn w(x)\v(x)\2 dx < oo} je Hilbertův prostor se skalárním součinem (u,v)w = Jn w(x)u(x)v(x) dx. Prostor L2(fž) s vahou (vážený prostor L2(fž).)
• Prostor Cd (uspořádaných d-tic komplexních čísel): (x, y) = J2Í=i xňfí-
1.6 Ortogonalita
Úhel mezi dvěma vektory:
ip = arccos
(u,v)
\u\ \ \ \v
6
u, v jsou ortogonální: (u, v) = 0 Prvek v E V je ortogonální k podmnožině U C V, jestliže (u, v) = 0, \/u E U.
Definice 1.8. V - konečně dimenzionální prostor se skalárním součinem:
ortogonální báze {vi,... ,vn} : (ví,Vj) = 0,i ^ j. Báze ortonormální: \\ví\\ = 1, i = 1,..., n.
Definice 1.9. V - nekonečně dimenzionální normovaný prostor, V má spočetnou bázi, jestliže existuje posloupnost {vi}°^l C V, pro kterou platí: pro každé v E V existují skaláry {aVji}2=l,n = 1,2,... takové, že
aVíiVi || —► 0,    pro n —► oo.
Takový prostor se nazývá separabilní. Posloupnost se nazývá bází,
jestliže každá konečná podmnožina této posloupnosti je lineárně nezávislá. Je-li V prostor se skalárním součinem a jestliže posloupnost {ví}í>i splňuje
{vi,Vj) = 5ij, i,j>l,
pak {v,j} je ortonormální báze pro V.
Definice 1.10. Řekneme, že nekonečně dimenzionální prostor V má Schau-derovu bázi {vn}n>i, jestliže pro každé v E V je možné psát v = Y^=i an,vn jako konvergující řadu ve V s jednoznačnou volbou skalárů an.
1.7   Prostory spojitě diferencovatelných funkcí
Definice 1.11. Nechť Q je otevřená množina v W1, x = (x±,..., Xd)T E TOíi
a = (q Výraz
a = (cti, • • •, OLd) {on - nezáporná celá čísla) je multiindex délky \a\ = Y^i=i aí-
Dav(x) =
d^v(x) dx*1 ■■■dxaii
nazýváme derivace řádu \a\. Příklad.
dv
= Dav a = (1,0,..., 0) = Dav      a = (1, !,...,!)
dxi
dxi■■ ■ dxd
7
Množina všech derivací řádu m funkce v může být zapsána ve tvaru {Dav; \a\ = m}. Prostor C(ň)
II^IIc(n) = suPÍI'ř;(:c)l! x E D,} = max{\v(x)\; x E íž}.
Je C(íž) C C (Q,) a index je vlastní. Neboť existují funkce v E C (Q,), které nemohou být rozšířeny na spojité funkce na fž, příkladem je funkce f(x) = 1/x na (0,1).
Nechť Z+ je množina nezáporných celých čísel. Pro každé m E Z+, Cm(Q) je prostor funkcí spojitých se spojitými derivacemi až do řádu m včetně.
Cm(n) = {vE C(íí); Dav E C (Q), \a\ < m}
Cm(ľÍ) = {vE C(ň); Dav E C(íí), |a| < m} Cm(íž) je Banachův prostor s normou
IMIc"™(n) = ,mřF Il-^^llcrn)
v  '       |a|<m v '
C°°(Q) = p| cm(n) = {vE C(tt),v E Cm(íí),Vm E Z+}
m=0
oo
C°°m = pl Cm(ň) = {vE C(ň),v E Cm(ň),Wm E Z+}
m=0
Nosič funkce: nosič v = {x E Q; v (x) ^ 0}. Říkáme, že v má kompaktní nosič, jestliže nosič v je vlastní podmnožina íž, tj. nosič v C íl
1.8   Holderovy prostory
Funkce -u definovaná na íž je lipschitzovsky spojitá, jestliže pro nějakou konstantu c platí
\v(x) — v(y)\ < c\\x — y\\ Vx,y£Q.
V tomto vztahu je ||rr — y\\ standardní euklidovská norma. Nejmenší konstanta v této nerovnosti se nazývá Lipschitzova konstanta a značíme ji L(v). Lipschitzova konstanta je charakterizována vztahem
r / x           í \v(x) — v(y)\ ^     , 1
L(v) = sup { !-y-pi; x,yeSl,xry\.
I  \\x-y\\ J
8
Funkce v se nazývá holderovsky spojitá s exponenetem (3 e [0,1], jestliže pro nějakou konstantu c platí
\v(x) — v(y)\ < c\\x — y]]13,   \/x,y e Q.
Holderův prostor CQ,^{Q) je definován jako podprostor C{Q). S normou
IMIc°.0(ň) = Mm + suP j     y^>xr y)
je prostor C0,l3(íl) Banachovým prostorem.
Pro (3 = 1 =>• prostor lipshitzovsky spojitých funkcí.
Pro m G Z+ a (3 e (0,1] —► Holderův prostor:
Cm>P(ň) = {ve Cm(ľí),Dav e C°>P(ň) pro všechna a, \a\ = m]
S normou
„ „ „ „ í \Dav(x) - Dav{
je to Banachův prostor.
C"»./3(n) - ll"llc(n) t ^ BUP ^ _ p
|a|=m
1.9   IP prostory
LP(Q) je lineární prostor měřitelných funkcí v:
\\v\\ľp{si) = jy Krr)|p<irj    < oo
L°°(fž) = {[V]; -u měřitelná na fž,    ||oo < oo}, kde [v] = {w; w měřitelná na íž, v w(a,e)}2 [Atkinson, str. 14] v měřitelná na íž:
|| v || co = esssup|w(x)|
=     inf      sup 11^(^)11
meas(O')=0 xeQ\Q/
meas(fľ) = 0, tj. fľ je měřitelná s mírou = 0
IMlL°°(n) =     inf      sup \v(x)\ < oo
meas(n')=0 xeQ\Q'
Vlastnosti: (íž je otevřená množina v Rd)
2a,e = almost, everywhere
9
(a) Pro p E [1, oo) je LP(Q) Banachův prostor.
(b) Pro p G [l,oo) z každé cauchyovské posloupnosti v LP(Q) lze vybrat podposloupnost, která konverguje bodově a. e. na íž.
(c) 1 < p < q < 00     Lq(íl) C LP(Q)
F||lp(íí) < meas(fž)p «|MUí(n);   M v G IMU°°(n) = i™ IMUpío),        G L°°(fž)
p^oo
(Je-li q = 00 bere se ^ = 0.)
(d) Jestliže l<p<r<g<oo, vybereme 9 G [0,1] takové, že
1 _ 9 1-9
r     p q
Z toho plyne
IMU^n) < IMIip(n)IMfc(n),   Wv e
Vlastnost (d) se nazývá interpolační vlastnost Lp prostorů.
Holderova nerovnost: u G LP(Q), v G Lq(íľ), p, q > 1, ^ + ^ = 1
u(x)v(x)\ dx < ||M||LP(n)||t;||Lg(n).
Minkovského nerovnost:
\\u + v\\LP{n) < \\u\\LP{u) + ||w||Lp(n),   P G [l,oo], u,v (ž LP(Q).
Věta 1.8. Necht Vt C Rd je otevřená množina, 1 < p < 00. Pak prostor C%°(Q) je hustý v LP{Q), tj. pro každé v G LP{Q) existuje posloupnost {vn} G C^°(Q,) taková, že \\vn — v||lp(íí) —► 0 pro n —► 00.
C~(íí) = {«G C°°(Q); nosič v C íí} 1.10   Kompaktní množiny
Definice 1.12. (a) Nechť S* je podmnožina v normovaném lineárním prostoru V. Řekneme, že S má otevřené pokrytí systémem otevřených množin {Ua; a G A,Aje množina indexů}, jestliže
sc\Jua.
10
Řekneme, že S je kompaktní množina, jestliže z každého pokrytí S lze vybrat konečné pokrytí
{Uaj;j = l,...,m} C A}.
(b) Ekvivalentně, S je kompaktní, jestliže z každé posloupnosti {xj} C S* lze vybrat konvergentní posloupnost {a^J konvergující k prvku x E S.
(c) Jestliže £ je množina, pro kterou je S kompaktní, říkáme, že S je pre-kompaktní.
Věta 1.9 (Heine-Borel). Nechť V je konečně dimenzionální normovaný lineární prostor a S je podmnožina V. Pak S je kompaktní <^ S je ohraničená a uzavřená.
Věta 1.10 (Arzela-Ascolli). Nechť S C C (D), D C Rd je uzavřená a ohraničená. Nechť funkce f E S splňuje podmínky
• supjgsll/Hoo < oo (stejnoměrně ohraničená),
• \f(x) ~ f(y)\ < cs(z), pro \\x - y\\ < e, V/ G S a cs(e)     0 pro e 0 [rovnomocnč spojitá).
Pak S je prekompaktní v C (D).
1.11   Lineárni operátory na normovaných prostorech
V, W - množiny, operátor T: V —► W
V (T) = {v G V; T (v) je definováno} definiční obor (je to oblast/podmnožina V, kde je operátor definován),
1Z(T) = {w G VT; w = T (v) pro nějaké v G D (T)} obor hodnot. Nulová množina J\Í(T) = {v G V; T (v) = 0}.
Příklad. Příklad lineárního operátoru.
V = W = C[a, b], \\v\loo = maxa<x<b\v(x)\
Nechť k e C ([a, b] x [a, b}). Operátor K: C[a, b] ->■ C[a, b]
(Kv) (x) = /  k(x,y)v(y) dy
J a
K - lineární integrálni operátor, k(*, *) - jádro integrálního operátoru
Za uvedených předpokladů je integrálni operátor spojitý z C[a, b] do C[a, b]
a platí
b
\K\\ = max / k(x,y)dy
a<x<b Ja
11
Definice 1.13. Operátor T je
• injektivní: vi ^ v2 =>• T(v{) ^ T(v2),
• surjektivní: 1Z(T) = W,
• bijekce (tj. injektivní a surjektivní) z V na W, můžeme definovat inverzní operátor T-1: W —► V, kde -u = T_1(uj) <š=> w = T(-u).
Příklad. Nechť V je lineární prostor, identický operátor I: V —► V je definován
= v,   \/ve V.
Je to bijekce z V do V a navíc inverze je také identický operátor.
Příklad. Diferenciální operátor z V = C[0,1] do W = C[0,1] definován takto
-^-.v^v', veC[0,l].
dx
Definiční obor operátoru T>(-^) je C^O, 1], což je vlastní podprostor C[0,1]. Tento operátor je zřejmě surjektivní, neboť = C[0,1]. Ale není injek-
tivní, neboť vl = kl^v2 = k2^ £vx = £v2 = 0, tedy neplatí ±vi ^ £v2. Nulová množina J\Í(T) je množina všech konstantních funkcí.
1.11.1 Spojité lineární operátory
V, W - lineární prostory, lineární operátor L: V —► W
L(p.iV]_ + «2^2) = a\Lv\ + a2Lv2, \/vi,v2 G V, V«i, «2 G K
Definice 1.14. Nechť V a jsou normované prostory. Operátor T: V ^ W je spojitý v bodě v G T>(T), jestliže
{vn} C £>(T) a^^^veľ^Tti^Tt) ve W7".
Operátor T je spojitý, jestliže je spojitý na celé oblasti V(T).
1.11.2 Ohraničený operátor
Ohraničenost: ||Ľit||vp < 7lM|v, V-u G V
Operátor je ohraničený, jestliže pro každé r > 0 existuje R > 0 takové, že
v G V(T), \\v\\ < r     ||Tw|| < i?.
Věta 1.11. Nechť V a W jsou normované prostory, L: V ^ W je lineární operátor. Pak L je spojitý (na V) právě tehdy, když je ohraničený na V.
Označení: c(V, W) = množina včech spojitých lineárních operátorů z normovaného prostoru V do normovaného prostoru W. V případě, že V = W píšeme c (V) místo c(V,V).
12
1.11.3   Norma operátoru
Jinak
mi \\Lv\\w
\M\v,w = SUP —ň—n--> operátorova norma
o^vev \\v\\v
\L\\v,w = sup veBi
= sup
v: \\v\\y=l
sup II^IIvf
f v: \\v\\v—i"
Poznámka. V předchozím je užito linearity
\\Lv\\w
\\v\\v
B1 je jednotková koule ve W.
\V\\v
W
Poznámka. \\L\\Vjw Je-li B\ jednotková koule ve V vzhledem k normě ||*||v,v(/ maximální velikost ... obrazu ve V.
Věta 1.12. Množina C(V, W) je lineárním prostorem —► normovaný prostor —► výše uvedená norma.
Poznámka. Je-li operátorem matice, pak jde o souhlasnost norem [viz přednáška Numerické metody I].
Platí:
ll-MIty < ll-^lliwIMIv, Víieľ
Věta 1.13. Nechť U, V, W jsou normované prostory, S': U —► V, T: V —► W jsou spojité operátory. Pak složený operátor TS: U —► W, definovaný
T S (v) = T (S (v)), y v G U,
je spojitý lineárni operátor a platí
\\TS\\
u,w < II •S'II t/, vll^1lv,w-
Důsledek. Multiplikativnost:
\\Ln\\ < \\L\\n
13
1.12   Prostor C(V, W)
Věta 1.14. V normovaný prostor, W Banachův prostor =>- C(V, W) je Ba-nachův prostor.
Definice 1.15. Operátor L se nazývá nesingulární, jestliže M{L) = {0}. V opačném případě je L singulární.
Věta 1.15 (Věta o geometrické řadě). Necht V je Banachův prostor, L G C{V), předp. \\L\\ < 1. Pak I—L je bijekce na V (I je identický operátor). Jeho inverze je ohraničený lineární operátor a platí
1 - ||L||
Důkaz. Použijeme: M = (I - L)-1 = J2n=o uD
Věta 1.16 (Věta o poruchách). (A perturbation result, Atkinson, str. 50) Nechť V a W jsou normované prostory, z nichž alespoň jeden je Banachův. Nechť L G £(V, W) má ohraničenou inverzi L^1: W —► V. Nechť M G C(V, W) splňuje
l|M-HI<^.
PakM:V^W je bijekce, M'1 G C(W, V) a
\L-l\\
\M-l\\ <
■ IIL-^IIIL-MII' Navíc
„r i     „,„ \\L-l\\2\\L-M\
\L-l\\\\L-M\
Větu lze parafrázovat takto: Operátor, který je blízký operátoru s ohraničenou inverzí, bude mít také ohraničenou inverzi.
Tato věta je důležitá při vyšetřování rovnic, které jsou blízké rovnicím se známým řešením.
Pro řešení rovnic Lv\ = w, Mv^ = w máme odhad
\\vi - v2\\ < ||M_1||||(L - M) vi\\ (*)
Odhad (*) může být užit jak pro ä priori, tak pro ä posteriori odhady chyb. Rovnice Lv = w —► přesný problém. (L má inverzi pro dostatečně velká n, má Ln také inverzi.) Máme posloupnost přibližných problémů Lnvn = w.
14
Předpokládáme, že {ln} konverguje k l. Podle předchozí věty pro dostatečně velká n má lnvn = w jediné řešení vn a máme odhad
\v-vn\\ < HL^IIIKL-Ln)
v\\.
Konzistence je definována takto:
\\{l-ln)v\\ ^0 Stabilita je definována podmínkou:
{ll-L"11| }n Veiké Je stejnoměrně omezená Konzistence + stabilita =/- konvergence
\\v — vn\\ ^ 0
Důkaz. Důkaz věty o poruchách (o perturbaci). Jestliže w je úplný prostor, píšeme
M = [i — (l — M)l-l]l,
jestliže V je úplný prostor, píšeme
M = l[i - l~l(l - M)].
Dokážeme výsledek pro w úplný. Operátor
(l - M)l-1 e c(w)
splňuje
||(L - M)l~l\\ < ||L - M||||L_1|| < 1
Aplikujeme větu o geometrické řadě —► podle této věty existuje (i -(l- M)l-lYl a platí
||(j _ (l-m)l-r^ < ^„(Jm)^,! < t.ll^H^MlI-
Pak existuje (L 1 dle předpokladu a závorka podle předchozího)
M'1 = l~l(i — (l — M)l-l)-\
tedy
ikr1!! = \\l-l\\\\(i- (l-M)l-lyl\\ <
1 - \\l-l\\\\l - M\
Abychom dostali další výraz, zapíšeme l 1 — M 1 = M l(M — l)l 1 a užijeme předchozího vztahu.
vl = l-ľw, v2 = M-lw vl - v2 = (l-1 - M-l)w = M-l(M - l)l-lw = M'1 (M -Ľ)Vl     \\Vl -v2\\ < \\M-l\\\\{M - Ľjv^. □
15
Věta 1.17 (Věta o rozšíření). Necht V je normovaný prostor a necht V je jeho úplný obal. Necht w je Banachův prostor. Předpokládejme l G £(v, w). Pak existuje jediný operátor l G £(v, w) s vlastností
Ĺv = Lv,    \/v G V,
ll-^ll v,w — ll-^ll v,w-Operátor L se nazývá rozšíření operátoru L.
Věta 1.18. Necht v a w jsou Banachovy prostory. Jestliže l G £(v, w) je bijekce, pak l~ľ G £(w, v).
Poznámka. Problém stability: Lv = w, Lv = w, tj. v — v = L~1(w — w) =>•
11— -£>11 < \\w — w\\.
Relativní chyba
\\v —         \\L~l|| \\w — w\\     .. v \\w — w\\
^ -7,—7,-— \\L \\\\L\
\\v\\ \\v\\ ||L||||í;|
Protože \\w\\ < IILHIMI dostaneme
\v — v\\     ..    ,......        \\w — w\
1 „ „ " < \\L~ \\ L  " „   „ 1
\w\
||L 1||||L||= cond(L) - číslo podmíněnosti rovnice 1 < cond(L) (dobrá a špatná podmíněnost)
1.12.1   Princip stejnoměrné ohraničenosti
Věta 1.19 (Banach-Steinhaus). Nechť v a w jsou Banachovy prostory, L,Ln G £(v,w), n = 1,2,.... Necht Vq je hustý podprostor ve V. Pak k tomu, aby Lnv —► Lv, Wv G V, je nutné a stačí, aby
(a) Lnv —► Lv, Wv G Vo,
(b) supn||Ln|| < oo (stejnoměrná ohraničeno si).
Aplikace Banach-Steinhausovy věty. Kvadraturní formule
n i=0
16
kde O < < < ... x^ < 1 je dělení intervalu [0,1], jsou koeficienty kvadraturní formule a Ln je lineární funkcionál na C[0,1]. Platí3
Mi
\\Ln\\ ~
i=0
Důkaz. Z definice operátorové normy plyne
n n
\\Ln\\ < ^2\wln)\      \\v\\C[o,i] < Y^\win)\
í=q í=q
neboli
Ei   M i
Zvolme např. polynom stupně < n, pro který platí
T)/    M\ M 1
ll-nlc[o,i]
Pak
V~M     (n) I n
,MI
w-
c[o,i]" "~L""J
□
Nechť kvadraturní formule je přesná pro polynomy st. d(n), tj. Lnv = Lv, Wv G Vd(n), kde Vd(n) je prostor polynomů stupně < d(n). Předpokládejme d(n) —► oo, pak podle Banachovy-Steinhausovy věty platí Lnv —► Lv pro každé v G C[0,1] právě tehdy, když
sup
Mi ^
i=0
Neboť množina všech polynomů je hustá v C[0,1]. Jestliže dodatečně předpokládáme, že        > 0, pak Lnv —► Lv pro každé v G C[0,1]. Jsou-li totiž váhy kladné, je LI = Y^wt^ = konst., neboť se předpokládal stupeň přesnosti d(n) > 0 =>• podmínka sup < oo je splněna. Zadejme na intervalu [0,1] funkci ipn{x):
V(xiín)) = sgnwín) a \^n(x)\ < 1     Lnv? = J]KW|.
Takovou funkci můžeme zadat v bodech x\n^ a pak ji dodefinovat jako lineární mezi těmito body a event. konstantou na intervalech [O,:^], [xnl\ 1] =>-
3Ln funkcionál, ||ln|| = max„ey\\Lnv\
17
1.13   Lineární funkcionály
Rozumíme pouze omezené lineární funkcionály /. /: V —► K, protože K je úplný prostor, je C(V, K) Banachův prostor —► značí se V a nazývá se duální prostor.
Věta 1.20 (Hahn-Banach). Nechť'Vq je podprostor normovaného prostoru V a l: Vq —► K je lineární omezený funkcionál. Pak existuje rozšíření l G V takové, že l(v) = l(v), Wv G Vq a \\l\\ =
Poznámka. Vq nemusí být hustý, pak rozšíření není jediné.
Definice 1.16. Funkcionál p na reálném prostoru V se nazývá sublineární, jestliže
p{u + v) < p(u) + p(v),   Wu, v e V p(au) = ap(u),   Wa > 0
Věta 1.21 (Zobecněná Hahn-Banachova věta). Nechť V je lineární prostor Vq c V podprostor. Nechť p: V —► IR sublineární funkcionál al: Vq IR je lineární funkcionál takový, že l(v) < p(v), Wv G Vq. Pak l může být rozšířen na V tak, že l(v) < p(v) pro Wv e V.
Poznámka. Nechť p(v) = c\\v\\v, c je kladná konstanta p je sublineární funkcionál na ľ. S touto volbou funkcionálu p dostaneme původní Hahn-Banachovu větu.
Důsledek. Nechť V je normovaný prostor. Pro každé v0 G V existuje / G V tak, že ||/|| = 1, l(v0) = \\v0\\.
Důkaz, vq G V —► uvažujme množinu {tv0}, t reálné číslo, tv0 C V (podprostor) generovaný prvkem v0. Definujme funkcionál l: v = tv0     Iv = t\\vo\\ =>•
^(^o) = ll^oll a ll^ll = l^lll^oll = ll^ll =^ PII = i- n
Věta 1.22 (Rieszova věta o reprezentaci). Nechť V je Hilbertův prostor, l G V. Pak existuje jediný prvek u G V, pro který
l(v) = (v,u),Wv G V
a
18
1.14   Adjungované operátory
Zobecníme pojem transponované matice.
A G Kmxn _> lineární spojitý operátor z IRn do W11. Pak
yTAx = (Ax, y)Rm,   xTATy = (x, ATy) (au   ...   aín\ (xi\      fyi\
V x G
y e
y^mi • • •
\xn)
x G
y ^
\ymJ
Protože y1Ax je reálné číslo, je y1Ax = (yTAx)T = xTATy. Všimněme si, že transpozice je jednoznačně definována vlastností
{Ax, yym = (x, ATyyn,   Vx ERn,ye Rm.
Zobecněním transpozice (na nekonečně dimenzionální případ) jsou adjungované operátory.
V, W Hilbertovy prostory, L G c(V, W), L*: W —► V je takový operátor, že platí
(Lv, w)w = (v, L*w)v,   \/v eV,\/w G W.
L* se nazývá adjungovaný operátor.
L* je lineární ||L*|| = ||L|| a omezený (L*)* = L.
V případě, že V = W a L = L*, pak L je samo adjungovaný.
Poznámka. L samoadjungovaný operátor z IRn do IRn symetrickou maticí.
V nazýváme reflexivní, jestliže platí V = (V')'A
je reprezentován
Definice 1.17. Nechť V, W jsou normované prostory. Řekneme, že posloupnost {Ln} lineárních operátorů z V do W je silně konvergentní k operátoru L, jestliže \\Ln — L\\ —► 0, značíme Ln —► L. Posloupnost {Ln} konverguje slabě k operátoru L, jestliže limn^oo Ln(v) = L(v) Wv G V, značíme Ln —^ L.
Věta 1.23. Nechť V je reflexivní Banachův prostor, pak každá omezená posloupnost má slabě konvergentní podposloupnost.
V je duální prostor k prostoru V.
19
2   Teorie aproximací 2.1   Teorie interpolace
Nechť V je normovaný vektorový prostor nad polem K. Abstraktní problém interpolace je formulován takto: Nechť Vn je n dimenzionální podprostor V s bází {vi,..., vn}. Nechť Li g V, i = 1,..., n jsou spojité lineární funkcio-nály na V. Je dáno n čísel bi g K, 1 < i < n, nalezněte un g Vn tak, že jsou splněny interpolační podmínky
LiUn = bi,   i = l,...n.
Otázky: Má tento ptoblém řešení? Jestliže ano, je toto řešení jediné? Co se dá říct o chybě interpolace?
Definice 2.1. Řekneme, že funkcionály Li, i = 1,.. .n, jsou lineárně nezávislé na Vn, jestliže
n
a,iLi(v) = 0, Mv g Vn => a„i = 0, i = 1,... n.
í=i
Lemma 2.1. Lineární funkcionály jsou lineárně nezávislé na Vn právě tehdy, když
L\V\   ■ ■ ■ L\vn
áet(LiVj)
Lnv\   ■ ■ ■ Lnvr
^0.
Důkaz. Li,...,Ln jsou lineárně nezávislé na Vn <^ Yľi=iaí^í(vj) = 0>J = 1,... ,n => cti = 0,i = 1,... ,n <=>> det(LiVj) ^0. □
Věta 2.2. Následující tvrzení jsou ekvivalentní:
1. Interpolační problém má jediné řešení.
2. Funkcionály L\,...,Ln jsou lineárně nezávislé na Vn.
3. Jediný prvek un g Vn, pro který platí LiUn = 0,i = 1,..., n, je prvek un = 0.
4- Pro každý soubor hodnot {&í}™=1 existuje jediný prvek un g Vn tak, že LiUn = bi, i = 1,..., n.
Poznámka. V lineární algebře se to týká matice A g Knxn a jsou následující tvrzení ekvivalentní:
20
1. Systém Ax = b má jediné řešení x E Kn pro každé b E Kn.
2. det A ŕ 0.
3. Jestliže Ax = 0 => x = o.
4. Pro každé b E Kn má systém Ax = b právě jedno řešení x E Kn.
Důkaz. Důkaz věty (2.2) se provádí zobecněním výsledků z lineární algebry pro matice A E Knxn. □
Nyní, pro dané u E V je jeho interpolant un = Yľi=i aíví z definován interpolačními podmínkami
LiUn = LiU,    1 < i < n.
Koeficienty {aj}™=1 mohou být nalezeny řešením soustavy lineárních rovnic
/LiVi   ■■■   Livn\  fdi\      (Liu\
\LnVi   ■ ■ ■   LnvnJ \anJ      \LnuJ
Tato soustava má jediné řešení za předpokladu, že funkcionály Li,... ,Ln jsou lineárně nezávislé na Vn.
2.1.1   Lagrangeova polynomiální interpolace
Nechť / je spojitá funkce definovaná na uzavřeném konečném intervalu [a, b]. Nechť A : a < x0 < xi < ■ ■ ■ < xn < b je dělení intervalu [a, b]. V = C[a, b] je prostor spojitých funkcí, /: [a, b] —► K. Za Vn+Í vybereme Vn, což je prostor polynomů stupně nejvýše n. Pak Lagrangeův interpolant stupně n je definován podmínkami
Pn(Xí) = f(Xí),     Í = 0, . . . ,n,pn E Vn-
Interpolační lineární funkcionály jsou tvaru5
Lif = f(xi),   i = 0,...,n. Za bázi volíme prvky Vj(x) = x^, j = 0,..., n; L,j_Vj = x\.
det(Liwi)(n+i)x(n+i) = Y\_(xj ~ xi) 0-
j>i
21
Pak existuje jediný Lagrangeův interpolační polynom. Dá se zapsat ve tvaru
p„(*)=£/(*)*ť(s), $^)=nľ^4> (!)
i=0 j=íí v
kde $j jsou Lagrangeovy bázové funkce s vlastností = =
0,..., n. Vztah (1) ukazuje rovněž přímo existenci řešení Lagrangeova inter-polačního problému. Jednoznačnost je zřejmá. Obecně však není jednoduché najít takovou jednoduchou formuli jako je (1). Chyba interpolace: / G Cn+1[a,b]
m-pn(x) = ^^řn+1)(o, (2)
kde £ = £(x).
Poznámka. J2®ÁX) = 1 ^ vážený průměr dat, nebo také barycentrické souřadnice (funkce) polynomu pn.
i \ un+i(x) ^ f(xj) 1
Pn{x) = 1—-w-/-\ j\Xi) = Un+l(x) ^ 1—-\~-
j=0 \X      XJ)UJn+l\Xi) j=Q \X      Xj) ^n+l^j)
Položme Wj = j 1^x.y Protože pro f(x) = 1 platí, že pn(x) = 1, plyne odtud
1 = Un+1(x) ,    Wj    x        Un+l(x) = -
j-q V 3/ \ -}_
t—i (x-x
(x — X-i)
Odtud plyne, že
j=0 J /     j=0 J
2.1.2   Po částech polynomiální interpolace
Zaměříme se na po částech lineární interpolaci. Nechť / G C[a,b] a nechť
A : a < xq < Xi < ■ ■ ■ < xn < b
je dělení intervalu [a, b]. Označme hi = Xí—Xí-i,í = 1,..., n a h = maxi<j<n hi Po částech lineární interpolant I1a/ je definován dvěma požadavky.
22
• Pro každé i = 1,..., n je UAf[Xi^uXi] lineární.
• Pro i = 1,..., n UAf(x,t) = f(xj). Lze snadno ukázat, že
nA/(^) = X\ X'f(xi-i) + X   Xt~lf(xi),   x G [xi-UXi], l<i<n.
lij li i
Pro /' G C[a, b] platí
max \f(x) - UAf(x)\ < u(f, h),
x£[a,b]
(/, h) je modul spojitosti f na [a, b]
co(f,h)<  max \f(x)-f(y)\
\x-y\<h a<x,y<b
Důkaz.
/(•r) - HA/(.r) = \f(x) - ^JV, ,) + ^^/(.r,)
hi hi < ^ /,) ^ ~ X"> + (X ~ Xi~Ú = u(f, h).
na intervalu [xi_ux,t] je \f(x) - UAf(x)\ < u(f, h)
maxa<x<b\f(x) - UAf(x)\ < u(f, h). □
Předpokládejme / G C2[a,b]. Pak ze vztahu (2) pro chybu interpolace plyne (za n dosadíme 1)
/(*) -uAf(x) ={r ľ'fľ ■ľ;)/"(',) < yir(6)i,
(♦Jmaxaje^!,^]!^^)! = max^.^jl^ - x^i)(x - x.t)\ = \. max|/(x) - nA/(x)| < f max
23
Nechť nyní / g H2(a,b). H2(a,b) je prostor6 spojitě diferencovatelných funkcí, jejichž druhá derivace existuje a patří do L2(a, b) a
\2HHa,b) =   í   [\M\2 + l/'(*)ľ + l/"(*)ľ] dx (< OO). J a
Chyba v L2 je
||/-nA/||ia(a,6)= / \f(x)-UAf(x)\2dx = J2 / \f(x)-UAf(x)\2dx.
Ukážeme si tvar chyby pro interval [0,1]. Nechť / g H2(0,1) a U f je lineární interpolant tvaru
ň/(0 = (i-0/(o) + e/(i), o<£<i.
Použijeme Taylorův vzorec (v okolí bodu £) s integrálním tvarem zbytku:
(a) /(O) = /(O + (0 - 0/'(0 ~ f tf"(t) dt,
(b) /(i) = /(O + (i - 0/'(0 + J\i - *)/"(*) dt.
Dosazením do lineárního interpolantu
n/(0 = (i-0/(o)+
= (i - 0/(0 + £/(0 + (i - 0(-0/'(0 + e(i - 0/'(0
- (1 - 0 J */"(*) dt + tj (1- t)f"(t) dt
= /(O + ^J^1~ *)/"(*)dí - (! - 0 y° */"(*) dí
dostaneme
n/(0 - /(O = t£(1~ *)/"(*)dí - (! - 0 y° */"(*)
3 Je to příklad Sobolevova prostoru.
24
Pak můžeme chybu omezit
|íi/(0 - /(Ol < e       t)f"(t) dt + (i - o /V'(t) dt
•i /.i
(l-t)f"(t)dt +(1-0 /  */"(*) dt
(užitím Holderovy nerovnosti)
1 \ 1/2 /   T1   ^ n 1/2
|/"(í)|2dí
<0 / (i-t)2dí
v o y vo
+ (l-0(jí1í2dí)1/2(jí1|/,,(*)|2díNl/2
11 f (*) r dt)1/2 K/V - í)2 dt)1/2+a - o (/ í2 ^
/ rl ~       \ 1/2 = c(jí |/"(í)|2díN
Tedy dostáváme
V(0-n/(0l2de<c C\f"{t)\2dt.
O ^0
Vrátíme se k původnímu integrálu přes interval [rEj_i,rEj] a zavedeme substituci
x = Xi-i + £hi,    dx = hid^ : 1 \ f(x)-UAf(x)\2dx = hl í Ifixi^ + ZhJ-Ůfixi^ + Zhi)]2^
'Xí-i JO
< ch~
d2f(xi_l + £hi)
de
d£
Jo
Výsledný tvar chyby je7
||/-nA/||ia(aib) = X; / \f(x)-uAf(x)\2dx
<
chV\\h{a,b)
7Při zpětné substituci se jedno hi zkrátí.
25
2.2   Problém nejlepší aproximace
Nejlepší aproximace - jaká je nejmenší možná chyba pro aproximaci z dané třídy funkcí? Jde-li o polynomy, pak se snažíme minimalizovat nej větší odchylku polynomu od aproximované funkce, tj.
min max I f (x) — P(x)\.
PeVna<x<bU V   ' V Jl
Příklad. Mezi polynomy jsou nejlepší aproximací funkce f(x) =0 Čebyše-vovy polynomy:
Tn(x) = 21~ncos(narccos:r),   x E [—1,1].
Řešení závisí na funkci /, na třídě aproximujících funkcí a na normě, v jaké je chyba měřena. Stejnoměrná aproximace - ||*||oo-
V dalším budeme předpokládat, že V je lineární reálný nebo komplexní prostor.
Definice 2.2. Je dán prostor V a podmnožina K C V. Řekneme, že množina K je konvexní, jestliže
u,v E K => \u+ (1 - X)v E K, VAe(0,l).
Indukcí
n n
Ui E K, 1 < i < n => ^2 ^íuí e Ki   VAj > 0, ^ Aj = 1.
í=i í=i
Poznámka. Je-li definice uvedena bez předpokladu \ > 0, pak K je afinní množina.
Definice 2.3. Nechť K je konvexní množina v lineárním prostoru V. Funkce /: K —► IR se nazývá konvexní, jestliže platí
f(\u + (1 - \)v) < \f(u) + (1 - \)f(v),   Wu, v E V, VA E [0,1].
Funkce se nazývá ryze konvexní, když platí ostrá nerovnost pro n/«aAG (0,1).
Poznámka. Jensenova nerovnost:
(n \ n n
y, *íuí   < E A*^)>   A, > 0, ^ A, = 1. í=i      /     í=i í=i
26
Definice 2.4. Nechť V je normovaný prostor. Množina K C V je uzavřená, jestliže {-un} C K a -un —► v implikuje v E K. Množina K se nazývá slabě uzavřená, jestliže {vn} C K &. vn ^ v8 implikuje v E K.
Definice 2.5. Nechť V je normovaný prostor, K C V. Funkce /: K —► IR je (sekvenčně) zdola polospojitá [(sequentially) lower semicontinuous - l.s.c], jestliže {vn} C K, vn ^ v E K implikuje
f (v) < liminf f(vn).
n^oo
Funkce je slabě (sekvenčně) zdola polospojitá nebo slabě polospojitá [w.l.s.c. - weakly lower semicontinuous], jestliže tato nerovnost platí pro každou posloupnost {vn} C K, vn —^ v G K.
Poznámka. Spojitost implikuje polospojitost zdola. Opak neplatí, neboť po-lospojitost zdola dovoluje nespojitost. Je zřejmé, že jestliže / je w.l.s.c, pak je také l.s.c.
Příklad. V - normovaný prostor =>- norma je w.l.s.c. funkce. Neboť {vn} C V slabě konvergentní posloupnost vn —^ v G V. Podle důsledku zobecněné Hahn - Banachovy věty pro každé v E V existuje / G V tak, že l(v) = \\v\\ a ||/|| = 1. =>• l(vn) < PHII^nll = ||i>n|| [Atkinson, str. 106]. Tedy
\\v\\ = l(v) = \iml(vn) < liminf||wn||.
Pro prostor se skalárním součinem
||-u||2 = (v,v) = lim(v,vn) < liminf\\v\\\\vn\\ \\v\\ < liminf\\vn\\.
Nyní uvedeme užitečný výsledek o geometrické funkcionální analýze odvozený ze zobecněné Hahn - Banachovy věty a týkající se separace konvexních množin.
Definice 2.6. Nechť V je reálný normovaný prostor, A, B neprázdné množiny ve V. Říkáme, že A a B jsou oddělitelné, jestliže existuje nenulový lineární funkcionál / na V a číslo a G IR tak, že
l(u) <a\/uEA    a    l(v) > a   \/v E B.
Jestliže platí ostré nerovnosti, jsou množiny A, B striktně oddělitelné.
Věta 2.3. Nechť V je reálný normovaný prostor, A, B dvě neprázdné disjunktní podmnožiny V takové, že jedna z nich je kompaktní a druhá je uzavřená. Pak množiny A, B jsou striktně oddělitelné.
Důkaz. Důkaz plyne ze zobecněné Hahn - Banachovy věty. □
značí slabou konvergenci.
27
2.3   Abstraktní existenční výsledky
V reálný prostor, K C V podmnožina, / fukcionál /: K —► ] Uvažujme problém nalezení "minimizátoru" u pro výraz
inf f (v)        u = arg inf f (v)
veK
eK
Klasická Weierstrassova věta říká: Reálná spojitá funkce / na uzavřeném omezeném intervalu [a, b] (—00 < a < b < 00) má maximum a minimum.
a = inf f(x),
[a,b] M h
tedy podle definice infima existuje posloupnost {xn} C [a, b] tak, že f(xn) —► a pro n —► 00. Protože uzavřený interval [a, 6] je kompaktní, existuje podpo-sloupnost {xnt} C {xn} a nějaké rc0 G [a, b] tak, že
rrn/     xq    pro    n' 00.
O funkci / předpokládáme, že je spojitá, takže
lim f(xn/) = f(xQ) = a,
tj. x0 realizuje minimum funkce / na [a, b].
Rozšíříme tuto myšlenku na obecný problém.
• Spojitost funkce je příliš omezující. Stačí zřejmě předpokládat, že / je zdola polospojitá
f(xQ) < lim inf/(av). V tomto případě / může být i nespojitá.
• V nekonečně dimenzionálním Banachově prostoru V nemusí omezená posloupnost obsahovat posloupnost konvergentní. Nicméně, jestliže V je reflexivní Banachův prostor, pak každá posloupnost obsahuje slabě konvergentní podposloupnost. Tedy pro řešení naší minimalizační úlohy budeme předpokládat, že V je reflexivní, K je omezená a slabě uzavřená. Poslední podmínka zajišťuje, že slabá limita slabě konvergentní podposloupnosti v K leží v K. O podmínce
f(xQ) < lim inf f(xn>)
se předpokládá, že platí pro libovolnou podposloupnost {xn>}, která konverguje slabě ... (doplnit).
28
Uvedené úvahy můžeme formulovat v následující větu
Věta 2.4. Necht V je reflexivní Banachův prostor a K C V je omezená a slabě uzavřená. Jestliže f: K —► IR je w.l.s.c, pak minimalizační problém
mí f (v)
má řešení.
Důkaz. Označme a = inf^x f (v). Podle definice infima existuje posloupnost {un} C K s vlastností
f(un) —► a   pro   n —► oo.
Protože K je omezená, {un} je omezená posloupnost v protoru V. Protože V je reflexivní, existuje podposloupnost {un>} C {un}, která konverguje slabě k u E V. Protože K je slabě uzavřená, je u G K, a protože / je w.l.s.c, máme
f(u) < liminf f(un<).
Tedy, f(u) = a, a u je řešením minimalizačního problému. Tento důkaz rovněž ukazuje, že a je konečné, tj. a > —00. □
Poznámka. Ve větě se předpokládá, že K je omezená. Často se ale vyskytuje případ, že K je neomezená. Můžeme upustit od předpokladu omezenosti K a nahradit tento předpoklad předpokladem koercivity / na K.
Definice 2.7. Nechť V je normovaný prostor, K C V. O reálném funkcionálu / na V říkáme, že je koercivní na K, jestliže
f (v) —► 00   pro   H^ll ^00,   v G K.
Věta 2.5. Nechť V je reflexivní Banachův prostor, K C V je slabě uzavřená. Jestliže f: K —► IR je w.l.s.c. a koercivní na K, pak daný minimalizační problém má řešení.
Důkaz. Vybereme v0 G K libovolné a definujeme
KQ = {veK;f(v)<f(vQ)}.
Protože / je koercivní, K0 je omezená. Protože K je slabě uzavřená a / je w.l.s.c, vidíme, že K0 je slabě uzavřená. [un,u G K,un —^ u =>• /(m) < liminf f(un) < f(vo) =>• m G -řío] Daný minimalizační problém je tedy ekvivalentní problému
inf f(v), veK0
který má podle předchozí věty alespoň jedno řešení. □
29
Poznámka. Tyto výsledky jsou velmi obecné. V aplikacích není vhodné ověřovat podmínky pro slabou konvergenci. Nahradíme tyto podmínky podmínkami, které lze snadno ověřit.
Důležitý výsledek konvexní analýzy.
Věta 2.6 (Mazur). Nechť V je normovaný prostor a nechť {vn}n>i je posloupnost konvergující slabě k u E V. Pak existuje posloupnost {uri}n>i konvexních kombinací prvků {vn}n>i,
N(n) N(n)
Un=J2 A^>    E A*W = !> A*W >V,n<^< N{n),
i=n i=n
která silně konverguje k prvku u.
Uvedeme pro informaci některé důsledky. Důsledek. Jestliže K je konvexní a uzavřená, pak je slabě uzavřená. Důsledek. Jestliže / je konvexní a l.s.c. (nebo spojitá), pak je w.l.s.c.
2.4   Varianty věty o existenci
Věta 2.7. Nechť V je reflexivní Banachův prostor, K C V je konvexní a uzavřená a f: K —► IR je konvexní a l.s.c. Jestliže buď
(a) K je omezená nebo
(b) f je koercivní na K,
pak daný minimalizační problém má řešení. Jestliže navíc f je ryze konvexní, pak toto řešení je jediné.
Důkaz. První část plyne z předchozích vět, zbývá dokázat jednoznačnost při striktní konvexitě. Důkaz povedeme sporem. Předpokládejme, že existují dva minimizátory ui, u2, ui ^ u2 a f(ui) = f(u2). Protože K je konvexní, je také u1+u2 g K. Dále / je ryze konvexní, tedy
f{^^)<\U{ul) + f{u2)) = f{ul).
Což je spor s předpokladem, že ui je minimizátor. □
Poznámka. V jistých aplikacích prostor V není reflexivní (např. prostor C[a, b])
V takových případech nelze aplikovat předchozí věty. Nicméně, reflexivita
V slouží pouze k tomu, aby se vybrala slabě konvergentní podposloupnost z omezené posloupnosti v K. Také si všimněme, že potřebujeme pouze úplnost podmnožiny K a ne celého prostoru V. Předchozí větu tedy můžeme modifikovat takto.
30
Věta 2.8. Nechť V je normovaný prostor, K C V je konvexní, uzavřená konečně dimenzionální podmnožina a f: K —► IR je konvexní a l.s.c. Jestliže buď
(a) K je omezená nebo
(b) f je koercivní na K,
pak daný minimalizační problém má řešení. Navíc, je-li f je ryze konvexní, je toto řešení jediné.
2.5   Existence nejlepší aproximace
Předchozí výsledky budeme aplikovat na problém nejlepší aproximace. Nechť u G V, chceme najít takové prvky z K C V, které jsou nejblíže prvku u mezi všemi prvky z K, tj. řešíme minimalizační problém
inf \\v — u\\.
veK
Tento problém je ekvivalentní minimalizačnímu problému z předchozího odstavce pro /:
f (v) = \\u - v\\.
Je zřejmě / koercivní a spojitá (a tedy také l.s.c). Navíc / je koercivní, jestliže K je neomezená. Můžeme tedy formulovat věty o existenci nejlepší aproximace.
Věta 2.9. Nechť K C V je uzavřená, konvexní podmnožina reflexivního Banachova prostoru V. Pak existuje prvek ů G K takový, že
\\u — u\\ = infveK\\u — v\\.
Věta 2.10. Nechť K C V je konvexní a uzavřená konečně dimenzionální podmnožina normovaného prostoru V. Pak existuje prvek ů G K tak, že
\\u — u\\ = infv<=K\\u — v\\.
Věta 2.11. Nechť K je konečně dimenzionální podprostor9 normovaného prostoru V. Pak existuje takový prvek ů G K, že
\\u — ů\\ = infv<=K\\u — v\\. 9Zejména konečně dimenzionální podprostor je jak konvexní, tak uzavřený.
31
Poznámka. Vztah prostorů C[a, 6] a L°°[a,b].
L°°(Q) = {[v]; v měřitelná na íž, H^Hoo < 00}
kde [v] = {w; w měřitelná na T>, v = w(a.e.)} je třída ekvivalentních funkcí.
Prostor L°°(Q) je rovněž Banachův prostor, ale mnohem širší než C(íž) s normou
C(íž) Banachův prostor; je to vlastní podprostor L°°(íž).
Příklad. Nechť V = C[a,b] (nebo Lp(a,b), p > 1), K = vn, vn je prostor všech polynomů stupně < n. Podle předchozího tvrzení pro každou funkci / G C[a,b] (Lp(a,b)) existuje polynom fn G vn takový, že
Pro p = 00 se fn nazývá nejlepší stejnoměrnou aproximací funkce /.
Poznámka. Větu o existenci nejlepší aproximace v konečně dimenzionálním podprostoru lze dokázat přímo takto: f (v) = \\u — v\\ je nezáporná, spojitá (reálná) funkce na omezené podmnožině IRn nebo Cn. Použije se Heine-Borelova věta: Nechť V je konečně dimenzionální normovaný lineární prostor a S je podmnožina V. Pak S je kompaktní <^ S je ohraničená a uzavřená.
2.6   Jednoznačnost nejlepší aproximace
Podle jedné z předchozích vět10 lze snadno dokázat tuto větu o jednoznačnosti.
Věta 2.12. Nechť V je normovaný prostor. Předpokládejme, že funkce f (v) = \\v\\p je ryze konvexní pro nějaké p > 1. Nechť K je konvexní a uzavřená podmnožina V. Pak pro každé u E V je nejlepší aproximace ů G K jediná.
Důkaz. Důkaz je založen na faktu, že f (v) = \\v\\p, p > 1 je koercivní. □
Jestliže V je prostor se skalárním součinem, pak f (v) = \\v\\2 je ryze konvexní —► jednoznačnost nejlepší aproximace.
10 asi někde kolem koercivnosti
v\\ = esssup|w(x)|
inf      sup \v(x)\
meas(n')=0 xeQ\Q'
11/ - fn\\LP(a,b) =   ínf  (I / - qn\\LP(a,b)-
32
Příklad. V prostoru se skalárním součinem je ||w||2 ryze konvexní. f(u) = \\u\\2 = (u,u) Chceme dokázat, že platí následující nerovnost
||Au + (1 - \)v\\2 < \\\u\\2 + (1 - A)|M|2,   0 < A < 1.
Tuto nerovnost upravíme následovně
A2|M|2 + 2A(1 - X)(u,v) + (1 - A)2|M|2 < A|M|2 + (1 - A)|M|2 2A(1 - X)(u,v) < A(l - A)|M|2 + (1 - 1 + A)(l - A)|M|2
=>■    2(u,v) < \\u\\2 + \\v\\2. A protože pro u ^ v platí
0 < \\u — v\\2 = (u — v,u — v) = (u,u) — 2(u,v) + (v,v) = \\u\\2 — 2(u,v) + \\v\\2. Odkud plyne 2(u,v) < \\u\\2 + \\v\\2. Tedy ||-u||2 je ryze konvexní funkce.
Ryzí konvexita normy je dostatečnou, ale nikoliv nutnou podmínkou pro jednoznačnost nejlepší aproximace. Např. ||*||L°°(a,r>) není ryze konvexní, ale dá se ukázat jednoznačnost nejlepší aproximace pro důležité třídy aproximujících funkcí. Jeden z nejznámějších výsledků je následující:
Věta 2.13 (Čebyševova věta o alternantě). Nechť f E C[a,b], [a, b] je
konečný interval a nechť n > 0 je celé číslo. Pak existuje jediný polynom pn ^Vn, který minimalizuje veličinu
Qn(f) = min|| / -plloo.
Tento polynom má následující charakteristickou vlastnost. Existuje množina n+ 2 čísel
a < x0 < Xi < ■ ■ ■ < xn+i < b (ne nutně jediná), pro kterou platí
f(xj) ~ Pn(xj) = r(-l)3gn(f),   j = 0,1,..., n + 1,
r = +1 nebo —1. Body x0,... ,xn+í se nazývají Čebyševova alternanta.
Poznámka. Čebyševovy polynomy 1. druhu mají nejmenší odchylku od nuly, jsou tedy nejlepší aproximací funkce f(x) = 0.
33
2.7   Nejlepší aproximace v prostorech se skalárním součinem
Budeme přepokládat, že V je reálný prostor se skalárním součinem.
Lemma 2.14. Nechť K je konvexní podmnožina reálného prostoru se skalárním součinem V. Pro u G V je u G K nejlepší aproximací v K, když a jen když platí
(u — ú,v — ú) < 0,   Ví; g K.
Důkaz. Nechť u G K je nejlepší aproximace pro u. Nechť v E K je libovolné. Pak, protože K je konvexní, je ú + X(v — ú) G K, A G [0,1]. Definujme funkci
ip(\) = \\u -[ú + X(v - ů)]\\2,   A G [0,1]
V? (A) = \\u — ů\\2 — 2\(u — ů,v — ů) + \2\\v — ů\\2 Pro A G [0,1] :    y?(0) = \\u — ů\\2 = min[0,i] </?(A).
if'(X) = -2(u - ů, v - u) + 2X\\v - ů\\2 ip'(0) = -2(u-ů,v -ů)
(p je rostoucí v bodě x = 0 =>• <f'(0) > 0 =>• — 2(it —       — -u) > 0 ^>
(■u — -u, v — u) < 0.
Opačně:
\\u — v\\2 = \\u — u — (v — ů)\\2
= \\u — ú\\2 — 2 (u — ú, v — ú) -\-\\v — ú\\2
<o
> \\u — u\\2
□
Poznámka. Geometrický význam: úhel mezi vektory u — ú, v — u leží v intervalu (f,7r).
Důsledek. Nechť K je konvexní množina v prostoru se skalárním součinem V. Pak pro každý prvek u G V je jeho nejlepší aproximace jediná.
Důkaz. Nechť ui,ů2 jsou nejlepší aproximace. Pak z předchozího lemmatu plyne
{u — úi, v — úi) < 0.
Tedy pro ú2 = v platí
{u — úi, ú2 — úi) < 0.
34
(u — úi,u2 — úi) + (u - Ú2, Úi - ú2) < O, (u — Úl, ú2 — úi) — (u — ú2, ú2 — Úl) < O, (ú2 - úi,ú2 - úi) < 0.
Odkud plyne \\ú2 —      < 0 =>- ú2 = úi.
□
Z odstavce (2.3) plyne následující věta.
Věta 2.15. Nechť K C V je uzavřená, konvexní podmnožina Hubertova prostoru V. Pak existuje jediný prvek ú E K takový, že
Prvek ú se nazývá projekce prvku u na K a píšeme ú = PK(u). PK nazýváme projekční operátor, obecně je nelineární.
Věta 2.16. Nechť K Cl V je uzavřená, konvexní podmnožina Hubertova prostoru V. Pak projekční operátor
(a) je monotónní, tj.
u — ú\\ = inf \\u — v\\.
veK
(PK(u)
PK(v),u-v) > 0,
Vit, v e V,
(b) a není expanzivní, tj.
\\Pk(u)
Pk(v)II < ||it — v
Vit, v e V.
Důkaz. Pk(u) = f (a) Tedy máme
ú, (u — ú, v — ú) < 0, ú G K.
{u — ú, v — ú) < 0    a    (v — v, ú — v) < 0.
Jejich sečtením a dalšími úpravami dostaneme
(u — ú, v — ú) + {v — v, ú — v) = (u — ú, v — ú) — (v — v, v — ú) {u — ú — v + v, v — ú) = {u — v — {ú — v), v — ú) = (u — v, v — ú) — (ú — v, v — ú) < 0.
Celkem
0 < (ú — v,ú — v) < {u — v,ú — v) = (Pk(u) — Pk{v),u — v).
35
(b)
\\ů — v\\2 < (Pk(u) — Pk(v),u — v) = (ú — í),u — v) < \\u — v\\ ■ \\u — v\\, což pro ú    v dává
||ú — vII = \\Pk(u) — Pk(v)\\ < \\u — v\\.
□
Věta 2.17. Nechť K je úplný podprostor reálného nebo komplexního prostom se skalárním součinem V. Pak existuje jediný prvek ú E K takový, že
\\u — u\\ = inf \\u — v\\.
veK
Důsledek. Platí (u -ú,v) = 0, \/v E K.
Důkaz. Plyne z lemmatu 2.14. y?(A) = \\u — (ů + Au>)||2, kde w E K lib., u + \w E K a A libovolné.
V? (A) = \\u — ú\\2 — 2\(u — ú, w) + \2\\w\\2.
Minimum: y?'(A) = 0,
yj'(A) = -2(u-ú,w) + 2X\\w\\2 = 0,
tedy
(u — ú.w) ku r
□
Věta 2.18. Předpokládejme, že K je úplný podprostor reálného nebo komplexního prostoru se skalárním součinem V. Pak ortogonální projekční operátor Pk ■ V —► V je lineárni samoadjungovaný, tj.
(Pku, v) = (u, Pkv),   Wu, v E K.
Navíc
\\v\\2 = \\PKv\\2+ \\v-PKv\\2, \/vEV
a
\\Pk\\ = 1.
36
Tato věta má důležitý důsledek. Označme Vn = sp{</?i,<pn}, kde Wn}n>i je ortonormální báze prostoru V. K = Vn je úplný podprostor. Pnu g V je minimizátor
mm m — v\\.
vevn
Najdeme tento minimizátor minimalizací nezáporné funkce
n
...,&„)= \\u- ^biífiW2, 1=1
což je ekvivalentní minimalizaci na Vn. Přímo se získá identita
n n
/(&!,...,&„) = IMI2 - ^2\(u,ifi)\2 + ^2\bi - (U,lfi)\2.
1=1 1=1
Minima se dosáhne pro b;t = (u, pi), i = 1,..., n, tedy
n i=l
\\u — Pnit || = inf^yJI-u —     —► 0 pro n —► oo. Máme rozvoj
n oo
m = hm y^(u, (fi) = y^(u, ifi) ifi.
i=l i=l
Příklad. Nechť V = L2(—1,1), K = Pn(—1,1), dimenze prostoru Vn je n + 1; bázové prvky - Legendreovy polynomy (ortonormální)
_ , .       /2n + l   1    ď1 „ 2 n.nl Ln(x) = i/----(ar - Ir.
Nejlepší aproximace ve smyslu metody nej menších čtverců:
Pnu(x) = ^2(u,Lí)L2{_1:1)Lí(x),
i=0
konvergence
lim \\u - Pnií||l2(-i,i) = °-
n^oo
ImIIl2(-i,i) = lim IIp«mIIl2(-i,i)
n
lim V'|(m,Lí)l2(_11)|2
n^oo
i=l
= ^2\(u,Li)L2^hl)\2,
í=i
37
což je vztah známý jako Parsevalova rovnost. Dále
n oo
u = lim y^(u, Li)l2(_1 i)Li = V"(m, Li)l2(_1
i=0 i=0
ve smyslu L2(—1,1) normy.
Příklad nejlepší aproximace. Příklad. Aproximace trigonometrickými polynomy
n
PÁX) = y + ^2iaj cos(jx) + bj sm(jx)}. (3)
i=i
Aproximace / G £2(0, 27r), = Tn - množina všech trigonometrických polynomů stupně < n. Nejlepší aproximace vzhledem k normě L2(0,2n) je dána částečným součtem Fourierovy řady (3) s koeficienty
1 f27T
dj = — /    f(x)cos(jx) dx,   j > 0, Ti" Jo
1 f
bj = — /    f (x) sm(jx) dx,   j > 1. Ti" Jo
2.7.1   Projekční operátory
Definice 2.8. Nechť V je lineární prostor, Vi, V2 jsou podprostory V. Řekneme, že V je přímý součet V\ a V2 a píšeme V = Vi © V2, jestliže každý prvek v <E V může být jednoznačně vyjádřen ve tvaru
v = vi + v2,    Vi G Vi, v2 G V2.
Dále, je-li V prostor se skalárním součinem a (vi,v2) = 0 pro Vvi G Vi a Wv2 G V2, pak se V nazývá ortogonálním přímým součtem V\ a V2.
Věta 2.19. Nechť V je lineární prostor. Pak V = Vi © V2 právě tehdy, když existuje lineární operátor P: V ^ V, P2 = P takový, že v rozkladu v = Vl + v2 je Vl = Pv, v2 = (I- P)v aV1 = P(V), V2 = (I - P)(V).
Definice 2.9. Nechť V je Banachův prostor. Operátor P G £(V), P2 = P, se nazývá projekční operátor. Podprostor P(V) se nazývá příslušný projekční prostor. Přímý součet
V = P(V) ® (I - P)(V) se nazývá topologický přímý součet.
Jestliže V je Hilbertův prostor, P projekční operátor a V = P(V)©(7—P)(V) je ortogonální přímý součet, pak P se nazývá ortogonální projekční operátor.
38
Příklad. Lagrangeova interpolace A : a = x0 < ■ ■ ■ < xn = b, v <G C[a,b], Lagrangeův interpolant: Pv = Pn. P - lineární operátor, V = C[a,b] - Bana-chův prostor, V\ = Vn - prostor všech polynomů stupně < n.
n
Pv(x) = <S>í(x)v(xj)
i=0
P je projekční operátor (plyne z jednoznačnosti interpolačního polynomu). Platí P2 = P, neboť
n n
p(Pv(xÝj = ^2$í(x)Pv(xí) = ^$í(x)v(xí).
i=0 ř=0
Příklad. Vn - n dimenzionální podprostor Hilbertovaprostoru V, {ui,... ,un} - ortonormální báze Vn.
n
PV = ^2(Ui,v) Ui
1=1
definuje ortogonální projekci z V na Vn.
39
3   Diferenciální počet pro nelineární operátory
3.1   Fréchetova a Gateauxova derivace
Derivace reálné funkce. / interval na IR, x0 vnitřní bod intervalu /. /: / —► IR je diferencovatelná v x0, když a jen když
tu   \    y   f(xo + h)- f(x0)
f (x0) = lim —-^--—- existuje (4)
nebo ekvivalentně, pro nějaké číslo a
f(x0 + h) = f(x0) + ah + o(\h\) pro h —► 0, (5) kde f'(x0) = a označuje derivaci.
Druhá definice jasně ukazuje, že podstatou derivování je lokální linerizace. Navíc tato forma může být zobecněna na případ obecných operátorů.
K c Rd, x0 vnitřní bod K, f: K ->■ Rm. f je diferencovatelná v bodě x0, jestliže existuje matice (tj. lineární operátor) AeRmxd taková, že
f(x0 + h) = f(x0) + Ah + o(\h\) pro h ->■ 0, h e Rd.
A = vf(x0) - gradient/jacobián funkce / v bodě x0
a        dh      ■     1 •     1 a
i = ~dx'   % = 1'-'-'m' J = 1>--->cř-
Tady je obtíž pro rozšíření definice (4) derivace. Jak rozšířit význam poměrné diference (f(x0 + h) — f(x0)) /h, když h je vektor?
=> derivace ve směru. Nelinearizujeme funkci ve všech možných směrech proměnné x blížících se x0, ale linearizujeme podél jistého směru k x0. Přesněji: Nechť h je pevný vektor v Rd a uvažujme funkci f(x0 + th), ŕ g IR (v okolí nuly). Řekneme, že / je diferencovatelná v bodě x0 vzhledem k h, jestliže existuje taková matice A, že
\unfiXo + th)-f{Xo) =Ah.
í^O t
Nechť / je operátor mezi dvěma Banachovými prostory V a W, f: K C
V -»■ W.
Úmluva: kdykoliv máme na mysli derivaci v bodě uq, implicitně předpokládáme, že u0 je vnitřní bod K:
B(uq,r) = {u g V; \\u — uq\\ < r} c K.
40
Definice 3.1. Operátor / je direncovatelný ve Fréchetově smyslu v bodě u0, když a jen když existuje A E C(V, W) tak, že
f(u0 + h) = f(u0) + Ah + o(\\h\\), h^O.
Zobrazení A se nazývá Fréchetova derivace f v bodě u0 a píšeme A = f'(u0). Veličina df(u0; h) = f'(u0)h se nazývá Fréchetův diferenciál f v bodě u0. Jestliže / je diferencovatelná ve Fréchetově smyslu ve všech bodech množiny K0 c K, říkáme, že /': K0 c K —► C(V, W) je Fréchetova derivace / na K0.
Definice 3.2. Operátor / je diferencovatelný v Gáteauxově smyslu v bodě u0, když a jen když existuje A E C(V, W) tak, že
^/K + t/Q-jK)        vhEV,\\h\\ = i. (6)
Zobrazení A se nazývá Gäteauxova derivace f v bodě u0, A = f'(u0). Veličina df(u0; h) = f'(u0)h se nazývá Gateauxův diferenciál funkce / v bodě u0. Jestliže / je diferencovatelná v Gáteauxově smyslu ve všech bodech množiny K0 c K, říkáme, že /': K0 c K C(V, W) je Gäteauxova derivace funkce / na Kq.
Věta 3.1. Jestliže f'(u0) existuje jako Fréchetova derivace, pak f je spojitá v uQ.
Zřejmě vztah (6) je ekvivalentní f(u0 + th) = f(u0) + tAh + o(\t\). Tedy Fréchetova derivace je také Gäteauxova derivace. Opak neplatí! Což ukazuje následující příklad.
Příklad. /: R2
f(x1,x2) =
je-li (xi,x2) ^ 0, (xi,x2) = 0.
G-derivace není spojitá v bodě (0, 0) a není tedy F-diferencovatelná v bodě (0,0).
Věta 3.2. Fréchetova derivace je také Gäteauxova derivace. Opačně, jestliže limita v (6) je stejnoměrná vzhledem k h s \\h\\ = 1 nebo jestliže Gäteauxova derivace je spojitá v u0, pak Gäteauxova derivace v u0 je také Fréchetova derivace v u0.
Pravidla o derivování11: a, (3 E k, /, g: K c V —► W,
(af + Pg)'(uQ) = af'(uQ) + Pg'(uQ).
11 Více viz Atkinson str. 148
41
3.2   Newtonova metoda v Banachových prostorech
Nechť U a V jsou Banachovy prostory, F: U —► V je fréchetovsky diferencovatelná. Uvažujme rovnici
F(u) = 0.
Newtonova metoda: u0 G U je počáteční aproximace,
wn+i = un- [F'{un)YlF{un).
Výpočet: F'(un)(un+1 - un) = -F(un), ôn+1 = un+1 - un,
F'(un)ôn+i = -F(un)      un+i = un + ôn+1.
Věta 3.3 (Lokální konvergence). Nechťu* je kořen rovnice F(u) = 0 tak, že [F'{u*)]~l existuje a je spojité lineární zobrazení z V do U. Předpokládáme dále, že F'(u) je lokálně lipschitzovsky spojitá v u*,
\\F'(u) - F'(v)\\ < L||íz-í;||,   \/u,v G N(u*),
kde N(u*) je okolí u* a L > 0 je konstanta. Pak existuje ô > 0 tak, že pro \\uo — u*\\<ô je Newtonova posloupnost definována a konverguje k u*. Dále, pro nějakou konstantu M platí
||iín+i — u*\\ ^ M\\un — u*\\2 {M5fn
i * 11 ^ \u„ — u <
M
Důkaz. Definici okolí N(u*) uvedeme později. Předpokládejme, že [-F'^)] 1 existuje na N(u*) a c0 = supueW-(u»)||[F'(ií)]_1|| < oo. Definujme
T(u) = u- [F\u)]-lF(u),   u G N {u*).
T (u*) = u*, protože F (u*) = 0 a pro u G N (u*) máme
T (u) - T (u*) = u-u* - [F'iu^Fiu)
= [F'iuT1 \F(U*) ~F(U) ~ F'(u)(u* - u) =o
= [F'iuT1 Í iF'(u + t(u* ~ u)) ~ F'(u)} dt (u* ~ u) Jq
Za předpokladu, že F je G-diferencovatelná na konvexní množině:
F(y)-F(x)= f F'{x + t{y-x)){y-x)dt. ■Jo
42
Na F se díváme jako na funkci jedné reálné proměnné:
jtF(x + t(y - x)) = F'(x + t(y - x))(y - x).
Přechodem k normě získáme
\\T{u) -T{u*)\\ < \\[F'{u)Yl\\ í \\F'(u + t(u*-u)) - F'(u)\\dt\\u*-u\
Jo
< IWi^)]-1]] i Lt\\u* -u\\dt\\u* -u\\. Jo
Odtud
\\T(u)-T(u*)\\ < — \\u-u*\\2 (7)
Jestliže vybereme ô < s vlastností B(u*,ô) C N (u*), pak T: B (u*, ô) —► B (u*, ô) je kontrakce s a = £ä^- < 1. Tedy podle Banachovy věty o pevném bodu má T jediný pevný bod u* v B (u*, ô) a posloupnost {un} konverguje k u*. Označme m =       Pak z (7) plyne
||iín-i_i — u*\\ < M||wn — u*\\2.
Indukcí
M\\un+1 —      < M2\\un-u*\\2 < M2M2\\un^ -m*||4 < ••• < M2"||m„_i -u*^ dostaneme
- Ti* || < [m\\Uq-U*\
□
m\\Ur.
Tato věta ukazuje, že Newtonova metoda je lokálně kvadraticky konvergentní. Hlavním nedostatkem tohoto výsledku je skutečnost, že předpoklady závisí na neznámém kořenu dané rovnice. Následující Kantorovičova věta překonává tento problém.
Věta 3.4 (Kantorovič). Předpokládejme:
(a) F: D(F) C U —► V je diferencovatelná na otevřené konvexní množině D(F) a derivace je lipschitzovsky spojitá
\\F\u) - F'(v)\\ < L\\u-v\\,   \/u,v g D(F).
(b) Pro nějaké u0 g D(F) [F'(uq)\~1 existuje a je spojitý operátor z V do U takový, že h = abL < 1/2 pro nějaké a > \\[F^uq]]^1 \\ a b >
iitF'Kr^Mii-
43
Označme
ť = l-(l-2h)^        t„ = l + (l-2fe)^
aL ' aL
(c)      se vybere tak, že B(ui,r) C D (F), kde r = ť — h.
Pak rovnice F (u) = O má řešení u* G B(ui,r) a řešení je jediné v B(u0,ť*)n D (F); posloupnost {un} konverguje k u* a platí
(1 _ (1 _ 2fcW2)2» IK-W*|| < ^- 2naL '     ™ = M,2,....
Kantorovičova věta dává postačující podmínku pro konvergenci Newtonovy metody. Ovšem, je velmi obtížné tyto podmínky ověřit. Nicméně z hlediska teoretického má tento výsledek velký význam.
3.3 Aplikace Newtonovy metody 3.3.1   Nelineární integrální rovnice
Mějme dánu integrální rovnici
(i) = /  k(t, s, u(s)) ds
na prostoru U = C[0,1], funkce A; je z prostoru C ([0,1] x [0,1] x IR) a je spojitě diferencovatelná vzhledem ke třetímu argumentu. Definujme operátor
f:U^U
f(u)(t) = u(t) - í k(t,s,u(s))ds,   ŕ G [0,1]. Jo
Integrální rovnice může být zapsána ve tvaru f(u) = 0, Newtonova metoda pro tento problém
un+1 = un- [f'{un)Ylf{un).
f'(u)(v)(ť) = lim i \f(u + hv)(ť) - f(u)(t) h^o h L
lim — hvíť) -h^o h 1
v{t)~l! dk{t,sduu{s))v^ds-
k(t, s, u(s) + hv(s)) — k(t, s, u(s))) ds
44
Newtonova formule: F'(un)5n+i = —F(un), Sn+i = un+í — un, tj.
5n+i(ť) - í dfc(M,Mn(s)) sn+1(s)ds = -un(ť) + í k(t,s,un(s))ds, Jo Oun Jq
s-v-'
-f{un)
un+í(t) = un(t) + 5n+i(t).
V každém kroku ověřujeme lineární integrální rovnici.
3.3.2   Nelineární diferenciální rovnice
u"(t) = f(t,u(t)),t e [0,1],   u(0) = u(l) = o /: [0,1] x R, / je spojitá a spojitě diferencovatelná vzhledem k u (?),
U = C20[0, l] = {ve C2[0, l];v(0) = v(l) = 0},
11*11 = Cc2[o,i]
F(u)(t) = u"(t)-f(t,u(t)), ÍG[0,1] F\u){y){t) = y\t)-df{tdf))y{t)
Na každém kroku řešíme linearizovaný problém.12
//     /1\       df(t,Un(t)) f. . df(t,Un(t))
un+l{t)--—-Un+l{t) = f(t,u(t)) +-—-Un{t)
íí„+l(0) = íin+i(l) = 0
Upravíme rovnici: F'(un)(un+i(t) — un(t)) = F(un)(t).
45
4   Metoda sdružených gradientů
Řešíme operátorovou rovnici
Au = f. (8)
A je ohraničený, pozitivně definitní samoadjungovaný a invertibilní lineární operátor v Hilbertově prostoru V. Za těchto předpokladů má rovnice (8) jediné řešení
u* = A-lf.
Předpokládejme pro jednoduchost, že V je reálný separabilní Hilbertův prostor se spočetnou (ortogonální) bází. Metoda sdružených gradientů je definována takto.
Nechť uq je počáteční aproximace u*. Definujme r0 = / — Au0 a s0 = r0. Pro k > 0 definujme
\\rk\\2
uk+í =uk + aksk ak =
(Ask, sk) rk+i = f - Auk+i
_ i a a — Hr*H-il|2
sk+i — rk+i t Pksk Pk — —r,—ipr
\\r'k\r
Úmluva: Označme (u,v)A = (Au,v) a \\v\\A = a/(v,v)a.
Věta 4.1. Nechť A je ohraničený, samoadjungovaný lineární operátor splňující
Vni\\v\\ < IMU — v^MH^II,   Wv g V s m, M > O.13 Pak posloupnost {uk} konverguje k u* a platí
„ „ ..       M-mM „ „
\\u -uk+i\\A<——-\\u - uk\\A, k<0,
M + m
což znamená, že uk —► u* lineárně.
13Což znamená, že ||*||a a ||*|| jsou ekvivalentní normy.
46