Nezabiješ 2.0Lidové noviny | 23.7.2018 | Rubrika: Názory | Strana: 10 | Autor: MARTIN RYCHLÍK |
Téma: Masarykova univerzita, vysoké školy
ŠINKANSEN
Je to časté téma sci-fiknih i filmů. Nějaká obří kybernetická síť, ať už si říká Skynet, OASIS
anebo Utopia, nabude jednoho ošklivého dne „vědomí“, utrhne se z dohledu a začne si řídit svět po
svém. A ten nový řád už se samozřejmě obejde bez lidí, tudíž zájmem globální inteligence bude
jejich hubení... až po vyhubení všeho lidstva. Bububu!
Jenže pozor: už to není jen námět prázdninových blockbusterů v letních kinech a knížek k vodě, ale
součást vážných apelů vědecké veřejnosti. Minulou středu zveřejnil bostonský The Future of Life
Institute výzvu, jež oslovuje vlády, firmy a odborníky, aby „se nepodíleli na vývoji, výrobě,
obchodu anebo užívání smrticích autonomních zbraní“. Podle předsedy Maxe Tegmarka jsou zbraně
využívající umělé inteligence (AI) k samostatnému rozhodnutí zabíjet „ohavné“. Mezi existenční
rizika budoucího života na Zemi navíc institut řadí klimatické změny, nevyzpytatelné biotechnologie
a jaderné zbraně.
Dle petentů bychom se měli obávat zejména zbraní LAWS (Lethal Autonomous Weapon Systems), které by
dokázaly samy najít cíl, identifikovat jej a - ehm - zneškodnit bez lidské intervence.
Tomu jsme pořád (trochu) vzdáleni, neboť i vojenské drony létající vysoko nad Afghánistánem či
jinde stále ještě vyžadují povel lidského „operátora“, když najdou a chytré počítače z myriád dat
rozpoznají nějakého toho džihádistu, třeba Abú Hadžara... Samy však raketu neodpálí.
Jak upozorňuje list The Guardian, petici již podepsalo na 200 organizací a přes 2600 osob - včetně
zakladatelů společnosti DeepMind (AI odnože Googlu), dále Elona Muska ze SpaceX, Jaana Tallinna ze
Skypu a stovek informatiků z různých škol celé planety, z Cornellu, Berkeley, Stanfordu, z Brna,
Bratislavy... Bez legrace: mezi českými signatáři je totiž i Jiří Zlatuška coby
děkan Fakulty informatiky Masarykovy univerzity či kybernetik a filozof vědy Jan Romportl; ze
Slovenska například profesorka Mária Bieliková ze Slovenské technické univerzity.
Jedničky, nikoliv nuly. A ti všichni se shodují, že umělá inteligence bude ve vojenských systémech
hrát čím dál větší roli, takže je načase určit hranice nepřijatelného užití AI. Imperativem má být
jasný vzkaz, že rozhodnutí o odnětí života, o zabití, nesmí být NIKDY přenecháno stroji. V řeči
programátorů: musíme do strojů nahrávat přikázání Nezabiješ 2.0!
Komu by to snad připadalo jako plané strašení, může se někdy podívat do časopisů Jane’s. Jeden z
magazínů zařadil na červencovou obálku téma „autonomních obojživelníků“ čili dronů, které plují pod
vodou (UUV), ale spolupracují s létavci (UAV) i s povrchovými vozítky (USV).
Od úplné automatizace válčení nejsme tak daleko, tím spíš že pásové roboty osazené kulomety jsme
viděli už před mnoha lety. Tomu, aby jednou dokázali zmáčknout spoušť sami, mají zabránit
mezinárodní normy a přísné zákony.
Ale: Víte, kolik se v tom točí peněz?!
Umělá inteligence bude hrát ve vojenských systémech čím dál větší roli, takže je na čase určit
hranice jejího využití. Imperativem má být jasný vzkaz, že rozhodnutí o odnětí života, o zabití,
nesmí být NIKDY přenecháno stroji.
Foto popis|
O autorovi| M A R T I N R Y C H L Í K, redaktor LN