Válka budoucnosti: Přichází úsvit mechanických válečníků?

15.08.2015 - Ronald Bailey

Katastrofické filmy nás přesvědčují, že se lidstvo jednoho dne vyhladí samo. Kromě zbraní hromadného ničení a devastace přírody se nad námi vznáší také hrozba vzpoury strojů – a my se jí podle některých řítíme přímo do náruče


Reklama

Smrticí zbraňové systémy schopné samostatně volit cíle a útočit zatím neexistují, ale pracuje se na nich. Je však etické vkládat život lidí nebo zvířat do rukou umělé inteligence? Nebylo by jednodušší její vývoj zakázat? Mnoho organizací má za to, že ano.

Human Rights Watch například ve své zprávě Ztráta lidství: argument proti zabijáckým robotům (Losing Humanity: Th e Case Against Killer Robots) z roku 2012 požaduje, aby všechny národy světa „zakázaly vývoj, výrobu a použití plně autonomních zbraní“. Podobný názor zastávají třeba odborníci na etiku a robotiku, zakladatelé Mezinárodního výboru pro kontrolu robotických zbraní.

Zákaz nelítostných strojů na zabíjení se zdá rozumný už na první pohled. Ostatně, kdo by se chtěl na bitevním poli potkat s terminátorem? Vedle apokalyptických předpovědí však zastánci zákazu nabízejí také čtyři pádné argumenty. V první řadě je podle nich jednoduše morálně špatné delegovat rozhodnutí o životě a smrti na stroje. Zadruhé prý není technicky možné vložit do robotů základní právní a etické principy tak, aby jednali přiměřeně podle pravidel války. Následuje tvrzení, že autonomní zbraně nelze přimět k morální odpovědnosti za vlastní činy. A nakonec zůstává strach, že by se s rozšířením robozabijáků válka poněkud trivializovala, čímž by se stala pravděpodobnější. Rozhodování o životech strojů by totiž bylo daleko snazší než v případě lidí.

Přeceňujeme se?

Na opačné straně diskuse se ale vznášejí tvrzení, že při striktním zákazu vývoje autonomních strojů by hrozilo další nebezpečí – selhání v rozvoji automatizace. Strašák v podobě bitevních polí ovládaných nelítostnými zabijáky zkrátka nesmí zbrzdit pokrok. Spíš by měl varovat před potenciálním rizikem a klást důraz na to, že není moudré technologii rovnou odsuzovat: musíme ji jen přizpůsobit tak, aby neděsila.

Pravdou také zůstává, že se lidé při vlastním srovnávání se stroji do jisté míry přeceňují. Lidský voják se sice o stisknutí spouště rozhoduje na základě svého svědomí a morálky, jenže ani jedno nepředstavuje neotřesitelný pilíř. Z jistého úhlu pohledu by se dalo dokonce tvrdit, že se správně navržené stroje budou v tomto případě chovat lépe než lidé.

Na průměrného vojáka na bojišti totiž působí celá řada vedlejších vlivů: Je frustrovaný, unavený, vystresovaný a hlavně vyděšený. V krizových situacích má proto sklony ke zkratům a dokáže kvůli záchraně vlastního života etické zákony „ohýbat“ nebo zcela vypustit. Strach či třeba touha po pomstě pak mohou v kontaktu s přímou agresí rozpoutat jatka.

Na druhou stranu u válečných robotů není pud sebezáchovy v žádném případě rozhodující, pokud je tak nenaprogramujeme. Podobně například nevystřelí, dokud situaci perfektně nevyhodnotí, což v jejich případě znamená chladné kalkulování bez vlivu emocí. Správně formulované morální zásady by tak nemusely soupeřit s emočním břemenem, jež by svádělo k jejich porušování. Stroje by proto dokázaly při rozhodování o palbě objektivně zpracovat informace a vyhnout se předsudkům či unáhlenému jednání. Lidskost, která by jim chyběla, by z nich paradoxně dělala humánnější bojovníky.

Řídím váš osud

Podobným způsobem se budou jednou samostatně rozhodovat třeba i vozidla s automatickým řízením. Podtrhuje se tím fakt, že vedle emočně vyhroceného válečného prostředí se stroje nevyhnou morálním volbám ani v běžném životě. Například při havárii bude nakonec záležet jenom na nich, zda vezmou v úvahu pouze životy svých pasažérů, nebo i cizí posádky.

Zároveň v podstatě platí tatáž logika jako na bojištích – řidič nezatížený pocity, které by ovlivňovaly jeho pozornost, by způsobil podstatně méně zbytečných nehod. Neusedl by za volant pod vlivem alkoholu ani drog a neřídil by v citově nestálém rozpoložení. Některé studie dokonce tvrdí, že by automatická auta snížila nehodovost na silnicích až o 90 %. A to už je rozhodně nezanedbatelný přínos.

Základ pro rozhodování robotů by měla tvořit pravidla úměrnosti. Jinými slovy, automaty by měly dokázat rozlišovat vojáky a civilisty stejně jako lidé. Podobně by jim mělo být jasné, jaký je rozdíl mezi soukromým a armádním majetkem. Nemluvě o tom, že civilní ztráty by musely chápat jako nejzazší mez, vykupitelnou pouze „zásadním“ ziskem.

Cesta k takto rozvinutým strojům je samozřejmě dlouhá, momentálně skoro nedozírná. Nic by však nemělo lidstvu bránit se na ni vydat.

Velká část strachu z autonomních strojů vychází z katastrofických scénářů, které se vůbec nemusejí naplnit. Délka procesu, jímž budeme muset projít, než vypustíme do světa roboty schopné „lidského uvažování“, nám dovoluje prozkoumat veškerá úskalí této technologie za chodu – a smířit se s myšlenkou, že stroje dovedou fungovat eticky i morálně.

Pod dohledem

Na druhou stranu není ani zdaleka jisté, že válečná soupeřivost přivede lidi k nasazení zcela samostatných strojů. Války odjakživa vyžadují jistou formu dohledu, který by nakonec panoval i nad automaty. A kde lidé dohlížejí, tam také odpovídají za morální dopad rozhodnutí. Je tedy úkolem designérů, aby do robotů zakódovali normy a pravidla, ale zároveň omezili některé možnosti jejich chování, čímž by se v rovnici zachoval lidský faktor. Delegace odpovědnosti na lidské i nelidské složky je volbou sociotechnického designu, nikoliv nevyhnutelným výsledkem technologického rozvoje. Roboti, za něž člověk nemůže přijmout zodpovědnost, jsou špatně navržení.

Co se týče trivializování a usnadňování války, existuje jednoduchý protiargument: války nezačínají a nekončí pouze proto, že k nim lidé mají prostředky – jejich kořeny sahají mnohem hlouběji. Platí také, že používat civilisty potenciálně ohrožené válečným konfliktem jako důvod k zastavení vývoje robotů je stejné jako si je z politických důvodů brát coby rukojmí.

Namísto zakazování se proto mnozí přiklánějí k tomu, aby vývoj pokračoval i nadále, ovšem zcela otevřeně. Lidstvo si tak na novou technologii zvykne a bude moct ovlivňovat její směřování, aniž by se jí muselo v první řadě bát. 

Úmluvy, jež zakazují některé zbraně pro masový zásah – jako jedovaté plyny, pozemní miny či tříštivé střely –, měly určitý úspěch. Autonomní zbraňové systémy nebudou nutně takto bezohledné. Právě naopak, mohly by být preciznější a schopnější než lidé. Preventivní zákaz by se proto nemusel stát ani tak etickým triumfem, jako spíš tragickým morálním selháním.

  • Zdroj textu:

    Newsweek, 100+1 zahraniční zajímavost

  • Zdroj fotografií: Sony Pictures Entertainment

Reklama

Další články v sekci

Reklama

Reklama

Aktuální články

Pokud někdo nežije právě zdravě, neměl by zanedbávat přísun vitamínů obsažených v ovoci.

Věda

Geysir se stal prvním přírodním úkazem svého druhu, o němž se dozvěděli učenci starého kontinentu.

Cestování
Zajímavosti

Král Eduard VII.  se svou ženou královnou Alexandrou Dánskou.

Historie

Člunozobec africký na jezeře Albert v Ugandě.

Příroda

Sejdeme se na fotbale 

událost: Rose Parade, USA

Pravidelná novoroční oslava Rose Parade se v kalifornské Pasadeně odehrává již od roku 1890. Na alegorické vozy zdobené květinami dnes přiláká i stovky tisíc přihlížejících, z nichž část se odpoledne přesune na nedaleký stadion, aby sledovala tradiční univerzitní zápas v americkém fotbale.  

Revue

Nové časopisy Extra Publishing

RSSInzerceO serveru (Redakce)Partnerské weby
© Extra Publishing, s. r. o. 2007–2011. ISSN 1804-9907