Superpočítače v rukou lékařů: Jakými pravidly by se měla řídit umělá inteligence?

24.06.2022 - Jan Filip Sýkora

Špičkové počítačové programy schopné učit se a rozhodovat je možné využít k mnoha dobrým věcem, mohou však představovat i ohrožení pro lidi a jejich společnost (byť zatím především v rukou druhých lidí). WHO se proto rozhodla formulovat principy pro jejich využívání

<p>Idea o spolupracujících národech v oblasti A.I. je daleko větším sci-fi, než si mohli Turing s Asimovem představit.<em> (foto: Shutterstock)</em></p>

Idea o spolupracujících národech v oblasti A.I. je daleko větším sci-fi, než si mohli Turing s Asimovem představit. (foto: Shutterstock)


Reklama

Žijeme ve století výpočetní techniky, která posunula naše životy prakticky v každém myslitelném ohledu. Netřeba vyjmenovávat internet, počítače, mobily a všechny vymoženosti, jež jsou denně kolem nás a jejichž rutinní užívání si možná ani neuvědomujeme. Rozvoj mikročipů a počítačové techniky posunul dopředu také medicínu. Kupříkladu současné zobrazovací techniky jako magnetická rezonance nebo CT by byly bez výkonných počítačů zcela nemyslitelné. Ačkoli jádrem medicínské práce zůstává lidská činnost, informační technologie umožnily pokrok v diagnostice i léčbě mnoha nemocí.

Když se ještě před několika desetiletími hovořilo o umělé inteligenci, představovali si to sci-fi spisovatelé velmi barvitě. Ve filmech z nedaleké budoucnosti se to hemží roboty, kteří nápadně připomínají lidské bytosti, mají emoce a dokážou komplexně vnímat realitu. Ostatně ve stejnojmenném filmu A.I. Umělá inteligence je v hlavní roli android dokonale podobný člověku v roli malého dítěte schopného cítit, vnímat i milovat. Doba jen o málo pokročila a umělá inteligence je na světě. Postupně proniká do stále více oblastí našich životů, žádný bombastický převrat se však nekoná.

Zázraky nečekejte

Realita je totiž na míle vzdálená barvitým představám nadšených futuristů. Žádní roboti nepřevzali nadvládu, stále chodíme do práce, nakupujeme rohlíky a jezdíme autem. Umělá inteligence má spíše podobu komplexních algoritmů schovaných v počítačích. Více než robota, který by se podobal člověku, připomíná černou skříňku jedniček a nul ukrytou v útrobách mikroprocesorů.

K čemu je vlastně umělá inteligence dobrá? Běžný počítačový program (velmi zjednodušeně) vychází z předem daného rozhodovacího algoritmu, takže vám ze stejného zadání dodá vždy totožný výsledek, přičemž známe jednotlivé výpočetní pochody tohoto procesu. Umělá inteligence oproti tomu funguje jinak – je totiž schopna učení.

K tomu se využívá celá řada mechanismů; jedním z nich je umělá neuronální síť, což je virtuální mechanismus inspirovaný skutečnými procesy v neuronech lidského mozku. Takový systém se dokáže poučit zpětnovazebně ze svých chyb a upevnit v sobě správné výsledky. Zatímco „klasický“ program je zapotřebí dopředu připravit na jakoukoli myslitelnou situaci, aby ji uměl vyřešit, systém umělé inteligence se dokáže učit „za pochodu“, a pokud se změní výchozí podmínky, umí změnit svůj rozhodovací algoritmus tak, aby stále dosahoval optimálních výsledků.

Křemíková medicína

Umělá inteligence se však velmi záhy dočkala také využití v medicíně. Jedním z prvních skutečných úspěchů byl program na včasnou detekci fibrilace síní prostřednictvím mobilních aplikací. Kombinací chytrých hodinek, mobilní aplikace a propojení se zdravotnickým systémem bylo takto včasně odhaleno a zaléčeno mnoho fibrilací dříve, než mohly nastat klinicky závažné konsekvence. Významným úspěchem pak bylo využití A.I. v predikci rizika rozvoje akutní koronární příhody, kde se program vyznačoval vysokou přesností. Dalším způsobem využití bylo například učení vyhodnocení výsledků funkčních testů plicní výkonnosti a přesnější stanovení diagnózy u plicních postižení.

Postupně se během několika let objevil minimálně jeden způsob aplikace umělé inteligence v téměř každém odvětví medicíny. Endokrinologie, nefrologie i gastroenterologie, monitorace cukrovky, a dokonce i předpovídání epileptických záchvatů, k tomu všemu slouží umělá inteligence. Schopnost učení pronikla dokonce i do patologie a mikroskopické anatomie – strojově učící se program dokáže sám vyhodnocovat preparáty a na rozdíl od živého patologa prozkoumá celý vzorek, nic mu neunikne, ba ani na nic nezapomene.

Zde však zatím umělá inteligence naráží na své limity – srovnávacím arbitrem je vždy opět živý lékař a zatím se nepodařilo dostatečně prokázat efektivitu a spolehlivost „umělého patologa“ – tedy alespoň ne natolik, abychom programům mohli bez obav svěřit například diagnostiku rakoviny.

Inteligence na uzdě

Již v roce 1942 definoval Isaac Asimov, slavný americký sci-fi spisovatel, kultovní „zákony robotiky“. Ty stanovily tři hlavní principy, jimiž se musejí řídit všichni roboti – nesmějí ublížit člověku, musejí uposlechnout lidského rozkazu a nesmějí ublížit sami sobě. Nahlíženo na tyto zákony dnešní optikou, mohli bychom konstatovat, že je lidstvo dlouhodobě a vědomě porušuje – vysoce výkonné drony podnikají sebevražedné vojenské mise a jediný zákon, který držíme jakž takž na uzdě, je poslušnost námi vyrobených zařízení.

Co se týká umělé inteligence, její vznik byl také předpovězen před mnoha desetiletími; popis slavného Alana Turinga v roce 1950 – že umělá inteligence je silná tehdy, když lidský tazatel při rozhovoru nepozná, zda hovoří s člověkem, nebo se strojem – je stále vnímán jako platný etalon úspěšnosti A.I.

Doba pokročila a světová zdravotnická organizace WHO popsala šest nových principů, jimiž se má umělá inteligence řídit, aby bylo její využití ve veřejném zájmu všude po celém světě. Tyto principy bychom mohli bez nadsázky označit jako novodobé zákony robotiky, ačkoli už nyní je zřejmé, že jejich prosazení a uplatnění nebude úplně jednoduché (viz Nový zákon).

Práva lidí a práva robotů

Je zjevné, že tyto požadavky jsou více či méně iluzorní, neboť každá vláda a každý národ budou využívat technologie tak, aby to vyhovovalo jejich pojetí lidského blaha, jež se s pojetím WHO často dramaticky liší. Ve světě, který dosud nebyl schopen domluvit se na základních lidských právech, je idea o spolupracujících národech v oblasti A.I. daleko větším sci-fi, než si mohli Turing s Asimovem představit.

Dalším problémem je fakt, že se algoritmy učí způsobem, do nějž nikdo nevidí, ani jeho tvůrce. Algoritmus nám nevysvětlí své myšlenkové pochody, ale dojde k závěru, který je chladně logicky nejlepší podle kritérií, jež jsme mu zadali. Háčkem je, že algoritmy nemají žádné etické zábrany, a pokud jim zadáme nějaký úkol, splní prostě zadání bez ohledu na morální aspekty.

TIP: Umělá inteligence je v diagnózách rakoviny prsu oficiálně lepší než lidé

Své o tom vědí například v USA, kde program na předpověď zločinu zcela bezostyšně označoval pouze lokality s převahou černošského obyvatelstva. Ačkoli matematicky měl vysokou úspěšnost, ustoupilo se od jeho používání pro „rasismus“. Podobné problémy nelze vyloučit ani v medicínských programech a lze očekávat, že při rutinním nasazení A.I. ve zdravotnictví nás bude čekat ještě bouřlivá diskuse. Vzhledem k rychlosti pokroku se ale velmi pravděpodobně jedná o budoucnost nepříliš vzdálenou. 

Nový zákon

WHO své principy pro vývoj a využívání umělé inteligence postavila na veřejném zájmu všude na světě:

  • Ochrana lidské autonomie: V kontextu zdravotní péče to znamená, že by zdravotnické systémy a medicínská rozhodování měli kontrolovat živí lidé a udržet si nad nimi dozor, mělo by být chráněno soukromí a důvěrnost zdravotních informací. Musí být zachován princip informovaného souhlasu ze strany pacientů.
  • Podpora lidského blahobytu, bezpečnosti a veřejného zájmu: Designéři A.I. technologií by měli dostát všem regulačním požadavkům na bezpečnost, přesnost a efektivitu pro definované cíle a indikace využití. Musí být dostupné vyhodnocení a měření kvality technologie v zavedeném provozu pro její další zlepšování.
  • Zajištění transparentnosti, vysvětlitelnosti a srozumitelnosti: Transparentností myslíme dostatek informací publikovaných a zdokumentovaných k dané problematice před vyvíjením příslušné A.I technologie. Informace musejí být přístupné a usnadnit smysluplnou veřejnou debatu o tom, jak má být technologie designována a jak má či nemá být využita. 
  • Rozvíjení spolehlivosti a osobní zodpovědnosti: Ačkoli AI technologie provádějí specifické úkony, je povinností zodpovědných činitelů zajistit, aby byly užity v odpovídajících podmínkách adekvátně proškolenými pracovníky. Musejí být zajištěny efektivní mechanismy pro nalezení a odškodnění jedinců či skupin, které by byly zasaženy nežádoucím způsobem rozhodnutím učiněným umělou inteligencí.
  • Zajištění inkluzivity a rovnosti: Inkluzivita požaduje, aby A.I. ve zdravotnictví byla designována pro nejširší možný rozsah využití a přístupnosti, nezávisle na věku, pohlaví, genderu, příjmu, rase, etnicitě, sexuální orientaci, schopnostech nebo dalších vlastnostech chráněných úmluvami a zákony o lidských právech.
  • Podpora umělé inteligence, která je zodpovědná a udržitelná: Designéři, vývojáři i uživatelé by měli nepřetržitě a transparentně vyhodnocovat využití A.I. ve skutečné praxi a zjišťovat, zda se technologie chovají adekvátně a vhodně vzhledem k požadavkům a očekáváním. A.I. systémy by měly být navrženy s ohledem na životní prostředí a minimalizaci energetických potřeb. Vlády a společnosti by se měly věnovat předpokládaným projevům nevole vůči A.I. na pracovištích a možným ztrátám pracovních pozic kvůli automatizovaným systémům.

Reklama




Další články v sekci

Reklama

Reklama

Aktuální články

Bodamské jezero leží v nadmořské výšce 395,6 metrů a je třetí největší ve střední Evropě po Balatonu a Ženevském jezeře. (foto: Shutterstock)

Věda

Vilémovi patřilo 20 % rozlohy Anglie. Z dalších 55 % mu jeho „přátelé“ přispívali – navíc všude vybíral daně. A pořád měl své obří výnosné vévodství v Normandii. (foto: Wikimedia CommonsCC0)

Historie

Ectobius lapponicus – „náš“ evropský šváb rusec laponský. Je celkem běžný hlavně v lesích, občas v sadech nebo v zahradách. Objevuje se od května do září. (foto: © Marek Velechovský)

Příroda

Mlhovina CG 4 v souhvězdí Lodní záď je někdy přezdívána „Ruka boží“. Vědci podobné mlhoviny nazývají „kometární globule“, protože tvar jejich plynného oblaku připomíná kometu. (foto: National Optical Astronomy Observatory, CC0)

Vesmír
Zajímavosti

Evropská kosmická agentura (ESA) představila 23. listopadu 2022 nový tým astronautů pro vesmírný program. Je mezi nimi i Čech Aleš Svoboda (na nedatovaném archivním snímku). (foto: Profimedia)

Vesmír

Nové časopisy Extra Publishing

RSSInzerceO serveru (Redakce)Partnerské weby
© Extra Publishing, s. r. o. 2007–2011. ISSN 1804-9907