Kdyby měl člověk odhadovat jenom podle názvu, mohl by tento komentář být o sexu nebo o genderovém šílenství na pokrokových univerzitách. Obě témata jsou přitažlivá, mají jen jednu nevýhodu – napsalo se toho o nich příliš. Proto se místo nich podívejme na vědu.

V přírodovědném časopise Nature vyšla minulý týden zajímavá studie z oboru očního lékařství. Britští odborníci předložili umělé inteligenci skoro sto tisíc fotografií lidských sítnic, aby se naučila rozeznávat různé patologie. To se poslední dobou dělá, protože co se rozeznávání detailů v obrázcích týče, jsou na tom počítače minimálně stejně dobře jako špičkoví lidští odborníci – a na rozdíl od nich se neunaví a jsou schopny pracovat nonstop.

To zaskočilo i odborníky. Až dosud medicína vůbec netušila, že mezi sítnicemi žen a mužů jsou nějaké rozdíly. Oftalmologové, kteří strávili celý život hleděním na lidské sítnice, jsou překvapeni: robot si všiml něčeho, co uniklo celým generacím specialistů, a obohatil tak vědecké znalosti lidstva.

Skutečně obohatil? Ano a ne. On nám ten systém totiž nijak jednoduše neřekne, čeho přesně si povšiml. Umělá inteligence vesměs není stavěna tak, aby nám, lidem, vysvětlovala příčiny svého rozhodnutí. Výsledkem tohoto objevu je, že víme, že něco jde, ale nevíme „jak“. Živí lidé tedy budou muset dodatečně dohledávat to, co robota k úspěšnému rozlišení mužských a ženských sítnic vedlo. Je to tedy zatím, řekněme, objev poloviční.

Jako vždycky, z drobnosti vyplývají složitější otázky. Umělá inteligence může tímto způsobem odhalit i další věci; nakonec analyzovat lze nejenom sítnice, ale i kůži, nahrávku slovního projevu, vůně či pachy linoucí se z podpaždí, složení krve, třes prstů a další projevy našich těl. Možná vyjdou najevo nečekané souvislosti. Tento člověk má asi rakovinu plic, protože vydechuje trochu víc nějaké těkavé látky, než je obvyklé. Tento člověk prozrazuje způsobem své chůze, že už dlouho nedostatečně spí, a za volantem je nebezpečný. A tento člověk, když při nástupu do zaměstnání podepisoval slavnostní deklaraci o vysoké hodnotě diverzity na pracovišti, měl ve tváři subtilní náznaky nesouhlasu. Zaznamenejte to do jeho osobního spisu, robot se přece nemýlí.

Robot se ve skutečnosti může mýlit docela snadno, zejména pokud mu ke strojovému učení byla předložena nekompletní nebo nikoliv neutrální sada dat. Což se může stát náhodou nebo bohužel i úmyslně, pokud bude úmyslem dotlačit stroj, aby generoval rozhodnutí určitého typu. Informatici tomuto principu říkají „garbage in, garbage out“. Vložíte-li do systému odpad, bude produkovat odpad.

Vlastně není patrné, jestli je nebezpečnější spoléhat se na roboty, když se mýlí, nebo když mají pravdu. V tom prvním případě riskujeme sérii vysloveně nespravedlivých rozhodnutí, zejména pokud budeme robotům příliš věřit v policejní práci, v justici nebo v bankovnictví. V tom druhém případě zase riskujeme, že nám odumřou vlastní rozhodovací schopnosti. Asi podobně, jako když dnešní piloti říkají, že kvůli všeobecnému použití autopilotu pomaličku ztrácejí schopnost řídit letadlo, nebo jako jsme skoro všichni ztratili schopnost orientovat se při jízdě autem bez GPS, radící nám laskavým hlasem, do které ulice máme odbočit příště.

To je ale riziko, kterým platíme za technický vývoj. Neměli bychom se jej vysloveně děsit; naše minulost je plná ztracených znalostí a schopností, jejichž ztráta nám nakonec neublížila. Spíše jde o to, počítat s ním a nebýt zaskočen. Je možné, že podobně jako dnes potřebujeme posilovny k tomu, aby naše tělesná schránka ve světě plném sedavé práce úplně nezchátrala, budeme potřebovat i nějaké posilovny ducha. Abychom, jsouce obklopeni záhadnými analytickými stroji, úplně nezblbli.