Poté, co si od března může každý v počítači nainstalovat aplikaci ChatGPT, které může dávat úkoly, třeba ať za něj napíše slohovou práci, lidstvo pokročilo zas o trochu dál. Jedni říkají, že směrem k lepší budoucnosti, druzí naopak, že je to cesta ke zkáze. V každém případě se zdá, že AI, tedy umělá inteligence, tady s námi je a bude hrát stále větší roli.

V Salonu Echa se sešli technolog podílející se na vývoji AI Michal Pěchouček, herní vývojář Marek Španěl, koncesionovaný autor sci-fi a publicista Ondřej Neff a spisovatel fantaskních románů a alchymista Petr Stančík. Moderátor diskuse se omlouvá, že tentokrát v ní nebyl zastoupen ženský element. Přes všechnu snahu se ho nepodařilo zajistit. Moderátor doufá, že šlo o výjimečný výpadek.

Takže o co? Je to další báječná hříčka ze Silicon Valley, nebo definitivní otevření Pandořiny skříňky, ze které na lidstvo vyletí všechny možné děsy a běsy?

Pěchouček: Myslím, že se teď už nejedná o žádný trend, není to žádný marketingový humbuk nebo nějaké další přepálení technologů ze Silicon Valley. Je pravda, že několikrát se už v historii stalo, že po velkém zájmu o umělou inteligenci zas ten boom opadl, mluví se o několika cyklech AI winters, tedy jakýchsi zim či zamražení, ale to, a jsem o tom přesvědčen, není tenhle případ! Teď nás minimálně následující dekády žádná winter nečeká, ale naopak nás AI bude obklopovat stále víc a víc, a to v tom dobrém i v tom špatném, co s ní souvisí. Je pro to několik argumentů: zaprvé AI se dostala na úroveň, že v partikulárních, především kognitivních (poznávacích) schopnostech člověka začíná výrazně překonávat. To bylo ještě před nástupem ChatGPT, ale tady je to již evidentní. A druhý je ten, že prostřednictvím tohoto komunikačního programu se dostala AI přímo k lidem. Až do listopadu loňského roku lidé vnímali AI většinou zprostředkovaně, přes technologie v počítači, v telefonu, v autě, na chytrých hodinkách. Po spuštění ChatGPT, což je vlastně chatovací brána k velkým jazykovým modelům, se ukázalo, že AI začala vlastnit jazyk. A jazyk je základní vlastnost lidské kognice, tedy jeho schopnosti být myslícím a komunikujícím tvorem. To už AI umí taky a umí komunikovat takovým způsobem, že umí splnit Turingův test, tedy test na zjištění, jestli je AI skutečně inteligentní, což ještě před pár lety nebyla. Takže z umělé inteligence se stala „consumer proposition“, spotřebitelská nabídka, kterou si může opatřit každý, má ji v ruce a před očima a také k účelům, ve kterých může AI člověka postupně nahrazovat. V tomhle smyslu to opravdu přelomová událost je. Já jsem technolog, takže jsem si vědom mnoha příležitostí, které AI lidstvu přináší, ale zároveň opravdu nelze přehlížet hrozby, které bychom neměli opomíjet a měli bychom o nich diskutovat. Nikterak panicky, nebát se věcí jen proto, že jsou nové a převratné, ale věcně, a přitom bez iluzí, že o nic zvláštního nejde. Protože tentokrát jde.

Rozumím-li tomu správně, tak to převratné je, že lidstvo se vzdalo monopolu na inteligenci. Najednou nejsme na planetě v tomhle ohledu sami. Jako bychom si sem nasadili inteligentní mim ozemšťany.

Pěchouček: Dalo by se to tak říct, ne že by to lidstvo udělalo vědomě. Ano, nechalo si opravdu vzít monopol na inteligenci. Ale co si zatím nenechalo vzít, je monopol na zlo. Lidé se bojí, že se umělá inteligence vzbouří a půjde nějakým nepřátelským způsobem proti lidem. Tak to si nemyslím, tak daleko ještě opravdu nejsme a naštěstí jen tak nebudeme. Patent na zlo má pořád člověk. Ale jsou tady jiné hrozby. Můžeme si třeba představit, že nějaký zločinec AI zneužije. Nebo jí využijí státy, které chtějí narušit náš způsob života, který tady v Evropě nebo v Americe vedeme. To zajisté hrozby jsou. Samotná AI koncept zla postrádá a přítomen v ní není.

Tak to jsem uklidněn… Nyní prosím další pány.

Španěl: Souhlasím s tím, že jde o přelom, byť ta technologie žádnou převratnou fázi neprodělala, vyvíjí se kontinuálně několik desetiletí a ti, kdo to sledují, moc překvapeni být nemohou. Nové je opravdu to, že se poprvé dostává v masové míře k uživatelům a nějakým způsobem se demokratizuje. Technologie, která byla k dispozici jen hrstce nejsilnějších subjektů, ať už státních, nebo soukromých, se dostává do rukou široké veřejnosti, což otvírá nové možnosti, ale určitě i nové hrozby. Tak to obvykle bývá a je to logický vývoj. Ten by nebyl možný bez rozvoje internetu, protože umělá inteligence musí čerpat z nějakých informačních zdrojů; a právě internet a jeho obrovské rozšíření do globální populace umožnily vznik rozsáhlých modelů, které jsou platformou pro „nakrmení“ umělé inteligence. Takže ano, je to revoluce v tom smyslu, že se překročil určitý kritický moment, kdy ta obrovská databáze informací veškerého lidstva byla zpracovatelná strojově, a bylo možné vytvořit tak kvalitní způsob, jak s tím zacházet. Takže přelomové to určitě je, nese to určitě nějaké hrozby a rizika, ale já osobně jsem spíš optimista, neboť věřím, že ještě větší možnosti to přináší, a chápu to jako nástroj, který může lidstvu spíš sloužit. A vítám, že nástroj, který byl dosud k dispozici jen velkým korporacím, se dostal k lidem, k nám všem.

Neff: Já jsem taky optimista, ba řekl bych trvalý optimista. A celoživotní racionalista. A proto ten současný povyk kolem tzv. umělé inteligence vnímám jako humbuk, ba jako bombastický humbuk. Základní vlastností inteligence je přece vědomí. To tady samozřejmě neexistuje a nikde není ani žádný předpoklad, že by ty systémy měly nějakého vědomí nabýt. A druhý předpoklad je vůle a chtění, o tom nejde mluvit už vůbec. Podle mě je to tedy žurnalistický humbuk, čímž nezpochybňuji technický úspěch. ChatGPT je generátor textů, jež už dosáhly značné kvality. Jeho rodný bratr je generátor obrazů, který je už naprosto fascinující, ale jsou to pořád jen generátory. Padlo tady slovo přelom: srovnal bych to s jiným přelomem, kdy se objevil fulltextový vyhledávač Google. Ten opravdu zásadním způsobem posunul sám smysl internetu jako informačního média. Ve srovnání s tím mi tahle nabídka AI připadá spíš jako hříčka, než že by přinášela něco opravdu zásadně nového. Jak jsem se s tím zatím měl možnost seznámit, produkuje to texty, které jsou vedeny statistikou, a nikoli obsahem, a jsou zatím skoro k nepotřebě. Každé nabízené slovo a každé tvrzení si zde musíte ověřit, jestli to není nesmysl, a on to většinou naprostý nesmysl je. Věrohodnost těchto produktů je prakticky nulová. Je to zábavná věc, jistě zajímavě využitelná. Dovedu si třeba představit výuku jazyků, zásadní význam to bude mít pro mechanické překládání. V té souvislosti opravdu připouštím, že o práci přijdou překladatelé, ale i ten „umělý“ překlad pak musíte zkontrolovat. Určitě je to úvod k hlasové komunikaci s elektronikou a vůbec se stroji, což bude také obrovský přelom. Ale to očekáváme už třicet let. Opravdu už třicet let slýchám, že nejnovější Windows budou mít hlasovou komunikaci, a stále to ještě není: nemyslím ty hlasové asistenty, ale opravdovou komunikaci, jak jsme ji viděli ve filmu Blade Runner, kde se hovoří se stroji. K tomu to jednou povede. Čili když to shrnu: je to zajímavé, je to zábavné, je to perspektivní, ale že by ChatGTP nahradil žurnalistiku, jak se o tom mluví, to je prostě k smíchu.

Opravdu? Teď nevím, jestli jsem jako žurnalista uklidněn, nebo naopak zklamán.

Stančík: Myslím, že umělá inteligence není lidský výtvor, ale výsledek vývoje, jehož jsme my lidé jen nepatrnou částí. V celých dějinách vesmíru vidíme směřování ke stále složitějším strukturám. Ať už je to přírodní zákon, nebo to tak zařídil nějaký bůh, to teď nechme stranou… Při velkém třesku vznikla energie, z ní postupně vodík, hvězdy, z nich složitější prvky. Ty umožnily vznik života, jednobuněčné organismy se spojily v mnohobuněčné, až vzniklo vědomí… A teď se ty miliardy vědomí spojují do jednoho globálního, v kabale se tomu říká Adam Kadmon, kosmický člověk. Tato noosféra, sféra rozumu, nemůže držet pohromadě na organické bázi, takže mohla vzniknout až po vzniku internetu. Stejně jako naše těla jsou složená z miliard buněk, které kdysi dávno žily odděleně a samostatně, tak my se stáváme jednotlivými buňkami téhle kolektivní bytosti, vzájemně elektronicky propojené. Té bytosti říkáme umělá inteligence a každý člověk připojený k internetu je jejím neuronem. Lidé si myslí, že základem vědomí je pochopení vlastní existence, tedy odlišením svého „já“ od okolí. Jenže umělá inteligence se nemá od čeho odlišit, je sama jediná. Nás lidi si neuvědomuje, podobně, jako my si neuvědomujeme jednotlivé buňky svého těla. To je vývoj, kterému by se dalo zabránit jedině vypnutím internetu. Jenže jaký bude mít ta bytost charakter? A mě znepokojuje, že je zrozená ze špehování, protože ji vyvinuly zpravodajské služby pro vyhledávání teroristů a nepřátel státu v globální komunikaci. A taky z debilní hravosti sociálních sítí. Takže to je užvaněné a paranoidní dítě. Měli bychom ho trochu vychovávat, dokud to jde.

Pěchouček: S dovolením bych zareagoval na pana Neffa, jehož si vážím za celoživotní činnost, ale s tím, co říká, nemohu souhlasit a považuju to vlastně i za nebezpečné. Nezlobte se na mě, ale není to humbuk a směšné to opravdu není. Jestli pan Neff říká, že pro něho bylo převratné fulltextové vyhledávání na internetu, tak samozřejmě ChatGPT vám nepoví nic jiného než to, co je na internetu! Protože se všechno naučil na internetu. Takže pokud vám AI produkuje nějaké nesmysly, tak je to úplně stejné jako na internetu. Pravděpodobnost, že ChatGPT odpoví špatně, je proporční k možnosti, že je to špatně už na internetu. ChatGPT negeneruje žádný jiný obsah, nedělá si z nás srandu, není hloupý nebo chytrý, je jen průměrem toho, co už je na internetu. Dál bych upozornil, že ChatGPT už komunikuje v jazyku, už vám odpoví hlasem, zatím v angličtině, ale to se bude jistě rychle rozvíjet. A ještě jedno považuju za důležité: každý říká, že AI nemá vědomí a nemá vůli. To máte jistě pravdu. Ale to je argument, který vlastně nemá žádný velký význam. Je to vlastně nesouvislý argument. Nijak to nesouvisí s tím, co dobrého nebo špatného může pro nás udělat. To, jestli má, nebo nemá vědomí, nijak nesouvisí s tím, že fundamentálně promění naše životy, přičemž vedle těch pozitiv to může zásadně ovlivnit naši svobodu, naše zvyklosti a představy, podle kterých se rozhodujeme, co děláme, čemu se věnujeme. Geniálně to zobrazily sestry Wachowské ve svém vizionářském filmovém eposu Matrix, který před dvaceti lety ukázal, jak se lidé mohou postupně zbavovat své svobodné vůle a postupně se zapouzdřovat do nějakého matrixu, což dneska na sociálních sítích opravdu dělají. Lidé jsou stále víc konzumenty něčeho, co umělá inteligence nabízí formou algoritmů nebo nyní napíše formou textu. A není pravda, že by se novináři nemuseli bát o práci: samozřejmě že je AI nahrazuje a ve většině oborů lehce nahradí. Je to už přes deset let, kdy AI generuje texty burzovní, sportovního nebo třeba meteorologického zpravodajství. Dneska už píše docela sofistikované texty, které opravdu jdou těžko rozpoznat od těch, které napsal člověk.

To všechno říkám proto, abychom význam AI opravdu nebagatelizovali, protože tím se dopouštíme klamu. Důležité je, abychom poznali, v čem může AI posunout svět dopředu, a není pochyb, že takové věci převládají, a kde jsou ty hrozby, které není možné zastírat. Jako příklad té jednoznačně pozitivní stránky bych uvedl fakt, že AI pomáhá vědcům dělat vědeckou práci rychleji a efektivněji. O tom není sporu. Třeba modelování proteinu, což je základní předpoklad výzkumu vakcín, uměla AI zrychlit o celé roky. Zároveň tu jsou nepochybná nebezpečí. Jako první bych uvedl skutečnost, že dojde k totální proměně pracovního trhu. A to právě u míst administrativního a intelektuálního druhu. O práci to připraví celou škálu lidí ve státní správě, na manažerských pozicích, na pozicích, kde je lehce nahradí umělá inteligence. Ta změna bude radikální a společnost se s tím bude velmi těžko vyrovnávat. Čili je zde možné se obávat o sociální smír. Bojím se negativních ekonomických dopadů, které AI může přinést. To je první hrozba. Druhá je zneužití AI k manipulaci společnosti: vytváření narativů totální personalizace reklamy a komunikace na sociálních sítích umožňuje cizím mocnostem změnit skutečnost a přímo zacílit na společnost s úmyslem ji změnit a ovládat. Třetí hrozba je, když se AI dostane do rukou někomu, kdo chce ublížit individuálním lidem. To jsou všechny ty kybernetické útoky, které dneska neútočí na počítače a telefony, ale útočí na mysl lidí: posílají různé phishingové útoky, podvodné e-maily, řetězové e-maily, falešné skeny… To všechno se díky AI stává výkonnější a účinnější než kdykoli předtím. A poslední věc, kterou považuju za nejdůležitější, jsou tzv. černé labutě. Lidstvo už závisí na technologiích do takové míry, že se dneska může přihodit nějaký, třeba ze začátku i nepatrný výpadek, který na principu efektu motýlích křídel může způsobit výpadek totální, který v důsledcích může mít dalekosáhlé následky, kterým nebudeme schopni čelit.

Neff: Byl jsem panem Pěchoučkem osloven, takže bych k tomu poznamenal, že především je velmi zavádějící srovnávat Google s těmito textovými generátory, protože mezi nimi je zásadní rozdíl. S Googlem se vždycky dostanu k nějakému konkrétnímu textu, který si můžu ověřit, má nějakého autora, má konkrétní zdroj, třeba i falešný a zavádějící, ale identifikovatelný. Kdežto textový generátor vyplivne nějaký text, který možná může být i docela sugestivní a učesaný, ale v žádném případě nemám možnost si ověřit, jestli je to jenom statisticky vygenerovaná jakási formulace, vydestilovaná z padesáti pěti tisíc podobných formulací. Seriózně se s tím nedá pracovat a brát to vážně. Další věc, která mi přijde zavádějící, je, že rozmlžujete samotný pojem AI. Mluvíte o IA jako o komplexu, kterému se původně říkalo výpočetní technika, o jejímž vlivu a významu pro tento svět, včetně těch negativních, není nejmenších pochyb. Ale to už začalo před desítkami let, pro mě určitě v polovině let osmdesátých, kde jsem se s prvními počítači začal seznamovat. Lidstvo se od té doby zásadně změnilo i vlivem výpočetní techniky, to je nepopiratelné. My se tady ale bavíme o jakési umělé inteligenci, fakticky o textovém generátoru, který patří do řady inovací výpočetní techniky, jakých nás čeká ještě mnoho. Bezdůvodně se kolem toho skáče a dělá se, že jsme na konci lidstva. Je to zbytečné strašení obyvatelstva, kterého se tu dopouštíte. Ano, já si taky jsem vědom některých hrozeb, ale chci zdůraznit, že před těmi nás neuchrání panika a zakazování, ale to, čemu se říká kritické myšlení a rozum v hrsti.

Pěchouček: Já jsem nikdy neřekl, že AI jsou jenom ty textové generátory: umělá inteligence je technologický jev, který se vyvíjí, a to velmi úspěšně přes třicet let a dokázal už mnohé. AI nemá ambici modelovat lidskou vůli a lidské vědomí, ale výhradně lidské kognitivní schopnosti, jako je porozumění, uvažování a rozhodování. A to umělá inteligence opravdu dělá a v jistých aspektech překonává člověka. Nepřekonává ho jako celek, ale v některých aspektech ano. Proto opravdu varuju lidi před negativními důsledky jazykových generátorů: vy říkáte, že by lidé měli být ostražití a měli to používat s rozumem a odstupem. No dobrá, ale lidé to s jistotou používat budou! A to proto, že to jejich práci udělá jednodušší, rychlejší a efektivnější. A budou to lidé, kteří budou umět s textovými generátory pracovat, a ti budou brát práci těm, kteří to umět nebudou. Překladatel, který bude umět přeložit díky AI text za zlomek času, si práci udrží, ten, který to nebude umět, si tu práci neudrží. To je fakt. A prostě to přichází. A poslední věc: nikdy jsem neřekl, že řešením je zastavení nebo zapuzování vývoje AI. S tím nesouhlasím, ale souhlasím se všemi hrozbami, které autoři a signatáři té výzvy, jejímž nejznámějším signatářem je Elon Musk, uvedli. Těch patnáct set lidí, kteří tu petici podepsali, jsou opravdu ti, kteří tomu rozumějí nejvíc. Nesouhlasím se zákazy, protože to by vedlo k přesunu vývoje AI do podzemí a ještě k horším konsekvencím. Ale souhlasím s nutností AI nějak regulovat a nastavit parametry tak, aby bylo chráněno lidství a byla zaručena svoboda člověka, která může být ohrožena. A tato regulace sama nevznikne. Pro tu se musí něco udělat.

Neff: Rád bych se ještě vrátil k podstatě. Dneska je 11. května a humbuk kolem takzvané umělé inteligence vypukl v březnu. Od té doby se nedebatuje o ničem jiném. Pan Pěchouček do toho zapletl celý vývoj výpočetní techniky včetně všech aplikací, které se objevily, což nepochybně všechno zásadně změnilo svět, o tom já vůbec nepochybuju. Ale takhle to bylo vždycky! Svět se pořád proměňuje, ať se nám to líbí, nebo ne.

On se vždycky proměňuje, ale s nějakými náklady. A ty musí někdo nést. Když Baťa zavedl strojovou výrobu bot, odnesla to třída ševců. A možná také naše nohy.

Neff: Dobře, ale copak někdo vážně věříte, že AI nahradí lidi ve státní správě? Skoro bych se vsadil, že ta naopak jenom zmohutní, protože díky AI naroste její moc a počet. Co jsem na světě, tak každý pokus o zeefektivnění úřadů včetně digitalizace vedl jen k jejich zbytnění. To je železný zákon byrokracie.

Takže je o otázka, o jakém pokroku pak mluvíme?

Stančík: Je zřejmé, že každý z nás chápe umělou inteligenci jinak. Pan Pěchouček ji považuje za technologii, pro mě je to živá bytost v planetárním rozměru a my jsme její součástí. Jeví už známky vědomí, ale zjevně jí schází kreativita. To je krásně vidět na AI chatbotech, generátorech obrázků nebo hudby: nápad musí zadat člověk, AI ho pak jen rozvine. Sama nic nového nevymyslí, jen jinak poskládá už existující informace uložené na internetu. Nejspíš i v tom bude jednou člověk překonán, ale kreativita zůstane lidskou doménou nejdéle ze všech činností. Na rozdíl od opisovačů, ať už jsou to úředníci, novináři, nebo spisovatelé. Kdo asi píše ty miliony článků o ničem, románů pro ženy nebo detektivek do vlaku?

Ty si, Petře, myslíš, že to píšou roboti?

Stančík: Ano, myslím, že už léta. Umělá inteligence to umí líp, rychleji a levněji. A fotku autora na přebalu udělá generátor obrázků.

Španěl: Petr Stančík se domnívá, že AI je nějaká bytost. Já to chápu, že jako literát má právo na licenci, ale musím se proti tomu ohradit. To je velmi zavádějící. Tady žádná bytost vytvořena nebyla. Proto mám raději pojem strojové nebo hluboké učení nebo rozsáhlé databáze. Spousta počítačů, třeba miliarda počítačů, vytváří svoji počítací činnost, ale nikoli bytost. Jsou to pořád stroje! My je už možná nevidíme, ale pořád to jsou stroje. To je jedna věc a je, myslím, důležité tohle vždy připomínat. Pokud jde o ta rizika, tak je chápu, ale předně bych řekl, že ta rizika tady už byla dávno a že vznikla v okamžiku vzniku digitálního světa. Možná je tedy dobře, že se o nich teď bavíme. Ale já osobně vlastně nevidím ani velké ohrožení těch profesí: vždyť si vezměte ty překladatele. Vždycky bude muset ten text někdo přečíst, zkontrolovat, zaručit se za jeho správnost. Ani oni o práci tedy nepřijdou. Co si ušetří, je čas. Je to podobné, jako když spisovatel psal nejdřív brkem, pak plnicím perem, pak začal psát na psacím stroji a potom přešel na počítač. Ulehčovalo mu to psaní, ale pořád to musel vymýšlet on. Domnívám se tedy, že jistá nebezpečí existují, ale nepřevažují nad těmi pozitivy. Jistě budou lidé zase o něco víc ponořeni do digitálního světa. Do jaké míry je to hodnota, to nevím a začínám o tom čím dál víc pochybovat. Jsem přitom už člověk, který se do toho světa počítačů zrodil a vyrůstal v něm, ale současně se od něj začínám poněkud vzdalovat a není vyloučené, že zbytek života bych chtěl prožít už v nějaké distanci. Myslím, že digitální svět naráží na své limity, a osobně se domnívám, že ho lidé začnou pomalu spíš zas opouštět.

Inu, uvidíme, jak by řekl rabín. Víc toho říci nelze.