V 98 letech objevil Henry Kissinger novou oblast svého zájmu: umělou inteligenci (AI). Bývalého amerického ministra zahraničí ovšem už roku 2016 tehdejší výkonný ředitel Googlu Eric Schmidt přesvědčil, aby o AI navštívil přednášku na Bilderberské konferenci.

Oba se posléze spojili s Danielem Huttenlocherem, děkanem Schwarzmanovy kybernetické fakulty na Massachusettském technologickém institutu, a napsali knihu The Age of AI: And Our Human Future (Věk umělé inteligence: A budoucnost lidí), v níž se věnují důsledkům rychlého vzestupu a nasazení umělé inteligence.

Tvrdí v ní, že umělá inteligence se stala natolik mocnou a s lidmi natolik propojenou, že bez jisté předvídavosti a řízení může „epochální transformace“, kterou přinese, poslat lidský vývoj nebezpečným směrem. Především se však zabývají dopady AI na plánování, přípravu a vedení války.

V historii byl politický vliv dané země spojen s vojenskou silou – se schopností škodit jiným společnostem. Mocenská rovnováha však není trvalá. Je založena na dohodě, zejména příslušníků světového řádu, co je moc, co ji činí legitimní a kteří členové světového řádu mají jak potenciál, tak touhu použít moci k prosazení své vůle. Kybernetické zbraně znemožňují vytváření konsenzu, a protože mohou být použité k civilním účelům, je jejich zařazení mezi zbraně diskutabilní. Po svržení atomových bomb na Hirošimu a Nagasaki všichni pochopili, že lidstvo vstoupilo do nového a děsivého věku. Podle autorů stojí nyní na podobném okraji, jen nepředvídatelnějším. Růst umělé inteligence, kterou lze použít k řadě civilních a vojenských účelů – od čtení rentgenových paprsků a předpovědi počasí až po zabijácké roboty nebo šíření dezinformací –, ruší staleté představy o národní bezpečnost a státní suverenitě. Znervózňuje i to, že AI testuje hranice lidského rozumu a porozumění a zpochybňuje identitu a jednání lidí.

Tato tvrzení lze brát s nadsázkou, autory je však třeba brát vážně. Zkušený diplomat Kissinger ví něco o strategii, Schmidt chápe, jak technologické společnosti používají AI v reálném světě, a Huttenlocher se vyzná v nejnovějším výzkumu AI. Při četbě nejvíc znepokojuje, že i takoví uznávaní odborníci jsou lepší v kladení nepříjemných otázek než v poskytování uklidňujících odpovědí.

Aby autoři vysvětlili možný budoucí dopad AI, zkoumají technologickou minulost. Železnice, které v první světové válce přepravovaly vojáky do předních linií, měly civilní i vojenské využití a daly se snadno stavět, ale samy o sobě neohrožovaly. Jaderná technologie, která definovala studenou válku, mohla být také použita pro válečné i mírové účely a měla obrovskou ničivou sílu, aspoň ale nemohla být snadno šířena.

I toto paradigma porušuje, protože vykazuje všechny tři schopnosti – lze ji snadno vyvinout i nasadit a má obrovskou destruktivní sílu. „Málokterá epocha čelila tak složité strategické a technologické výzvě a s takovým malým konsenzem ať už o její povaze, nebo dokonce o slovníku k diskusi o ní,“ píší autoři.

Nejzajímavější část knihy o bezpečnosti a světovém řádu zřejmě napsal Kissinger. Věčným cílem vojenských stratégů bylo projektovat rostoucí sílu na stále větší vzdálenosti s vyšší rychlostí. V době, kdy se šíří dynamičtější a skrytější vojenské technologie, jako jsou kybernetické zbraně, a kdy se stávají destruktivnějšími, je stále obtížnější stanovit strategie k jejich použití. Stejně jako byly špatně navržené obchodní algoritmy obviňovány z destabilizace finančních trhů, kybernetické zbraně vylepšené umělou inteligencí by mohly vést až ke strategickému kolapsu.

Kniha přináší dvě velké otázky o AI, které budou rezonovat v příštích desetiletích. Když se člověkem navržený softwarový program, jako je AlphaZero pro hraní her, naučí a aplikuje model, který žádná lidská bytost nedokáže pochopit, posune to stav vědění? Děje se poprvé v dějinách lidstva, že ve vědění přestávají hrát lidé hlavní roli? I když to vlastně spíš než otázka je konstatování faktu.

Henry A. Kissinger, Eric Schmidt, Daniel Huttenlocher: The Age of AI: And Our Human Future, Little, Brown and Company, 2021, 272 str.