Umělá inteligence jako podnět k zamyšlení o hodnotě lidství
Ukázka z připravované nové knihy Tomáše Zářeckého „Digitální trest Boží“
Když píši tyto řádky, nelze opomenout ani fenomén umělé inteligence, který se dal na počátku dvacátých let jedenadvacátého století na pochod – či se rovnou rozeběhl ke sprintu v rekordním čase? V posledních týdnech a měsících jsme zaplaveni tsunami článků o tom, co všechno umělá inteligence lidstvu přinese i co vše mu sebere. Některé texty čiší bezbřehým optimismem a spekulují o řešení nespočtu palčivých problémů, jiné zavání apokalyptickými vizemi zničeného světa. Položme si tedy hamletovskou otázku, bát se, či se nebát umělé inteligence? Vítat ji, nebo se jí naopak houževnatě bránit? Pracovat na jejím zdokonalení, pozastavit její vývoj, nebo ho dokonce navždy opustit? A je to vůbec možné?
Z mého skromného pohledu je nejdůležitější otázka, kdy (nebo zda vůbec?) může umělá inteligence dosáhnout bodu, kdy dokáže jednat autonomně bez ohledu na vstupy lidské činnosti? Pokud dosáhne tohoto bodu, považuji za vysoce pravděpodobné, že si tím přivodíme zkázu, protože stvoříme cosi na způsob Boha. Formu existence přesahující naše schopnosti snad ve všech směrech. Považuji tedy za nanejvýš naivní se domnívat, že tuto existenci budeme schopni nějakým způsobem ovládat či že nám dokonce bude sloužit. Proboha, proč?! Proč by to dělala? Silnější druh si vždy podmanil ten slabší, přežil a vládnul – a lidstvo je toho zářným důkazem jak na úrovni vůči jiným živočišným druhům, tak z pohledu společenských dějin a osudů mnohých říší. Opravdu si proto myslím, že s podobou umělé inteligence, která by byla nezávislá na lidech a jejich rozhodnutích, dokázala se sama řídit a reprodukovat (neexistoval by přeci důvod, aby zůstala omezená na počítače a online prostředí), bychom si neměli zahrávat. Teď ani v blízké budoucnosti a možná vůbec nikdy. Proč? Zkusme si tuto situaci představit trochu jinak – třeba jako flotilu nepřátelských mimozemských lodí, které se chystá zaútočit na planetu Zemi a vůči které lidstvo nemá adekvátní prostředky obrany. A nebo pokud raději cestujete do minulosti než do sci-fi fantazií, pokuste se vžít do postav domorodých obyvatel Ameriky, jak vítají karavely Kryštofa Kolumba… Byli nadšení? Vystrašení? Chtěli spolupracovat? Nebo bojovat? Ať tak či onak, uteklo jediné staletí, a přibližně devadesát procent původních obyvatel bylo mrtvých. A nenacházím v mysli důvod se domnívat, že pokud stvoříme umělou inteligenci nezávislou na lidech a lidstvo převyšující, že nezopakujeme osud těchto nešťastníků. Troufnul bych si tvrdit, že to jsou přímo dějiny evoluce, která nás před tímto krokem zrazují. Takže i pokud jsme toho schopni, nedělejme to. Už to pak totiž není pouze o tom, že náš mravní vývoj nekráčí ruku v ruce s naším technologickým progresem. Dosud jsme vždy stvořili technologie, které jsme dokázali ovládat. „Pouze“ jsme je mnohdy zneužívali. Jenže pokud vytvoříme technologii mimo naši kontrolu, budeme čelit situaci, která v dějinách dosud nenastala. A už jen z této podstaty věci nám nebude rozhodně příjemná.
Co pokud jsou však tyto černé scénáře přehnané a náš současný potenciál nedokáže stvořit takto vyspělou a autonomní umělou inteligenci? Co jestliže vytvoříme „pouze“ takovou, která sice tohoto budu nedosáhne, přesto bude ohromujícím vynálezem, který nevratně promění svět tak, jak ho známe? V tom případě se nebojím té umělé inteligence, ale bojím se nás, lidí. A to sakra hodně, protože čím větší potenciál, tím větší hrozba. A nemyslím si, že jsme psychicky či morálně připraveni i jen na velmi „umírněnou“ verzi umělé inteligence. Kolem se rojí články, co vše umělá inteligence zastane, na kolika pozicích nahradí zaměstnance z masa a kostí, jaké profese zaniknou… A možná přitom někteří křičí hurá, pokrok, ale domýšlíme také, co bude s těmi stovkami milionů nezaměstnaných, pokud se tyto predikce naplní? Žijeme v přelidněném světě plném umělé zaměstnanosti a šmahem vytvoříme další armádu „nepotřebných“ lidí? Bude to řešení něčeho, nebo naopak vytvoření nových kritických problémů? Kromě toho nás úvahy o tom, jaké pozice může zastávat umělá inteligence na místo lidí nutí k zamyšlení o samé podstatě člověka. Co jsme vůbec zač? Odkud se berou naše myšlenky a pocity? Jsou to jen chemické procesy v našem těle? Co následuje po smrti? Existuje duše? Mířím tím k tomu, že pokud si povíme, oukej, všechno to jsou racionálně vysvětlitelné tělesné procesy způsobené tím a tím, v čem se vlastně budeme lišit od strojů a „umělé“ inteligence? V čem bude spočívat naše lidství a naše hodnota? Jestliže řekneme, že láska je pouhou chemickou reakcí, kdy nějaké prvky reagují určitým způsobem s jinými a spouští řetěz dalších reakcí, že můžeme lásku vyjádřit na tabuli jako rovnici, tak to pak ale znamená, že můžeme naprogramovat stroj, aby cítil radost či smutek, aby miloval i nenáviděl. Pokud naše myšlenky budeme brát za elektrické impulsy v mozku, můžou zrovna tak přemýšlet stroje. Můžou získat vědomí sebe sama. Protože to není nic unikátního. My nejsme unikátní. Náš druh. Nikdo z nás. A bude přirozené, ba přímo nevyhnutelné, že vyšší forma, chcete-li upgrade, přepíše ten nižší. Smaže ho a nahradí.
Někdy se mi z duše protiví osvícenské dědictví a důraz na vědu a důkazy. To nás totiž vede k výše napsanému, což se ale přece může zamlouvat jen málokomu, možná nikomu. Přece jsme něco víc! Potřebujeme v to věřit! Vědět to (alespoň zatím) nemůžeme… Ale já věřím v to, že máme duši. Že součástí naší existence je cosi vědou neuchopitelného, co odlišuje živé tvory od těch uměle vytvořených. Že duše je něco, co nemůžeme vytvořit a umělá inteligence to v tom případě nemůže získat. A může pak mechanicky vytvářet cokoliv, ale bude jí chybět ta tvůrčí esence, kterou dává lidským dílům právě duše. Proto věřím, že umělá inteligence nemůže tak jednoduše nahradit spisovatele, básníky, malíře, učitele ani desítky nebo stovky dalších profesí. Profesí, při kterých potřebujete empatii, soucit, osobnost, duši. A i když nepochybuji, že na základě pokynů dokáže umělá inteligence už brzy stvořit formálně dokonalý román, bude mu – alespoň za mě – něco chybět. Bude to možná po všech stránkách precizní dílo, ale bude současně prázdné. Bude mu totiž chybět duše. Protože tu umění vdechnou zas a jen ti s vlastní duší…
Že nic takového neexistuje, namítnou někteří? Možná, nevím… Pouze věřím. Když držím v náručí své děti, když cítím tu nepopsatelnou sílu božské lásky, v takový moment prostě nepochybuju, že život je něco mnohem složitějšího a neuchopitelnějšího, než o čem máme potuchy, a že v každém živém tvoru sídlí duše, která je spojená se všemi ostatními v celek, který se nachází daleko za bránami poznání většiny z nás. A že tohle je dimenze, kterou nemůže žádná technologie stvořená lidmi překonat. Ale třeba se mýlím… Jenže pokud ano, může mi to být jedno, protože co bychom pak byli? Jaký bychom měli smysl existence? V čem bychom byli „lepší“ než umělá inteligence?