Umìlá inteligence jako podnìt k zamyšlení o hodnotì lidství
Ukázka z pøipravované nové knihy Tomáše Záøeckého „Digitální trest Bo¾í“
Kdy¾ píši tyto øádky, nelze opomenout ani fenomén umìlé inteligence, který se dal na poèátku dvacátých let jedenadvacátého století na pochod – èi se rovnou rozebìhl ke sprintu v rekordním èase? V posledních týdnech a mìsících jsme zaplaveni tsunami èlánkù o tom, co všechno umìlá inteligence lidstvu pøinese i co vše mu sebere. Nìkteré texty èiší bezbøehým optimismem a spekulují o øešení nespoètu palèivých problémù, jiné zavání apokalyptickými vizemi znièeného svìta. Polo¾me si tedy hamletovskou otázku, bát se, èi se nebát umìlé inteligence? Vítat ji, nebo se jí naopak hou¾evnatì bránit? Pracovat na jejím zdokonalení, pozastavit její vývoj, nebo ho dokonce nav¾dy opustit? A je to vùbec mo¾né?
Z mého skromného pohledu je nejdùle¾itìjší otázka, kdy (nebo zda vùbec?) mù¾e umìlá inteligence dosáhnout bodu, kdy doká¾e jednat autonomnì bez ohledu na vstupy lidské èinnosti? Pokud dosáhne tohoto bodu, pova¾uji za vysoce pravdìpodobné, ¾e si tím pøivodíme zkázu, proto¾e stvoøíme cosi na zpùsob Boha. Formu existence pøesahující naše schopnosti snad ve všech smìrech. Pova¾uji tedy za nanejvýš naivní se domnívat, ¾e tuto existenci budeme schopni nìjakým zpùsobem ovládat èi ¾e nám dokonce bude slou¾it. Proboha, proè?! Proè by to dìlala? Silnìjší druh si v¾dy podmanil ten slabší, pøe¾il a vládnul – a lidstvo je toho záøným dùkazem jak na úrovni vùèi jiným ¾ivoèišným druhùm, tak z pohledu spoleèenských dìjin a osudù mnohých øíší. Opravdu si proto myslím, ¾e s podobou umìlé inteligence, která by byla nezávislá na lidech a jejich rozhodnutích, dokázala se sama øídit a reprodukovat (neexistoval by pøeci dùvod, aby zùstala omezená na poèítaèe a online prostøedí), bychom si nemìli zahrávat. Teï ani v blízké budoucnosti a mo¾ná vùbec nikdy. Proè? Zkusme si tuto situaci pøedstavit trochu jinak – tøeba jako flotilu nepøátelských mimozemských lodí, které se chystá zaútoèit na planetu Zemi a vùèi které lidstvo nemá adekvátní prostøedky obrany. A nebo pokud radìji cestujete do minulosti ne¾ do sci-fi fantazií, pokuste se v¾ít do postav domorodých obyvatel Ameriky, jak vítají karavely Kryštofa Kolumba… Byli nadšení? Vystrašení? Chtìli spolupracovat? Nebo bojovat? A» tak èi onak, uteklo jediné staletí, a pøibli¾nì devadesát procent pùvodních obyvatel bylo mrtvých. A nenacházím v mysli dùvod se domnívat, ¾e pokud stvoøíme umìlou inteligenci nezávislou na lidech a lidstvo pøevyšující, ¾e nezopakujeme osud tìchto neš»astníkù. Troufnul bych si tvrdit, ¾e to jsou pøímo dìjiny evoluce, která nás pøed tímto krokem zrazují. Tak¾e i pokud jsme toho schopni, nedìlejme to. U¾ to pak toti¾ není pouze o tom, ¾e náš mravní vývoj nekráèí ruku v ruce s naším technologickým progresem. Dosud jsme v¾dy stvoøili technologie, které jsme dokázali ovládat. „Pouze“ jsme je mnohdy zneu¾ívali. Jen¾e pokud vytvoøíme technologii mimo naši kontrolu, budeme èelit situaci, která v dìjinách dosud nenastala. A u¾ jen z této podstaty vìci nám nebude rozhodnì pøíjemná.
Co pokud jsou však tyto èerné scénáøe pøehnané a náš souèasný potenciál nedoká¾e stvoøit takto vyspìlou a autonomní umìlou inteligenci? Co jestli¾e vytvoøíme „pouze“ takovou, která sice tohoto budu nedosáhne, pøesto bude ohromujícím vynálezem, který nevratnì promìní svìt tak, jak ho známe? V tom pøípadì se nebojím té umìlé inteligence, ale bojím se nás, lidí. A to sakra hodnì, proto¾e èím vìtší potenciál, tím vìtší hrozba. A nemyslím si, ¾e jsme psychicky èi morálnì pøipraveni i jen na velmi „umírnìnou“ verzi umìlé inteligence. Kolem se rojí èlánky, co vše umìlá inteligence zastane, na kolika pozicích nahradí zamìstnance z masa a kostí, jaké profese zaniknou… A mo¾ná pøitom nìkteøí køièí hurá, pokrok, ale domýšlíme také, co bude s tìmi stovkami milionù nezamìstnaných, pokud se tyto predikce naplní? ®ijeme v pøelidnìném svìtì plném umìlé zamìstnanosti a šmahem vytvoøíme další armádu „nepotøebných“ lidí? Bude to øešení nìèeho, nebo naopak vytvoøení nových kritických problémù? Kromì toho nás úvahy o tom, jaké pozice mù¾e zastávat umìlá inteligence na místo lidí nutí k zamyšlení o samé podstatì èlovìka. Co jsme vùbec zaè? Odkud se berou naše myšlenky a pocity? Jsou to jen chemické procesy v našem tìle? Co následuje po smrti? Existuje duše? Míøím tím k tomu, ¾e pokud si povíme, oukej, všechno to jsou racionálnì vysvìtlitelné tìlesné procesy zpùsobené tím a tím, v èem se vlastnì budeme lišit od strojù a „umìlé“ inteligence? V èem bude spoèívat naše lidství a naše hodnota? Jestli¾e øekneme, ¾e láska je pouhou chemickou reakcí, kdy nìjaké prvky reagují urèitým zpùsobem s jinými a spouští øetìz dalších reakcí, ¾e mù¾eme lásku vyjádøit na tabuli jako rovnici, tak to pak ale znamená, ¾e mù¾eme naprogramovat stroj, aby cítil radost èi smutek, aby miloval i nenávidìl. Pokud naše myšlenky budeme brát za elektrické impulsy v mozku, mù¾ou zrovna tak pøemýšlet stroje. Mù¾ou získat vìdomí sebe sama. Proto¾e to není nic unikátního. My nejsme unikátní. Náš druh. Nikdo z nás. A bude pøirozené, ba pøímo nevyhnutelné, ¾e vyšší forma, chcete-li upgrade, pøepíše ten ni¾ší. Sma¾e ho a nahradí.
Nìkdy se mi z duše protiví osvícenské dìdictví a dùraz na vìdu a dùkazy. To nás toti¾ vede k výše napsanému, co¾ se ale pøece mù¾e zamlouvat jen málokomu, mo¾ná nikomu. Pøece jsme nìco víc! Potøebujeme v to vìøit! Vìdìt to (alespoò zatím) nemù¾eme… Ale já vìøím v to, ¾e máme duši. ®e souèástí naší existence je cosi vìdou neuchopitelného, co odlišuje ¾ivé tvory od tìch umìle vytvoøených. ®e duše je nìco, co nemù¾eme vytvoøit a umìlá inteligence to v tom pøípadì nemù¾e získat. A mù¾e pak mechanicky vytváøet cokoliv, ale bude jí chybìt ta tvùrèí esence, kterou dává lidským dílùm právì duše. Proto vìøím, ¾e umìlá inteligence nemù¾e tak jednoduše nahradit spisovatele, básníky, malíøe, uèitele ani desítky nebo stovky dalších profesí. Profesí, pøi kterých potøebujete empatii, soucit, osobnost, duši. A i kdy¾ nepochybuji, ¾e na základì pokynù doká¾e umìlá inteligence u¾ brzy stvoøit formálnì dokonalý román, bude mu – alespoò za mì – nìco chybìt. Bude to mo¾ná po všech stránkách precizní dílo, ale bude souèasnì prázdné. Bude mu toti¾ chybìt duše. Proto¾e tu umìní vdechnou zas a jen ti s vlastní duší…
®e nic takového neexistuje, namítnou nìkteøí? Mo¾ná, nevím… Pouze vìøím. Kdy¾ dr¾ím v náruèí své dìti, kdy¾ cítím tu nepopsatelnou sílu bo¾ské lásky, v takový moment prostì nepochybuju, ¾e ¾ivot je nìco mnohem slo¾itìjšího a neuchopitelnìjšího, ne¾ o èem máme potuchy, a ¾e v ka¾dém ¾ivém tvoru sídlí duše, která je spojená se všemi ostatními v celek, který se nachází daleko za bránami poznání vìtšiny z nás. A ¾e tohle je dimenze, kterou nemù¾e ¾ádná technologie stvoøená lidmi pøekonat. Ale tøeba se mýlím… Jen¾e pokud ano, mù¾e mi to být jedno, proto¾e co bychom pak byli? Jaký bychom mìli smysl existence? V èem bychom byli „lepší“ ne¾ umìlá inteligence?
