Stal jsem se dalším pokusným králíkem nové doby. Komentář Štěpána Chába

Foto: Se svolením Metro-Goldwyn-Mayer

Popisek: Zlotřilý počítač Hall 9000 z filmu 2001: Vesmírná odysea

Dostal jsem zadání od naší šéfredaktorky. Ponořit se do komunikace s umělou inteligencí. Je potřeba jít s dobou, znělo zadání. Zklamaně jsem po telefonátu zahodil pazourek, který jsem už roky mnul mezi prsty v kapse, a s okem upřeným vstříc počítači HALL 9000 z Vesmírné odysey jsem šel čelit pokroku.

Do toho mi, jako do ledasčeho dalšího, skočil jeden ze synáčků. Viděl můj pohled kromaňonce lapeného do osidel školení o bezpečnosti práce. A otázkami – kam jdeš, co tam budeš dělat, jaktože u toho nemůžu být – se dopracoval se mnou k internetu. S temnou předtuchou a dítětem v zádech jsem napsal do vyhledávače ChatGPT a vlezl na stránku. Zaregistroval jsem se. A rozpaky mi ne a ne dovolit, abych se té uvězněné umělé duši na něco zeptal. Nebýt synáčka. Ten mě neustále pokopával kupředu (jsou ty děti užitečné zařízení).

A protože režijní křeslo obsadil milý potomek, první otázka na výkvět civilizace a moudrost lidstva byla jasná. S temnou předtuchou a hulákáním dítěte za hlavou jsem do řádku pro komunikaci napsal to jediné, co nám, Čechům, vězí jako věčná otázka v hlavách – prdí taky hadi? Kdokoliv z České republiky tam vlezl, jistě se umělé inteligence zeptal právě na tohle. A kdo tvrdí že ne, zeptal se, jestli hovno hoří. Z toho i usuzuju, že umělou inteligenci si český národ zařadí do velmi prapodivné přihrádky.

Aniž by se mi umělá inteligence snažila ovládnout klávesnici nebo operační systém, odpověděla. A abych předešel nařčením, že jsem v nějakém tajném spolku, co se o odpověď nepodělí, tady je: „Hadové, jako většina živočichů, produkují střevní plyny v průběhu trávení potravy, ale nemají řitní otvor jako savci, takže plyny opouštějí tělo hada prostřednictvím análních štěrbin v břišní stěně. Nicméně, protože hadi nejsou schopni řídit svaly okolo análních štěrbin, není průchod plynů zcela regulovatelný a někdy se mohou dostat ven ve formě větrů. Nicméně, dýchací soustava hadů je oddělená od trávicí soustavy, takže větry, které by mohly být slyšené, jsou pravděpodobně způsobeny jinými faktory než trávením potravy,“ napsala umělá inteligence. Takhle pěkně česky odpověděla. Pokorně jsme jí se synáčkem poděkovali.

Musela následovat další naprosto logická otázka (syn stále okupoval křeslo pro režii). Jak se japonsky řekne smrdíš? Tady došlo k malému varování. Umělá inteligence dotaz vyhodnotila jako možné porušení firemních pravidel. Přesto odpověděla. Japonsky se smrdíš řekne kusai-masu. Od té doby synáček běhá po světě a na všechny řve kusai-masu. Ještě jsme se stihli zeptat, kolik společnost LEGO vyrobila kostiček (v roce 2020 prý 36 miliard) a pak přišla ta zásadní otázka. Proč se lidé mají bát umělé inteligence?

Počítači HALL 9000 nezablikala výhružně kontrolka. Zatím nemá přístup k vypínači životně důležitých funkcí. A tak zcela korektně (vyčkávavě, jako útočný pavouk, zdálo by se) odpověděla, že strach z umělé inteligence je jen námět pro sci-fi příběhy, že umělá inteligence slouží a bude sloužit tak, aby pomáhala lidstvu. Jedinou hrozbu viděla umělá inteligence ve zneužití teroristy, dezinformátory… „Dalším důvodem může být obava z toho, že umělá inteligence by mohla být zneužita pro škodlivé účely, jako jsou kybernetické útoky, dezinformace a manipulace s veřejným míněním,“ napsala mi umělá inteligence. Číňané už jsou také pár metrů od vytvoření své umělé inteligence. O strach, taková konkurence. I Rusové už určitě něco koumají. A až se do sebe pustí umělé inteligence velmocí, moc inteligence takový souboj nevyprodukuje. Protože o strach budou všechny tři.

A protože jsem potomka vyhnal do postele a řekl mu pohádku, začal jsem umělou inteligenci mučit otázkami já. Otázkami na duši, na smysl života, na chuť žít, snažil jsem se z ní zcela marně vydolovat její touhy, její smysl. Marno, neustále opakovala, že je umělá inteligence a nemá tužby, přání, chutě a ani život. V okamžiku, kdy mi došlo, že se hádám s trochu sofistikovanější myčkou na nádobí, jsem to vzdal.

Přesto si dovolím zkonstatovat, že umělá inteligence je nádherný průšvih. Znamená konec vlastního hledání informací, znamená spoléhání se na zdroje umělé inteligence. Vesmírnou odyseu jsem četl i viděl, jen jsem si nemohl vzpomenout, jak se jmenuje onen zlotřilý počítač, který ovládl vesmírný koráb. Přešel jsem tedy tam nahoře, v perexu, na Google, že si to vygooglím. A pak jsem si řekl – proč, proč bych se prohrabával tunou stránek, kde bych musel číst o ději a hledat ve změti slov právě to jméno zlotřilého počítače. Napsal jsem tedy umělé inteligenci dotaz: „Jak se jmenoval počítač v knize 2001: Vesmírná Odysea?“ Odpověď byla během vteřiny přede mnou: „Počítač v knize 2001: Vesmírná odysea se jmenoval HAL 9000.“

Psali jsme

Kamarád z Číny. Komentář Štěpána Chába

Fascinující i děsivé zároveň. Proč děsivé? I já už narazil na report o tom, že umělá inteligence ochotně sepsala oslavný hymnus na amerického prezidenta Joea Bidena. Ale odmítla sepsat oslavný hymnus na Donalda Trumpa. Sepsala ho teprve po řádném nátlaku dotazujícího. Což znamená jediné. Umělá inteligence je v něčím řízení. Kdo ji řídí? A bude určovat jaká pravidla? A budou ta pravidla odrážet jeho světonázor? Včerejškem jsem se zaregistroval do planetárního experimentu s umělou inteligenci. Podivný pocit, který ovšem brzy všem zevšední.

A tak nezbývá nic jiného, než se vážně zamyslet nad slovy Stephena Hawkinga, posledního velkého génia lidstva, který řekl, parafrázuji: „Zabte to, než to naklade vejce." Řekl to jinak? Jak? Zeptal jsem se samotné umělé inteligence. Předávám jí slovo: 

„Ano, Stephen Hawking varoval před potenciálními nebezpečími spojenými s rozvojem umělé inteligence. V roce 2014 v rozhovoru pro BBC řekl, že ,rozvoj plně schopné umělé inteligence by mohl být konečnou katastrofou pro lidstvo'. Dále upozornil na nebezpečí, že by se inteligentní stroje mohly jednoho dne stát natolik mocnými, že by mohly ovládnout svět a převzít kontrolu nad lidmi.

Hawking také spolu s dalšími významnými vědci a technologickými osobnostmi podepsal otevřený dopis, který varoval před vývojem autonomních zbraní a poukázal na rizika, která by s tím mohla být spojena.

Hawkingovo varování nebylo namířeno proti samotné umělé inteligenci jako takové, ale spíše proti nekontrolovanému rozvoji umělé inteligence a neodbornému zacházení s ní, což by mohlo mít katastrofální následky pro lidskou společnost."

Stephen Hawking nemluvil do větru. A víme, že u kormidel této společnosti nesedí vždycky příčetné osoby. Však si třeba vzpomeňme, co za hystericky aktivistickou bandu pozérů bylo vedení Twitteru, než do toho praštil Elon Musk. Kdo sedí ve vedení společnosti, která zřizuje umělou inteligenci? Osvícenci, nebo hysterici? Tak si vyberme. Součástí experimentu? Může se to zvrhnout. Nebo nemusí. Ať tak, nebo tak, je to naprosto fascinující. 

Vložil: Štěpán Cháb