Kňaz venujúci sa téme AI: Umelá inteligencia pôsobí na ľudské slabosti

Peter Šantavý je kňazom v bratislavskom Kostole Nanebovzatia Panny Márie. Okrem toho vedie Centrum informačných technológií Bratislavskej arcidiecézy, má na starosti informačné technológie Rímskokatolíckej cyrilometodskej bohosloveckej fakulty UK a participuje na riešení kybernetickej bezpečnosti Univerzity Komenského. Okrem iného sa venuje téme bezpečnosti a etiky umelej inteligencie (AI). O nej sa v tomto rozhovore budeme rozprávať.

Boli ste najprv kňazom, ktorý sa začal zaoberať IT, alebo sa z ITčkára stal kňaz?

Vyštudoval som najprv elektrotechnickú fakultu, pracoval ako softvérový vývojár a až neskôr som vstúpil do seminára. 

Sama som v živote stretla viacerých ľudí pracujúcich v IT, ktorým pri tej vysoko technickej práci chýbalo nejaké duchovno. Bol to aj váš prípad?

Ani nie i keď treba povedať, že na elektrotechnickej fakulte a „matfyze“ bolo mnoho ľudí, ktorí nejakým spôsobom inklinovali či už k niečomu duchovnému, alebo k psychológii. Pred osemdesiatymdeviatym sa dokonca o matematicko-fyzikálnej fakulte a o elektro fakulte hovorilo, že sú to také bašty klerikalizmu. U mňa však všetko začalo až po vysokej škole. Išlo o postupné kroky, ktoré viedli až k semináru. 

Kňaz, ktorý je zároveň expertom na informačné technológie, je v našich podmienkach vcelku neobvyklá kombinácia. 

Je to taká zaujímavá kombinácia, možno niekedy neľahká, lebo človek sedí na viacerých stoličkách. Tieto úlohy sa však dajú skĺbiť, pretože mám na starosti malý kostolík. Správa veľkej farnosti by s mojou druhou prácou nešla veľmi dokopy. V poslednom období zároveň chodievam do rôznych kresťanských organizácií robiť prednášky o umelej inteligencii. V rámci AI sa okrem etiky a bezpečnosti osobitne zaujímam aj o tému všeobecnej umelej inteligencie (AGI).

Keď si AGI zadáte do vyhľadávača, dozviete sa, že ide o hypotetickú formu AI, ktorá by mohla dosiahnuť rovnakú alebo vyššiu inteligenčnú úroveň ako človek. Vy si myslíte, že raz ľudstvo takúto AI vyvinie?

Na túto tému sú viaceré pohľady. Mnohí po vzniku AGI túžia a zároveň predpovedajú, že sa ju jedného dňa podarí vytvoriť. Sú i pohľady skeptické, ktoré hovoria o tom, že takú AI, ktorá by naplno nahradila človeka, nevyvinieme. Ja patrím medzi skeptikov. Ľudia totiž nie sú akési biologické stroje, ľudská inteligencia je komplexná a prepojená s ľudskou dušou. Môžeme vyvinúť akurát stroje, ktoré budú ľudskú inteligenciu simulovať. Alebo budú mať istú formu inteligencie, lenže úplne inú, než majú ľudia, na inej úrovni. Samozrejme, aj takáto strojová inteligencia, ktorá nedosiahne plnosť tej ľudskej, môže byť veľmi nebezpečná.

Keď už ste načali tému nebezpečenstva, mnohí ľudia sa boja, čo všetko by umelá inteligencia mohla v budúcnosti spôsobiť. Ide podľa vás skôr o neporozumenie téme, keďže samotné fungovanie AI je pre väčšinu ľudí nezrozumiteľné, alebo nám naozaj hrozia katastrofické scenáre?

Čo sa týka rizík, s obľubou na svojich prednáškach ukazujem jeden slajd, na ktorom sú znázornené dva prieniky ľudskej inteligencie a umelej inteligencie. Jeden je “vysoký”, ten by nastal vtedy, keby umelá superinteligencia presiahla schopnosti človeka. Druhý je “nízky” prienik. V rámci neho umelá inteligencia pôsobí na ľudské slabosti a premáha tak človeka.

Tento princíp ste spomínali aj vo svojej knihe. Rozprávame sa o umelej inteligencii, ktorá sa už, napríklad vo forme algoritmov, používa. Narážame na ňu v každodennom živote a ani o tom mnohokrát nevieme, napríklad pri používaní sociálnych sietí, ktoré nám s jej pomocou zobrazujú obsah. Aké tu vidíte nebezpečenstvá?

Tento druh umelej inteligencie zbiera dáta z reálneho sveta a človeka monitoruje, oberá o súkromie a vnútornú slobodu, predikuje naše správanie, dokáže nás aj k určitému správaniu usmerňovať. Vytvára tiež sociálne bubliny, v dôsledku ktorých dochádza napríklad k relativizácii pravdy. Osobitným problémom je závislosť, strata kognitívnych schopností (napríklad digitálna demencia či kognitívna kapitulácia) alebo uzavretie sa do virtuálnych svetov, a to najmä u mladých ľudí, ktorých mozgy sú ešte “plastické” a psychika krehká.

Znie mi to akoby sa mnohí desili akejsi dystopickej AI budúcnosti, pričom si neuvedomujú, že ju v istom zmysle dávno žijeme. Umelá inteligencia nám nielen servíruje obsah na sociálnych sieťach, mnohí svoje problémy zverujú AI konzultantom, ako je ChatGPT. Čo s tým? 

Treba zdôrazňovať, že generatívne systémy, akým je aj ChatGPT, iba simulujú myslenie. Tieto modely aj zlyhávajú iným spôsobom, než ľudia, nerozlišujú dobré od zlého a neuvedomujú si dôsledky. Nevedia tiež povedať “neviem”, a namiesto toho “halucinujú”, teda si vymýšľajú, prípadne môžu ponúkať neobjektívne, čiastočné či nesprávne odpovede. Netreba ani zabúdať na to, že tieto služby uchovávajú dáta, ktoré im človek zverí. Vrátane tých najintímnejších. Stále zároveň ide o stroje, ktoré musia byť vždy pod kontrolou človeka, ktorý ich vie správne používať a výstupy preveruje.

Mám dojem, že práve skutočnosť, že ide o stroje, si niektorí ľudia prestali uvedomovať. Je to aj pochopiteľné. Keď sa niečo správa ako človek, a v prípade AI spoločníkov to aj vyzerá a znie ako človek, je normálne pripisovať takejto simulácii ľudské vlastnosti. 

Táto virtualizácia vzťahov je podľa mňa v súčasnosti silným fenoménom. Pôvodne som si myslel, že pôjde len o niečo okrajové. Pre ľudí, ktorí nejakým spôsobom potrebujú utiecť z tohto reálneho sveta. Ale medzi mladými si všímam, že mnohí vzťahy s AI spoločníkmi najprv skúšajú ako takú zábavku. Potom zistia, že takéto vzťahy sú oveľa jednoduchšie než tie ľudské. A tak si aj človek, ktorý by k podobným únikom normálne nemal sklon, môže s týmito systémami vytvoriť toxický vzťah.  

Ako z toho von?

Aby sme sa tomu vyhli, je veľmi dôležitá digitálna askéza. Musíme tiež ľudí vtiahnuť do reálneho života. Lebo keď budeme skupine mladých o živote v realite iba hovoriť a oni pritom budú pozerať do mobilu, nebude to fungovať. No ak ich vytiahneme do reálneho sveta, napríklad formou zážitkov alebo tvorivej činnosti, aspoň čiastočne by im to mohlo pomôcť. Jednoducho by mali vo virtuálnom svete tráviť obmedzené množstvo času, budovať digitálnu askézu.

Tento problém sa však stále viac týka aj dospelých. Čo by mohlo podľa vás pomôcť ako osveta pre ľudí, ktorí sa stále viac spoliehajú napríklad na rady ChatuGPT a podobných služieb?

Neustále musíme opakovať, že AI iba simuluje myslenie. Pôsobí to, akoby stroj rozumel, chápal, ponúkal premyslené odpovede a nemohol sa mýliť. No nie je to tak. Niektoré služby AI konzultantov už obsahujú podobné upozornenia. Ale podľa mňa sa celý tento komplex nezmení dovtedy, kým jeho základným cieľom bude monetizácia. Chýbajú tu zároveň jasné etické pravidlá, celá oblasť AI je ako Divoký západ. Sama sa táto oblasť nezreguluje.

Vo svojej knihe ste spomínali nariadenie Európskej únie o umelej inteligencii. Je podľa vás dobrým riešením?

V čase, keď som svoju knihu písal, teda v roku 2022, sa mi takým javil. Postupne sa však ukazuje, že to nariadenie nie je úplne univerzálne. Regulácia zároveň musí byť nastavená tak, aby na jednej strane chránila základné etické pravidlá a normy, na strane druhej aby umožňovala rozvoj.