Kňaz venujúci sa téme AI: Umelá inteligencia pôsobí na ľudské slabosti
S rímskokatolíckym kňazom a zároveň informatikom Petrom Šantavým sme sa rozprávali na tému umelej inteligencie.
Slovensko
Dana VitálošováRedaktorka
S rímskokatolíckym kňazom a zároveň informatikom Petrom Šantavým sme sa rozprávali na tému umelej inteligencie.
Peter Šantavý je kňazom v bratislavskom Kostole Nanebovzatia Panny Márie. Okrem toho vedie Centrum informačných technológií Bratislavskej arcidiecézy, má na starosti informačné technológie Rímskokatolíckej cyrilometodskej bohosloveckej fakulty UK a participuje na riešení kybernetickej bezpečnosti Univerzity Komenského. Okrem iného sa venuje téme bezpečnosti a etiky umelej inteligencie (AI). O nej sa v tomto rozhovore budeme rozprávať.
Boli ste najprv kňazom, ktorý sa začal zaoberať IT, alebo sa z ITčkára stal kňaz?
Vyštudoval som najprv elektrotechnickú fakultu, pracoval ako softvérový vývojár a až neskôr som vstúpil do seminára.
Sama som v živote stretla viacerých ľudí pracujúcich v IT, ktorým pri tej vysoko technickej práci chýbalo nejaké duchovno. Bol to aj váš prípad?
Ani nie i keď treba povedať, že na elektrotechnickej fakulte a „matfyze“ bolo mnoho ľudí, ktorí nejakým spôsobom inklinovali či už k niečomu duchovnému, alebo k psychológii. Pred osemdesiatymdeviatym sa dokonca o matematicko-fyzikálnej fakulte a o elektro fakulte hovorilo, že sú to také bašty klerikalizmu. U mňa však všetko začalo až po vysokej škole. Išlo o postupné kroky, ktoré viedli až k semináru.
Kňaz, ktorý je zároveň expertom na informačné technológie, je v našich podmienkach vcelku neobvyklá kombinácia.
Je to taká zaujímavá kombinácia, možno niekedy neľahká, lebo človek sedí na viacerých stoličkách. Tieto úlohy sa však dajú skĺbiť, pretože mám na starosti malý kostolík. Správa veľkej farnosti by s mojou druhou prácou nešla veľmi dokopy. V poslednom období zároveň chodievam do rôznych kresťanských organizácií robiť prednášky o umelej inteligencii. V rámci AI sa okrem etiky a bezpečnosti osobitne zaujímam aj o tému všeobecnej umelej inteligencie (AGI).
Keď si AGI zadáte do vyhľadávača, dozviete sa, že ide o hypotetickú formu AI, ktorá by mohla dosiahnuť rovnakú alebo vyššiu inteligenčnú úroveň ako človek. Vy si myslíte, že raz ľudstvo takúto AI vyvinie?
Na túto tému sú viaceré pohľady. Mnohí po vzniku AGI túžia a zároveň predpovedajú, že sa ju jedného dňa podarí vytvoriť. Sú i pohľady skeptické, ktoré hovoria o tom, že takú AI, ktorá by naplno nahradila človeka, nevyvinieme. Ja patrím medzi skeptikov. Ľudia totiž nie sú akési biologické stroje, ľudská inteligencia je komplexná a prepojená s ľudskou dušou. Môžeme vyvinúť akurát stroje, ktoré budú ľudskú inteligenciu simulovať. Alebo budú mať istú formu inteligencie, lenže úplne inú, než majú ľudia, na inej úrovni. Samozrejme, aj takáto strojová inteligencia, ktorá nedosiahne plnosť tej ľudskej, môže byť veľmi nebezpečná.
Keď už ste načali tému nebezpečenstva, mnohí ľudia sa boja, čo všetko by umelá inteligencia mohla v budúcnosti spôsobiť. Ide podľa vás skôr o neporozumenie téme, keďže samotné fungovanie AI je pre väčšinu ľudí nezrozumiteľné, alebo nám naozaj hrozia katastrofické scenáre?
Čo sa týka rizík, s obľubou na svojich prednáškach ukazujem jeden slajd, na ktorom sú znázornené dva prieniky ľudskej inteligencie a umelej inteligencie. Jeden je “vysoký”, ten by nastal vtedy, keby umelá superinteligencia presiahla schopnosti človeka. Druhý je “nízky” prienik. V rámci neho umelá inteligencia pôsobí na ľudské slabosti a premáha tak človeka.
Tento princíp ste spomínali aj vo svojej knihe. Rozprávame sa o umelej inteligencii, ktorá sa už, napríklad vo forme algoritmov, používa. Narážame na ňu v každodennom živote a ani o tom mnohokrát nevieme, napríklad pri používaní sociálnych sietí, ktoré nám s jej pomocou zobrazujú obsah. Aké tu vidíte nebezpečenstvá?
Tento druh umelej inteligencie zbiera dáta z reálneho sveta a človeka monitoruje, oberá o súkromie a vnútornú slobodu, predikuje naše správanie, dokáže nás aj k určitému správaniu usmerňovať. Vytvára tiež sociálne bubliny, v dôsledku ktorých dochádza napríklad k relativizácii pravdy. Osobitným problémom je závislosť, strata kognitívnych schopností (napríklad digitálna demencia či kognitívna kapitulácia) alebo uzavretie sa do virtuálnych svetov, a to najmä u mladých ľudí, ktorých mozgy sú ešte “plastické” a psychika krehká.
Znie mi to akoby sa mnohí desili akejsi dystopickej AI budúcnosti, pričom si neuvedomujú, že ju v istom zmysle dávno žijeme. Umelá inteligencia nám nielen servíruje obsah na sociálnych sieťach, mnohí svoje problémy zverujú AI konzultantom, ako je ChatGPT. Čo s tým?
Treba zdôrazňovať, že generatívne systémy, akým je aj ChatGPT, iba simulujú myslenie. Tieto modely aj zlyhávajú iným spôsobom, než ľudia, nerozlišujú dobré od zlého a neuvedomujú si dôsledky. Nevedia tiež povedať “neviem”, a namiesto toho “halucinujú”, teda si vymýšľajú, prípadne môžu ponúkať neobjektívne, čiastočné či nesprávne odpovede. Netreba ani zabúdať na to, že tieto služby uchovávajú dáta, ktoré im človek zverí. Vrátane tých najintímnejších. Stále zároveň ide o stroje, ktoré musia byť vždy pod kontrolou človeka, ktorý ich vie správne používať a výstupy preveruje.
Mám dojem, že práve skutočnosť, že ide o stroje, si niektorí ľudia prestali uvedomovať. Je to aj pochopiteľné. Keď sa niečo správa ako človek, a v prípade AI spoločníkov to aj vyzerá a znie ako človek, je normálne pripisovať takejto simulácii ľudské vlastnosti.
Táto virtualizácia vzťahov je podľa mňa v súčasnosti silným fenoménom. Pôvodne som si myslel, že pôjde len o niečo okrajové. Pre ľudí, ktorí nejakým spôsobom potrebujú utiecť z tohto reálneho sveta. Ale medzi mladými si všímam, že mnohí vzťahy s AI spoločníkmi najprv skúšajú ako takú zábavku. Potom zistia, že takéto vzťahy sú oveľa jednoduchšie než tie ľudské. A tak si aj človek, ktorý by k podobným únikom normálne nemal sklon, môže s týmito systémami vytvoriť toxický vzťah.
Ako z toho von?
Aby sme sa tomu vyhli, je veľmi dôležitá digitálna askéza. Musíme tiež ľudí vtiahnuť do reálneho života. Lebo keď budeme skupine mladých o živote v realite iba hovoriť a oni pritom budú pozerať do mobilu, nebude to fungovať. No ak ich vytiahneme do reálneho sveta, napríklad formou zážitkov alebo tvorivej činnosti, aspoň čiastočne by im to mohlo pomôcť. Jednoducho by mali vo virtuálnom svete tráviť obmedzené množstvo času, budovať digitálnu askézu.
Tento problém sa však stále viac týka aj dospelých. Čo by mohlo podľa vás pomôcť ako osveta pre ľudí, ktorí sa stále viac spoliehajú napríklad na rady ChatuGPT a podobných služieb?
Neustále musíme opakovať, že AI iba simuluje myslenie. Pôsobí to, akoby stroj rozumel, chápal, ponúkal premyslené odpovede a nemohol sa mýliť. No nie je to tak. Niektoré služby AI konzultantov už obsahujú podobné upozornenia. Ale podľa mňa sa celý tento komplex nezmení dovtedy, kým jeho základným cieľom bude monetizácia. Chýbajú tu zároveň jasné etické pravidlá, celá oblasť AI je ako Divoký západ. Sama sa táto oblasť nezreguluje.
Vo svojej knihe ste spomínali nariadenie Európskej únie o umelej inteligencii. Je podľa vás dobrým riešením?
kotlik
Približne pred 2 mesiacmi
Pre mňa zaujímavý a dobrý rozhovor. Tento typ článku, ale aj Čitateľské intermezzo od pani Mihálikovej, mi po pracovnom týždni plnom politiky príde ako výborný relax. Príjemné spestrenie na Markeri.
Zuzi
Približne pred 2 mesiacmi
Danka - veľká vďaka za obohacujúci , zaujímavý rozhovor !
imro23
Približne pred 2 mesiacmi
Na EF SVST som chodil pred 89, ziadny klerikalizmus ani bastu som tam za 5 rokov nevidel.
Sjancok
Približne pred 2 mesiacmi
Super rozhovor so zaujímavým človekom... v oblasti rizika vojenského využitia AI aj publikoval, dostupné napr. aj tu: https://peter.santavy.cloud/data/uploads/docs/ps-etika_a_dynamika_vyuzivania_systemov_ai_v_sucasnych_ozbrojenych_konfliktoch-en.pdf. Inak nasadenie AI vo vojne je jedným z prvkov zmeny paradigmy v teologii a práve ohľadne spravodlivej vojny. PrF a CMBF k tomu mali aj projekt a konferenciu "Paradigmatická zmena v chápaní vojny a ozbrojených konfliktov z teologicko-historickej a právnej perspektívy." Lev XIV v Magnifica Humanitas nie je prvý kto kritizuje koncept spravodlivej vojny (považujúc ho za čoraz väčšmi zastaralý) už kardinál Ottaviani /vodca tradicionalistov na 2VK a autor tzv. Ottavianiho intervencie/ sa ešte krátko po vojne vyjadril, že pri tom ako moderná vojna vedie k nerozlišujúcim útokom na civilistov a masovému utrpeniu, sa dá o spravodlivosti vojny s úspechom pochybovať (a to aj pri formálnom zachovaní kritérií na jej posudzovanie). V dobe, kde už aj ciele "spolu"vyberá AI (ako v US útokoch na Irán ale prinajmenej sčasti aj pri Ukrajine) už naozaj chýba len, aby si ich aj samostatne potvrdzovala (aj tak je otázka nakoľko reálne dnes "autorizujúci človek" má kapacitu po AI opäť voľbu cieľov preskúmať, veď práve pre nedostatok kapacity a rýchlosť operácií AI výber a hľadanie cieľov deleguje). Brainrot a kognitívny úpadok vďaka AI (ale aj vďaka soc. sieťam) sú jedny z najvážnejších tém súčasnosti. A uvedomujeme si jej význam tým menej, čím väčšmi sme už dôsledkami zasiahnutí.
Tibor
Približne pred 2 mesiacmi
Dôležité súvislosti aj upozornenia. Vďaka!