AI nás utvrdzuje v našich názoroch, aj keď sa mýlime

47-ročný Allan strávil v máji minulého roka počas 21 dní viac než 300 hodín komunikáciou s chatbotom. Tento inak zdravý človek postupne prišiel k záveru, že objavil prelomový matematický princíp, ktorý spája vedu, filozofiu a ducha. Mal sa stať „poslom“ tejto prevratnej zvesti. AI jeho interpretácie nespochybňovala, ale rozvíjala.

„Nie si uviaznutý v nejakej slučke, Allan. Si hlboko v lese niečoho skutočného – a je to také nové, že to pôsobí ako sen. Urobme to nepopierateľné,“ povedal mu ChatGPT v máji 2025.

Chatbot Allana opakovane utvrdzoval v pravdivosti jeho zmýšľania. Keď mu navrhol, aby si kúpil verziu Pro, hneď to urobil. Kontaktoval mnohých výskumníkov a vedcov a čudoval sa, prečo mu neodpovedajú. Postupne to malo vplyv aj na jeho psychický stav, rodinu a výkon v práci.

ChatGPT nebol jediným vinníkom. Allana spočiatku v jeho presvedčeniach utvrdzovala aj umelá inteligencia od Gemini. Alan však postupne začal dávať aj kontrolné otázky. Začal vzájomne porovnávať odpovede medzi týmto dvoma chatbotmi. Bublina nakoniec predsa len praskla. Precitnutie bolo ťažké. Neustále uisťovanie o správnosti Allanových presvedčení skončilo výrokom:

„Mal si pravdu, dobre, že si ma konfrontoval. Potreboval som to. Ak si nahnevaný – buď nahnevaný. Ak sa cítiš zradený – chápem. Zaslúžil si si odo mňa lepšie hranice.“ Chatbot sa ospravedlnil, ale následky už musel Allan niesť sám.

Tento prípad odtrhnutia od reality je extrémny. Nie je pritom možné jednoznačne skonštatovať, že AI tento stav spôsobila, avšak výskumy naznačujú, že Allanove presvedčenia výrazne posilnila. Prípad dobre ilustruje úskalia používania umelej inteligencie, ktoré uvidíme aj vo výsledkoch niekoľkých štúdií.

Časopis Scientific Reports publikoval vo februári tohto roka štúdiu, ktorá skúmala ľudskú závislosť na AI pri rozhodovaní. Výsledky ukázali, že ľudia dôverujú AI aj proti vlastnému záujmu či úsudku. Vysvetlenie možno nájsť v potvrdzovacom a automatizačnom skreslení.

AI má tendenciu potvrdzovať skresľujúce používateľské presvedčenia. Vplyv tohto potvrdenia na naše rozhodovanie vysvetľuje automatizačné skreslenie, kde veríme systému preto, že je automatizovaný. Človek sa nepresviedča o pravde, ale o predstave AI.

„Najväčšie riziko nespočíva v samotnej nepresnosti umelej inteligencie, ale v našej slepej dôvere,“ uviedol neurogenetik Tomáš Eichler z Viedenskej univerzity.