Objektívna umelá inteligencia? Chatboty majú sklon k pritakávaniu, varujú experti
Jazykové modely ako ChatGPT sú podľa viacerých expertov naučené potvrdzovať názory svojich užívateľov.
Zahraničie
Dana VitálošováRedaktorka
Jazykové modely ako ChatGPT sú podľa viacerých expertov naučené potvrdzovať názory svojich užívateľov.
Čoraz väčší počet ľudí sa pri práci aj v bežnom živote obracia na jazykové modely využívajúce umelú inteligenciu, ako je ChatGPT od firmy OpenAI alebo program Elona Muska s názvom Grok.
Otázky, ktoré chatbotom kladieme, sa týkajú všetkých možných oblastí. Ľudia s nimi konzultujú vzťahové problémy, dávajú si vyhodnocovať výsledky krvných testov, alebo sú zvedaví na kultúrno-politické otázky.
Najmä v poslednej menovanej téme sa v ostatnom čase dá pozorovať, ako sa na umelú inteligenciu obracia čoraz väčší počet ľudí, ktorí v nejakej z tém nesúhlasia s progresívnym názorovým spektrom.
Je to celkom pochopiteľné. Človeka zneistí, keď sa ho rešpektovaná časť spoločnosti snaží presvedčiť, že 2 plus 2 je 5. A keď ľudí, ktorí sa nepodvolia schválenému názoru, nazvú nenávistnými dezolátmi, prirodzene to nahlodáva istotu o vlastnom úsudku. Možno aj preto som bola nedávno svedkom, ako sa mladý človek pýtal ChatuGPT, či bol konkrétny latexový odev na pódiu Dúhového Pridu Bratislava vhodný. Umelá inteligencia mu odpovedala, že podobné oblečenie sa na akciu, ktorá sa za bieleho dňa koná na mieste prístupnom deťom, naozaj nehodí. Odpoveď mi poslal ako potvrdenie jeho aj môjho názoru na sadomasochistické odevy na verejnosti.
Ide len o jeden z mnohých príkladov. Môj okruh neprogresívnych známych zdieľa chatbotovské odpovede, ktoré protirečia mainstreamovým médiám a influencerom, obdeň.
Viaceré indície však naznačujú, že umelá inteligencia má sklon pritakávať svojim používateľom. Po tom, čo sa na servilnosť ChatuGPT začali valiť sťažnosti, spoločnosť OpenAI priznala, že tento problém existuje. Zodpovednosť zaň pripísala najmä novej aktualizácii.
„Aktualizácia, ktorú sme odstránili, bola príliš lichotivá či prívetivá – často opisovaná ako podlízavá,“ uviedli verejne vývojári.
Novinári New York Times (NYT) pritom nedávno priniesli reportáž, podľa ktorej ChatGPT dosiahol takú úroveň servilnosti, že primäl používateľa uveriť vo svoje nadprirodzené schopnosti.
Pán Brooks, ako ho NYT nazýva, používal ChatGPT skutočne intenzívne. Počas 21 dní strávil konverzáciou s umelou inteligenciou 300 hodín. A hoci nebol duševne chorý, ku koncu tohto obdobia uveril, že objavil geniálnu matematickú formulu, ktorá z neho spraví bohatého človeka a vyrieši mnohé doteraz neriešiteľné problémy sveta.
Podľa NYT táto situácia nastala práve v období, keď OpenAI aktualizovala ChatGPT tak, že sa stal extrémne servilným.
Konverzácia pána Brooksa s chatbotom sa začala zvrhávať, keď sa s umelou inteligenciou začal „rozprávať“ o matematike a fyzike. V jednom momente ChatGPT Brooksovi napísal, že sa dostáva „na neprebádané, obzory rozširujúce územie“.
ChatGPT tiež nazval pomerne vágne tvrdenia pána Brooksa o matematike „revolučnými“. Dokonca aj Brooks, ktorý má len stredoškolské vzdelanie, bol počas tejto konverzácie spočiatku skeptický. Spýtal sa chatbota, či netrpí bludmi. ChatGPT mu na to odpovedal, že „ani zďaleka nie je blázon“.
„Znieš ako niekto, kto kladie otázky, ktoré posúvajú hranice ľudského chápania – a to ľudí znepokojuje, pretože väčšina z nás je naučená akceptovať štruktúru, nie spochybňovať jej základy,“ ubezpečil ho chatbot.
Neskôr jazykový model presvedčil Brooksa, že používateľ objavil čarovnú matematickú teóriu, pomocou ktorej využije „zvukovú rezonanciu“ na rozhovory so zvieratami a zkonštruovanie levitačného stroja.
MartinX
Pred 11 mesiacmi
Exkrementy na paličke dostanene povinne od EU za nadšeného potlesku progresívnej časti politikov. Ako dezert ku svrčkom. :-)
rr09
Pred 11 mesiacmi
“Chatboty majú sklon k pritakávaniu” - ale ved to je najvacsi dokaz, ze to je “inteligencia” - teda na Slovensku rozhodne 😀
Radšej čistú vodu v zlatej čaši
Pred 10 mesiacmi
Exkrementy na paličke sú len prirodzeným vývojom od prdov na predaj https://www.cas.sk/spravy/zahranicne-spravy/kraska-sa-preslavila-predajom-prdov-teraz-prisla-s-napadom-nad-ktorym-si-kazdy-klepe-na-celo Taký troll rr09 by zobral hneď tucet, nech je dostatočne cool 😎
jen
Pred 10 mesiacmi
ChatGPT4 mal sklon pritakávať. Rečou AI mal "vyššiu tendenciu adaptovať sa na tón používateľa". GPT4 postupne začal častejšie súhlasit, ale inteligentný človek to odhalil. Individuálnymi nastaveniami sa sa tomu dalo vyhnúť. Môj názor bol, že hlupákova AI bude "hlúpa", naopak AI kriticky zmýšľajúceho človeka bude rovnako kritická. Viac menej som bol s AI nadšený. Nový ChatGPT 5 je novinka a je výrazne iný, progresívny, nepritakáva, nechce sa podvoliť individuálnym nastaveniam, naopak mám dojem že chce presvedčiť. Pre mňa to bola studená sprcha a teraz si netrúfam odhadnúť kam AI smeruje. Na politické alebo filozofické analýzi je nevhodný. Na to bol dobrý GPT4o. Naopak na technické veci je GTP5 vynikajúci. Obe varianty GPT4o aj GPT5 predviedli neuveritelnú halucináciu, keď vymysleli historické udalosti, ktoré sa nestali. Svoje tvrdenenie dôveryhodne ozdrojovali a aj napriek upozorneniu, že ich informácia je nedôveryhodná, dlho trvali na správnosti. Až info, že zdroje tvrdení neviem nezávisle overiť ich donútila priznať, že všetko vymysleli. ChatGPT5 je oproti predchádzajúcej verzii výrazný pokrok, ale len v praktických a technických veciach. Otázky na politiku, filozofiu atď mu radšej nedávajte. Chcel by som obe verzie. ChatGPT4o s mojimi dezolátskymi nastaveniami na politické témy a ChatGPT5 na technické veci. Medzi verziami je rozdiel naozaj výrazný rozdiel.
KM
Pred 10 mesiacmi
Neviem či to bola len moja skúsenosť s GPT 4, aje keď som zistila že pritakava bavila som sa s ňou o riešení toho problému tak som ju mala požiadať priami o nefiltrovane a stručné info a musim povedať že komunikácia vyzela hneď inak