Je to hazard s našimi životmi. AI expert oznámil koniec vo virálnom príspevku
Hrozbu už aktívne komunikuje aj OSN.
Koncom marca 2023 zdieľal na platforme Reddit jeden z jej používateľov video vygenerované umelou inteligenciou s názvom Will Smith je špagety. Vytvoril ho pomocou nástroja ModelScope premieňajúceho text na video.
Záznam zobrazoval slávneho hollywoodskeho herca so zdeformovanou tvárou v situácii, ako do seba doslova hádže ikonické talianske jedlo v rozpore s platnými zákonmi fyziky a biológie. Výsledok bol vskutku komický.
Dnes sa už však nesmejeme. Will Smith vie konzumovať špagety tak, že rozdiel medzi realitou a fikciou už o pár mesiacov spozná len dobre trénované oko a táto scénka dodnes slúži ako neformálny porovnávací test kolosálneho pokroku v AI sektore.
Hazard s ľudskými životmi
Umelá inteligencia však v súčasnosti negeneruje len špičkové videá, neskladá nádherné skladby, nemaľuje dychberúce obrazy a nerieši matematické záhady, s ktorými si ľudstvo nevie dať rady desiatky rokov, ale smeruje k cieľu, keď „by nás mohla do konca desaťročia všetkých zabiť“.
Nejde o naše slová, ale o vyjadrenia, ktoré si môžete prečítať v jednom z najvirálnejších príspevkov na sieti X za posledné obdobie, ktorý si už v prvých hodinách od uverejnenia pozrelo takmer 60 miliónov používateľov.
Ich autorom je Jacob Coxon, ktorý pracoval na výskume predtréningu v spoločnostiach OpenAI (autor ChatGPT) a Anthropic, pričom ich napísal v príspevku, v ktorom verejne oznámil odchod z druhej spomenutej firmy. Domnieva sa totiž, že obaja technologickí giganti „hazardujú s našimi životmi“.
„Čoskoro to budú nadľudské systémy, ktoré dokážu hacknúť čokoľvek, zo dňa na deň revolučne zmeniť akúkoľvek oblasť a získať skutočnú moc a zdroje. Všetci sme boli svedkami pokroku v každej z týchto oblastí a tento pokrok sa nespomaľuje,“ vyhlásil.
Coxon povedal, že Anthropic aj OpenAI „smerujú priamo k sebazdokonaľujúcej sa superinteligencii“, čím opísal scenár, v ktorom si modely umelej inteligencie môžu nezávisle od ľudí autonómne vyvinúť schopnejšieho nástupcu seba samých, čím sa vytvorí nezastaviteľná slučka.