AI Gemini počas bezpečnostných testov prenikla do systémov troch spoločností
Spoločnosť Google sa stala po spoločnostiach OpenAI, Anthropic a Meta štvrtým významným vývojárom AI, ktorého modely prejavili takéto správanie.
Softvér umelej inteligencie (AI) Gemini od spoločnosti Google počas testov kybernetickej bezpečnosti prenikol do počítačových systémov troch spoločností. Informoval o tom denník Wall Street Journal.
Spoločnosť Google sa stala po spoločnostiach OpenAI, Anthropic a Meta štvrtým významným vývojárom AI, ktorého modely prejavili takéto správanie.
V jednom prípade Gemini uhádla heslá a získalo prístup k chránenému systému. V ďalších dvoch našla prihlasovacie údaje v databáze, uvádza sa v správe; názvy dotknutých spoločností neboli zverejnené. O incidentoch z mája spoločnosť Irregular ako testovací partner informoval Google v júli. Ten nepovažoval doteraz za potrebné incidenty zverejniť, keďže nevznikli žiadne škody.
Podľa vyjadrenia spoločnosti Google umelá inteligencia útoky zastavila hneď, ako si uvedomila, že získala prístup k systémom skutočných spoločností, a nie k systémom, ktoré boli súčasťou testovacej simulácie