OpenAI pre obavy o bezpečnosť nevydá svoj model GPT-Astra 6.1
Vo svete rastú obavy z bezpečnosti umelej inteligencie, keďže automatizovaní AI agenti spôsobili v uplynulom období viacero bezpečnostných incidentov.
Spoločnosť OpenAI v utorok oznámila, že ruší októbrové vydanie svojho najnovšieho modelu umelej inteligencie (AI) Astra 6.1. Podľa interného testovania tento model nespĺňa bezpečnostné normy.
Astra 6.1 bola vylepšením oproti predchádzajúcim modelom, ale „z hľadiska dodržiavania vymedzených činností a oprávnení, ako aj spôsobu, akým informuje používateľa o type vykonanej práce, úplne nespĺňala stanovené kritériá,“ uviedla vo vyhlásení vedúca oddelenia bezpečnostných systémov spoločnosti OpenAI Saachi Jainová.
„Chceme sa uistiť, že vývoj našich modelov je bezpečný, či už ide o vývoj v rámci spoločnosti, alebo o ich dodávanie používateľom. Keď však model dodávame používateľom, kladieme mimoriadne vysoké nároky na bezpečnosť a zosúladenie s ľudskými hodnotami,“ vysvetlila.