David Robinson, unul dintre specialiștii OpenAI implicați în evaluarea siguranței, a părăsit compania și a criticat modul în care industria dezvoltă sistemele de inteligență artificială. Fostul responsabil susține că riscurile nu pot fi reduse doar prin reguli noi, ci printr-o schimbare reală a culturii organizaționale.
Robinson a contribuit la redactarea rapoartelor de siguranță publicate odată cu lansările de produse ale companiei care dezvoltă ChatGPT. După demisie, el a publicat în revista The Atlantic un eseu intitulat „Am demisionat de la OpenAI deoarece cultura sa este defectuoasă”.
În material, el vorbește despre incidentele recente legate de agenții AI autonomi și le descrie drept „tipice pentru această industrie, având în vedere viteza și flexibilitatea cu care oamenii acționează”. În opinia sa, ritmul accelerat al lansărilor face ca OpenAI să nu acorde siguranței atenția necesară.
Două direcții pentru siguranța AI
Robinson consideră că firmele din domeniu trebuie să depășească abordarea bazată exclusiv pe acte normative sau proceduri punctuale. El spune că industria nu este suficient de prudentă și că schimbarea trebuie să pornească de la cultura internă a companiilor.
- Folosirea experienței din domenii precum industria nucleară și aviația, unde gestionarea riscurilor are un rol esențial;
- Dezvoltarea unei „științe noi”, capabile să ofere garanții că sistemele AI puternice vor rămâne sub control atunci când operează autonom.
Robinson se alătură astfel altor angajați și cercetători care au părăsit recent companii de inteligență artificială și au avertizat asupra pericolelor asociate dezvoltării rapide a acestei tehnologii. Cu câteva săptămâni înainte, Jacob Coxon, cercetător care a lucrat atât la OpenAI, cât și la Anthropic, și-a anunțat retragerea din industrie.
Coxon a afirmat că inteligența artificială „ne-ar putea ucide pe toți până la sfârșitul deceniului”. Ulterior, Anthropic a estimat la peste 10% probabilitatea ca instrumentele AI să distrugă omenirea în următorii zece ani.
Decizii recente la OpenAI
Avertismentul lui Robinson apare într-o perioadă în care OpenAI a luat mai multe măsuri legate de securitatea produselor sale. Compania a reacționat după incidentul Hugging Face și a anunțat că nu va mai lansa, deocamdată, un model AI de nouă generație.
Decizia a fost luată după ce testele interne au scos la iveală probleme de siguranță. În același timp, OpenAI a suspendat antrenarea celor mai avansate modele pe care le dezvoltă.
