Un responsabil cu siguranța de la OpenAI a anunțat în această săptămână decizia de a părăsi compania și a transmis un avertisment referitor la cultura organizației în domeniul dezvoltării inteligenței artificiale.
David Robinson, care a coordonat redactarea rapoartelor de siguranță pentru lansările de produse ale ChatGPT, a scris un text în care critică modul în care compania gestionează cultura internă. În materialul intitulat „Am demisionat de la OpenAI deoarece cultura sa este defectuoasă”, el subliniază necesitatea unor reforme culturale în sectorul AI, pentru a evita incidentele de siguranță.
Citește și: SpaceX depășește așteptările în raportul financiar din T2 2026: Venituri de 7,8 mld. dolari, creștere cu 92%
Robinson a atras atenția asupra faptului că recentele probleme legate de siguranța agenților AI autonomi sunt „tipice pentru această industrie, având în vedere viteza și flexibilitatea cu care acționează oamenii”. El consideră că, pe măsură ce companiile din domeniu lansează tot mai multe produse, acestea nu reușesc să mențină nivelul de atenție și prudență necesar pentru siguranță.
Recomandări pentru siguranța în AI
În opinia sa, este nevoie ca firmele din domeniu să se bazeze pe experiența în siguranță din alte sectoare, precum nuclear și aviație, și să dezvolte o „știință nouă” pentru a garanta controlul sistemelor autonome de viitor. Robinson a menționat că aceste măsuri sunt esențiale pentru a preveni riscurile asociate cu inteligența artificială avansată.
Mai mulți angajați din companii mari de AI au demisionat în ultimele săptămâni, în contextul preocupărilor legate de siguranță și etică. În ultimele săptămâni, OpenAI a suspendat lansarea unui model de nouă generație, după ce au fost semnalate probleme de siguranță în timpul testelor interne, și a renunțat temporar la anumite proiecte pentru a evalua riscurile.
Conform Mediafax.ro