OpenAI, organizația pionier din spatele creării Chat, își intensifică angajamentul față de siguranța inteligenței artificiale (IA). Firma a dezvăluit recent o nouă inițiativă dedicată abordării proactive a întregului spectru de riscuri potențiale asociate cu IA.
Denumită Pregătire, această nouă divizie a fost anunțată pe 25 octombrie și marchează un progres semnificativ în acest domeniu OpenAIeforturile continue ale lui pentru a asigura implementarea în siguranță a IA. Echipa se va concentra pe identificarea și atenuarea potențialelor amenințări ale inteligenței artificiale care acoperă domeniile chimice, biologice, radiologice și nucleare, precum și riscurile legate de persuasiunea individualizată, securitatea cibernetică și replicarea și adaptarea autonomă.
Echipa Preparedness, sub conducerea lui Aleksander Madry, se va confrunta cu întrebări critice, cum ar fi potențiala utilizare greșită a sistemelor AI de frontieră și amenințarea reprezentată de actorii rău intenționați care implementează ponderea modelului AI furat.
OpenAI recunoaște natura cu două margini a tehnologiei AI. Modelele Frontier AI, care vor depăși capacitățile prezente în prezent în cele mai avansate modele existente, au potențialul de a beneficia întreaga umanitate”, scrie firma. Cu toate acestea, admite, de asemenea, că aceste modele implică „riscuri din ce în ce mai severe”.
Pentru a naviga în acest peisaj complex, OpenAI se angajează să dezvolte o abordare solidă a pregătirii pentru riscuri catastrofale. Acest angajament se extinde la strategia lor de recrutare, OpenAI căutând în mod activ persoane cu abilități tehnice diverse pentru a se alătura echipei de Pregătire. Compania a lansat, de asemenea, o provocare pentru pregătirea AI, menită să prevină utilizarea greșită catastrofală, oferind 25,000 USD în credite API primelor 10 trimiteri.
Anunțul echipei de pregătire urmează declarației OpenAI din iulie 2023 despre planurile sale de a înființa o echipă dedicată combaterii potențialelor amenințări AI.
Pe măsură ce AI continuă să evolueze, preocupările legate de potențialele sale riscuri au crescut. Unii se tem că AI ar putea depăși inteligența umană, ceea ce duce la consecințe neprevăzute. În ciuda acestor preocupări, companii precum OpenAI continuă să inoveze în domeniul AI, ceea ce a stârnit dezbateri suplimentare.
În mai 2023, organizația nonprofit Center for AI Safety a emis o scrisoare deschisă privind riscul AI, îndemnând comunitatea globală să acorde prioritate atenuării riscurilor de dispariție din AI alături de alte riscuri la scară societală, cum ar fi pandemiile și războiul nuclear.