OpenAI, l'organizzazione pionieristica dietro la creazione di Chat, sta intensificando il suo impegno per la sicurezza dell'intelligenza artificiale (IA). L'azienda ha recentemente presentato una nuova iniziativa dedicata ad affrontare in modo proattivo l'intero spettro dei potenziali rischi associati all'IA.
Soprannominata Preparedness, questa nuova divisione è stata annunciata il 25 ottobre e segna un progresso significativo nel OpenAIgli sforzi continui di per garantire l'implementazione sicura dell'intelligenza artificiale. Il team si concentrerà sull’identificazione e sulla mitigazione delle potenziali minacce legate all’intelligenza artificiale che abbracciano i settori chimico, biologico, radiologico e nucleare, nonché sui rischi legati alla persuasione individualizzata, alla sicurezza informatica e alla replicazione e adattamento autonomi.
Il team di preparazione, sotto la guida di Aleksander Madry, si occuperà di questioni critiche come il potenziale uso improprio dei sistemi di intelligenza artificiale di frontiera e la minaccia rappresentata da attori malintenzionati che utilizzano pesi di modelli di intelligenza artificiale rubati.
OpenAI riconosce la natura a doppio taglio della tecnologia AI. I modelli AI di frontiera, che supereranno le capacità attualmente presenti nei modelli più avanzati esistenti, hanno il potenziale per apportare benefici a tutta l'umanità", scrive l'azienda. Tuttavia, ammette anche che questi modelli comportano "rischi sempre più gravi".
Per orientarsi in questo panorama complesso, OpenAI si impegna a sviluppare un approccio solido alla preparazione ai rischi catastrofici. Questo impegno si estende alla loro strategia di reclutamento, con OpenAI che cerca attivamente individui con diverse competenze tecniche per unirsi al loro team di preparazione. L'azienda ha anche lanciato un'AI Preparedness Challenge volta a prevenire l'uso improprio di catastrofi, offrendo 25,000 $ in crediti API alle prime 10 candidature.
L'annuncio del team di preparazione segue la dichiarazione di OpenAI del luglio 2023 sui suoi piani di istituire un team dedicato ad affrontare le potenziali minacce dell'intelligenza artificiale.
Mentre l'IA continua a evolversi, sono aumentate le preoccupazioni sui suoi potenziali rischi. Alcuni temono che l'IA possa superare l'intelligenza umana, portando a conseguenze impreviste. Nonostante queste preoccupazioni, aziende come OpenAI continuano a innovare nel campo dell'IA, il che ha scatenato ulteriori dibattiti.
Nel maggio 2023, l’organizzazione no-profit Center for AI Safety ha pubblicato una lettera aperta sul rischio dell’IA, esortando la comunità globale a dare priorità alla mitigazione dei rischi di estinzione dell’IA insieme ad altri rischi su scala sociale come le pandemie e la guerra nucleare.