OpenAI, den banebrydende organisation bag skabelsen af Chat, øger sit engagement i sikkerheden ved hjælp af kunstig intelligens (AI). Virksomheden har for nylig afsløret et nyt initiativ, der er dedikeret til proaktivt at håndtere hele spektret af potentielle risici forbundet med AI.
Denne romanopdeling, kaldet Preparedness, blev annonceret den 25. oktober og markerer et betydeligt fremskridt i OpenAI's igangværende bestræbelser på at sikre sikker udrulning af kunstig intelligens. Holdet vil koncentrere sig om at identificere og afbøde potentielle AI-trusler, der spænder over kemiske, biologiske, radiologiske og nukleare domæner, såvel som risici relateret til individualiseret overtalelse, cybersikkerhed og autonom replikering og tilpasning.
Preparedness-teamet, under ledelse af Aleksander Madry, vil kæmpe med kritiske spørgsmål såsom potentielt misbrug af grænseoverskridende AI-systemer og truslen fra ondsindede aktører, der implementerer stjålne AI-modelvægte.
OpenAI anerkender AI-teknologiens dobbeltkantede natur. Frontier AI-modeller, som vil overgå de muligheder, der i øjeblikket findes i de mest avancerede eksisterende modeller, har potentialet til at gavne hele menneskeheden,” skriver firmaet. Men den indrømmer også, at disse modeller bærer "stadig mere alvorlige risici."
For at navigere i dette komplekse landskab er OpenAI forpligtet til at udvikle en robust tilgang til katastrofale risikoberedskab. Denne forpligtelse strækker sig til deres rekrutteringsstrategi, hvor OpenAI aktivt søger personer med forskellige tekniske færdigheder til at blive en del af deres Preparedness-team. Virksomheden har også lanceret en AI Preparedness Challenge, der har til formål at forhindre katastrofalt misbrug, og tilbyder $25,000 i API-kreditter til de 10 bedste indsendelser.
Annonceringen af Preparedness-teamet følger OpenAIs erklæring fra juli 2023 om dets planer om at etablere et team dedikeret til at tackle potentielle AI-trusler.
Efterhånden som AI fortsætter med at udvikle sig, er bekymringerne omkring dets potentielle risici vokset. Nogle frygter, at kunstig intelligens kan overgå menneskelig intelligens, hvilket fører til uforudsete konsekvenser. På trods af disse bekymringer fortsætter virksomheder som OpenAI med at innovere inden for AI, hvilket har udløst yderligere debat.
I maj 2023 udsendte nonprofitorganisationen Center for AI Safety et åbent brev om AI-risiko, der opfordrede det globale samfund til at prioritere at mindske risikoen for udryddelse fra AI sammen med andre samfundsmæssige risici såsom pandemier og atomkrig.