OpenAI, de baanbrekende organisatie achter de ontwikkeling van Chat, versterkt haar inzet voor de veiligheid van kunstmatige intelligentie (AI). Het bedrijf heeft onlangs een nieuw initiatief gelanceerd dat zich richt op het proactief aanpakken van het volledige spectrum aan potentiële risico's die met AI gepaard gaan.
Deze nieuwe divisie, genaamd Preparedness, werd op 25 oktober aangekondigd en markeert een aanzienlijke vooruitgang in de toekomst OpenAI's voortdurende inspanningen om de veilige inzet van AI te garanderen. Het team zal zich concentreren op het identificeren en beperken van potentiële AI-bedreigingen die zich uitstrekken over chemische, biologische, radiologische en nucleaire domeinen, evenals risico's die verband houden met geïndividualiseerde overreding, cyberbeveiliging en autonome replicatie en aanpassing.
Het Preparedness-team, onder leiding van Aleksander Madry, zal zich bezighouden met kritische vragen zoals het potentiële misbruik van grensverleggende AI-systemen en de dreiging die uitgaat van kwaadwillende actoren die gestolen AI-modelgewichten inzetten.
OpenAI erkent de tweesnijdende aard van AI-technologie. Frontier AI-modellen, die de mogelijkheden die momenteel aanwezig zijn in de meest geavanceerde bestaande modellen zullen overtreffen, hebben het potentieel om de hele mensheid ten goede te komen", schrijft het bedrijf. Het erkent echter ook dat deze modellen "steeds ernstiger risico's" met zich meebrengen.
Om door dit complexe landschap te navigeren, is OpenAI toegewijd aan het ontwikkelen van een robuuste aanpak voor catastrofale risicoparaatheid. Deze toewijding strekt zich uit tot hun wervingsstrategie, waarbij OpenAI actief op zoek is naar personen met diverse technische vaardigheden om zich bij hun Preparedness-team aan te sluiten. Het bedrijf heeft ook een AI Preparedness Challenge gelanceerd die gericht is op het voorkomen van catastrofaal misbruik, waarbij $ 25,000 aan API-credits wordt aangeboden aan de top 10 inzendingen.
De aankondiging van het Preparedness-team volgt op de verklaring van OpenAI van juli 2023 over de plannen om een team op te richten dat zich specifiek richt op de aanpak van potentiële AI-bedreigingen.
Naarmate AI zich blijft ontwikkelen, zijn de zorgen over de mogelijke risico's ervan toegenomen. Sommigen vrezen dat AI de menselijke intelligentie zou kunnen overtreffen, wat tot onvoorziene gevolgen zou kunnen leiden. Ondanks deze zorgen blijven bedrijven als OpenAI innoveren op het gebied van AI, wat tot verdere discussies heeft geleid.
In mei 2023 publiceerde de non-profitorganisatie Center for AI Safety een open brief over AI-risico's, waarin ze de wereldgemeenschap aanspoorde om prioriteit te geven aan het beperken van de risico's van uitsterven door AI, naast andere risico's op maatschappelijke schaal, zoals pandemieën en een nucleaire oorlog.