OpenAI, organisasi pelopor di balik penciptaan Chat, semakin meningkatkan komitmennya terhadap keamanan kecerdasan buatan (AI). Perusahaan ini baru-baru ini meluncurkan inisiatif baru yang didedikasikan untuk secara proaktif menangani seluruh spektrum potensi risiko yang terkait dengan AI.
Dijuluki Kesiapsiagaan, divisi baru ini diumumkan pada tanggal 25 Oktober dan menandai kemajuan signifikan dalam hal ini OpenAIupaya berkelanjutan untuk memastikan penerapan AI yang aman. Tim ini akan berkonsentrasi pada identifikasi dan mitigasi potensi ancaman AI yang mencakup domain kimia, biologi, radiologi, dan nuklir, serta risiko yang terkait dengan persuasi individual, keamanan siber, serta replikasi dan adaptasi otonom.
Tim Kesiapsiagaan, di bawah kepemimpinan Aleksander Madry, akan menjawab pertanyaan-pertanyaan kritis seperti potensi penyalahgunaan sistem AI frontier dan ancaman yang ditimbulkan oleh pelaku jahat yang menyebarkan bobot model AI curian.
OpenAI mengakui sifat teknologi AI yang bermata dua. Model AI yang lebih maju, yang akan melampaui kemampuan yang saat ini ada dalam model paling canggih yang ada, memiliki potensi untuk memberi manfaat bagi seluruh umat manusia,” tulis firma tersebut. Akan tetapi, OpenAI juga mengakui bahwa model-model ini membawa “risiko yang semakin parah.”
Untuk menavigasi lanskap yang kompleks ini, OpenAI berkomitmen untuk mengembangkan pendekatan yang kuat terhadap kesiapsiagaan risiko bencana. Komitmen ini meluas ke strategi perekrutan mereka, dengan OpenAI secara aktif mencari individu dengan berbagai keterampilan teknis untuk bergabung dengan tim Kesiapsiagaan mereka. Perusahaan tersebut juga telah meluncurkan Tantangan Kesiapsiagaan AI yang ditujukan untuk mencegah penyalahgunaan bencana, dengan menawarkan kredit API senilai $25,000 untuk 10 pengajuan teratas.
Pengumuman tim Kesiapsiagaan mengikuti pernyataan OpenAI pada Juli 2023 tentang rencananya untuk membentuk tim yang didedikasikan untuk menangani potensi ancaman AI.
Seiring terus berkembangnya AI, kekhawatiran seputar potensi risikonya pun meningkat. Sebagian orang khawatir bahwa AI dapat melampaui kecerdasan manusia, yang akan menimbulkan konsekuensi yang tidak terduga. Meskipun ada kekhawatiran ini, perusahaan seperti OpenAI terus berinovasi di bidang AI, yang telah memicu perdebatan lebih lanjut.
Pada bulan Mei 2023, organisasi nirlaba Center for AI Safety mengeluarkan surat terbuka tentang risiko AI, mendesak komunitas global untuk memprioritaskan mitigasi risiko kepunahan AI di samping risiko skala sosial lainnya seperti pandemi dan perang nuklir.