OpenAI，Chat背後的先驅組織，正在加強其對人工智慧（AI）安全的承諾。該公司最近宣布了一項新計劃，致力於主動應對與AI相關的各種潛在風險。
這個被稱為「準備」的新穎部門於 25 月 XNUMX 日宣布，標誌著在 OpenAI不斷努力確保人工智慧的安全部署。 該團隊將專注於識別和減輕化學、生物、放射性和核子領域的潛在人工智慧威脅，以及與個人化說服、網路安全以及自主複製和適應相關的風險。
在 Aleksander Madry 的領導下，準備團隊將解決一些關鍵問題，例如前沿人工智慧系統的潛在濫用以及惡意行為者部署竊取的人工智慧模型權重所造成的威脅。
OpenAI 承認人工智慧技術的雙刃性質。前沿人工智慧模型將超越目前最先進的現有模型的能力，有潛力造福全人類。然而，它也承認這些模型帶來「越來越嚴重的風險」。
為了應對這一複雜的局勢，OpenAI 致力於開發一種穩健的方法來應對災難性風險。這項承諾延伸到了他們的招募策略中，OpenAI 積極尋找具有多種技術技能的個人加入他們的準備團隊。該公司還發起了人工智慧準備挑戰賽，旨在防止災難性的濫用，為前 25,000 名提交者提供 10 美元的 API 積分。
在此之前，OpenAI 曾在 2023 年 XNUMX 月發表聲明，表示計劃建立一支專門應對潛在人工智慧威脅的團隊。
隨著人工智慧的不斷發展，人們對其潛在風險的擔憂與日俱增。有些人擔心人工智慧可能超越人類智力，從而導致不可預見的後果。儘管有這些擔憂，但像 OpenAI 這樣的公司仍在人工智慧領域不斷創新，這引發了進一步的爭論。
2023 年 XNUMX 月，非營利組織人工智慧安全中心發表了一封關於人工智慧風險的公開信，敦促國際社會優先考慮減輕人工智慧帶來的滅絕風險以及流行病和核戰等其他社會規模的風險。