OpenAI, tổ chức tiên phong đằng sau việc tạo ra Chat, đang đẩy mạnh cam kết về an toàn trí tuệ nhân tạo (AI). Công ty gần đây đã công bố một sáng kiến mới nhằm chủ động giải quyết toàn bộ các rủi ro tiềm ẩn liên quan đến AI.
Được mệnh danh là Sự sẵn sàng, bộ phận mới lạ này đã được công bố vào ngày 25 tháng XNUMX và đánh dấu một bước tiến đáng kể trong OpenAInhững nỗ lực không ngừng của chúng tôi để đảm bảo triển khai AI một cách an toàn. Nhóm sẽ tập trung vào việc xác định và giảm thiểu các mối đe dọa AI tiềm ẩn trải rộng trên các lĩnh vực hóa học, sinh học, phóng xạ và hạt nhân, cũng như các rủi ro liên quan đến thuyết phục cá nhân, an ninh mạng cũng như khả năng nhân rộng và thích ứng tự động.
Nhóm Chuẩn bị, dưới sự lãnh đạo của Aleksander Madry, sẽ giải quyết các câu hỏi quan trọng như khả năng lạm dụng các hệ thống AI biên giới và mối đe dọa do các tác nhân độc hại triển khai trọng lượng mô hình AI bị đánh cắp.
OpenAI thừa nhận bản chất hai lưỡi của công nghệ AI. Các mô hình AI tiên tiến, sẽ vượt qua khả năng hiện có trong các mô hình tiên tiến nhất hiện có, có tiềm năng mang lại lợi ích cho toàn thể nhân loại", công ty viết. Tuy nhiên, công ty cũng thừa nhận rằng các mô hình này mang "rủi ro ngày càng nghiêm trọng".
Để điều hướng bối cảnh phức tạp này, OpenAI cam kết phát triển một phương pháp tiếp cận mạnh mẽ để chuẩn bị ứng phó với rủi ro thảm họa. Cam kết này mở rộng đến chiến lược tuyển dụng của họ, với việc OpenAI tích cực tìm kiếm những cá nhân có nhiều kỹ năng kỹ thuật khác nhau để tham gia nhóm Chuẩn bị của họ. Công ty cũng đã phát động Thử thách Chuẩn bị AI nhằm mục đích ngăn ngừa việc sử dụng sai mục đích thảm họa, cung cấp 25,000 đô la tín dụng API cho 10 bài nộp hàng đầu.
Thông báo về nhóm Chuẩn bị được đưa ra sau tuyên bố của OpenAI vào tháng 2023 năm XNUMX về kế hoạch thành lập một nhóm chuyên giải quyết các mối đe dọa tiềm ẩn từ AI.
Khi AI tiếp tục phát triển, mối lo ngại về những rủi ro tiềm ẩn của nó đã tăng lên. Một số người lo ngại rằng AI có thể vượt qua trí thông minh của con người, dẫn đến những hậu quả không lường trước được. Bất chấp những lo ngại này, các công ty như OpenAI vẫn tiếp tục đổi mới trong lĩnh vực AI, điều này đã làm dấy lên thêm nhiều cuộc tranh luận.
Vào tháng 2023 năm XNUMX, tổ chức phi lợi nhuận Trung tâm An toàn AI đã ban hành một bức thư ngỏ về rủi ro AI, kêu gọi cộng đồng toàn cầu ưu tiên giảm thiểu rủi ro tuyệt chủng từ AI bên cạnh các rủi ro quy mô xã hội khác như đại dịch và chiến tranh hạt nhân.