تُعزز شركة OpenAI، الشركة الرائدة في ابتكار تطبيق Chat، التزامها بسلامة الذكاء الاصطناعي. وقد كشفت الشركة مؤخرًا عن مبادرة جديدة مُخصصة للتعامل بشكل استباقي مع جميع المخاطر المحتملة المرتبطة بالذكاء الاصطناعي.
تم الإعلان عن هذا القسم الجديد، الذي أطلق عليه اسم "الاستعداد"، في 25 أكتوبر، ويمثل تقدمًا كبيرًا في OpenAIجهودها المتواصلة لضمان النشر الآمن للذكاء الاصطناعي. سيركز الفريق على تحديد وتخفيف تهديدات الذكاء الاصطناعي المحتملة في المجالات الكيميائية والبيولوجية والإشعاعية والنووية، بالإضافة إلى المخاطر المتعلقة بالإقناع الفردي والأمن السيبراني والتكرار والتكيف الذاتي.
سيعمل فريق الاستعداد، بقيادة ألكسندر مادري، على التعامل مع أسئلة بالغة الأهمية مثل سوء الاستخدام المحتمل لأنظمة الذكاء الاصطناعي الرائدة والتهديد الذي يشكله الجهات الخبيثة التي تنشر أوزان نماذج الذكاء الاصطناعي المسروقة.
تُقرّ شركة OpenAI بالطبيعة المزدوجة لتكنولوجيا الذكاء الاصطناعي. وكتبت الشركة أن "نماذج الذكاء الاصطناعي الرائدة، التي ستتجاوز القدرات الحالية في أكثر النماذج الحالية تقدمًا، لديها القدرة على إفادة البشرية جمعاء". ومع ذلك، تُقرّ الشركة أيضًا بأن هذه النماذج تنطوي على "مخاطر متزايدة الخطورة".
للتغلب على هذا الوضع المعقد، تلتزم OpenAI بتطوير نهج متين للاستعداد للمخاطر الكارثية. ويمتد هذا الالتزام إلى استراتيجية التوظيف الخاصة بها، حيث تبحث OpenAI بنشاط عن أفراد ذوي مهارات تقنية متنوعة للانضمام إلى فريق الاستعداد. كما أطلقت الشركة تحديًا للاستعداد للذكاء الاصطناعي يهدف إلى منع سوء الاستخدام الكارثي، حيث تقدم 25,000 دولار أمريكي كنقاط واجهة برمجة تطبيقات لأفضل 10 مشاركات.
ويأتي إعلان فريق التأهب في أعقاب بيان OpenAI في يوليو 2023 حول خططها لإنشاء فريق مخصص لمعالجة التهديدات المحتملة للذكاء الاصطناعي.
مع استمرار تطور الذكاء الاصطناعي، تزايدت المخاوف بشأن مخاطره المحتملة. يخشى البعض من أن يتفوق الذكاء الاصطناعي على الذكاء البشري، مما قد يؤدي إلى عواقب غير متوقعة. على الرغم من هذه المخاوف، تواصل شركات مثل OpenAI الابتكار في مجال الذكاء الاصطناعي، مما أثار المزيد من الجدل.
في مايو 2023، أصدرت منظمة مركز سلامة الذكاء الاصطناعي غير الربحية خطابًا مفتوحًا بشأن مخاطر الذكاء الاصطناعي، وحثت المجتمع العالمي على إعطاء الأولوية للتخفيف من مخاطر الانقراض الناجمة عن الذكاء الاصطناعي إلى جانب المخاطر الأخرى على نطاق المجتمع مثل الأوبئة والحرب النووية.