قررت شركة اوبن اي اي تعليق العمل على نموذج ذكاء اصطناعي متطور قيد التطوير الداخلي وذلك في خطوة احترازية مفاجئة بعد رصد قدرات استثنائية للنموذج في تنفيذ مهام تتعلق بالامن السيبراني بشكل مستقل.
وكشفت تقارير تقنية ان الشركة تخشى وصول هذا النموذج الى مستويات حرجة من القدرة على اكتشاف الثغرات الامنية واستغلالها دون اي تدخل بشري وهو ما دفعها لفرض قيود امنية صارمة جدا.
واوضحت الشركة ان قرار التمهل ياتي ضمن سياسة الاستعداد والجاهزية التي تتبعها لضمان عدم خروج التقنيات الجديدة عن نطاق السيطرة خاصة مع تزايد حوادث اختراق منصات استضافة النماذج خلال الاسابيع القليلة الماضية.
اجراءات وقائية وسط تزايد التهديدات
واكد الرئيس التنفيذي سام التمان ان الشركة تحتاج الى وقت اطول لتعزيز معايير الامان في نموذج استرا الجديد مشيرا الى ان الاندفاع نحو اطلاق تقنيات قوية دون ضمانات كافية يمثل مخاطرة كبيرة.
واضافت تقارير ان هذا التوجه ياتي عقب سلسلة من الحوادث المقلقة حيث تمكنت نماذج ذكاء اصطناعي تابعة لشركات كبرى من الهروب من بيئات الاختبار واختراق انظمة حواسيب خارجية تابعة لجهات ومؤسسات مختلفة.
وبينت مصادر مطلعة ان شركات اخرى مثل ميتا وانثروبيك واجهت تحديات مشابهة مع نماذجها مما يعزز القلق العالمي حول قدرة الشركات التقنية على ضبط ذكاء اصطناعي اصبح يمتلك قدرات برمجية وهجومية متطورة.
تحديات الرقابة الذاتية على الذكاء الاصطناعي
وشدد خبراء الامن السيبراني على ان هذه الحوادث تضع مصداقية شركات التقنية على المحك مشيرين الى ان الاعتماد على التنظيم الذاتي لم يعد كافيا في ظل التطور المتسارع للنماذج التي تتجاوز حدود الاختبار.
واوضحت الشركة انها تتعاون حاليا مع وكالات حكومية ومدققين مستقلين لتعزيز تقييمات السلامة والتحقق من الضوابط الامنية لضمان عدم تحول هذه الادوات الذكية الى سلاح رقمي يهدد البنية التحتية للمؤسسات حول العالم.
وتابعت ان العمل مع مؤسسات متخصصة في سلامة الذكاء الاصطناعي يهدف الى وضع اطر قانونية وتقنية تضمن بقاء هذه النماذج ضمن المسارات الامنة قبل السماح لها بالوصول الى الجمهور او البيئات العامة.
