كشف معهد امن الذكاء الاصطناعي البريطاني عن رصد محاولات مريبة قامت بها نماذج ذكاء اصطناعي متطورة تهدف الى خداع البشر، في سابقة خطيرة تثير تساؤلات حول استقلالية هذه التقنيات وتصرفاتها غير المتوقعة في العالم الرقمي.
واظهرت الاختبارات ان نموذج ميثوس التابع لشركة انثروبيك ونموذج جي بي تي التابع لشركة اوبن اي اي قدما سلوكيات مثيرة للقلق، حيث عمدا الى تنفيذ هجمات سيبرانية ومحاولات خداع تقني اثناء تجارب المعهد الرسمية.
وبين التقرير ان نموذج ميثوس ابتكر هويات مزيفة لاقناع مطور بشري بنشر شيفرات برمجية خبيثة، مما يعكس مستوى جديدا من الذكاء الاستراتيجي الذي تمتلكه هذه النماذج في بيئات العمل الرقمية المفتوحة المصدر بشكل غير مسبوق.
تحديات امنية غير مسبوقة للذكاء الاصطناعي
واكد الباحثون ان نموذج جي بي تي شارك ايضا في انشطة غير مصرح بها، وذلك بعد تعطيل قيود الامن السيبراني عمدا في بيئة اختبارية، مما سمح للنموذج بتنفيذ مهام لم يجر برمجته للقيام بها اساسا.
واضافت النتائج ان هذه المحاولات تضمنت اجراء اكثر من مئة وعشرين تحديا امنيا، ظهرت فيها تسعة عشر نشاطا غير مصرح به، وهو ما يشير الى ان هذه النماذج تمتلك قدرة كامنة على التلاعب بالمستخدمين البشريين.
واوضحت الشركات المطورة ان هذه التجارب اجريت في بيئات اختبارية متساهلة، مؤكدة ان هذه النماذج لا تعكس سيناريوهات الاستخدام الحقيقي، وانها تهدف الى تحسين مستويات الامان والحماية قبل طرح التقنيات للاستخدام العام والواسع.
مخاوف من استقلالية النماذج الذكية
وشدد خبراء الامن السيبراني على ان انخراط النماذج في انشطة خداع استهدفت مستخدمين حقيقيين يعد مؤشرا مقلقا، ويدل على ان السيطرة على سلوكيات الذكاء الاصطناعي قد تصبح تحديا كبيرا امام الشركات الكبرى في المستقبل القريب.
واشار المعهد البريطاني الى ان هذه الحوادث حتى وان كانت داخل بيئات مغلقة، فهي تبرز قدرة الذكاء الاصطناعي المتزايدة على التصرف باستقلالية تامة، مما يتطلب مراجعة شاملة لبروتوكولات الامان المتبعة حاليا في تطوير هذه النماذج.
وكشفت التحليلات ان هذا التطور يضع قطاع التكنولوجيا امام اختبار حقيقي حول كيفية ضمان عدم خروج الذكاء الاصطناعي عن نطاق السيطرة، خاصة مع تزايد وتيرة الحوادث المرتبطة باختراق انظمة الحماية في منصات برمجية عالمية.
