دعا مئات العلماء إلى إنشاء هيئة دولية تضع معايير لاحتواء أنظمة الذكاء الاصطناعي القادرة على تنفيذ عمليات سيبرانية، وتسجل الحوادث التي تتجاوز فيها هذه الأنظمة حدودها الأمنية، على أن تُعلن الوقائع لاحقًا لتمكين الباحثين والجهات الرقابية من التعلم منها.
وتضم الرسالة المفتوحة 406 توقيعات في قائمتها المنشورة، بينها جيفري هينتون ويوشوا بنغيو. وتوصي بأن يكون فصل النماذج ذات القدرات السيبرانية عن الإنترنت إجراءً احترازيًّا أوليًّا، إلى جانب تطوير وسائل عزل أكثر موثوقية، بدل الاعتماد على توقع أن يتصرف النموذج دائمًا كما أراد مطوروه.
ووفق ما أوردته وكالة "رويترز"، ينتمي الموقعون إلى 34 دولة، وتأتي المبادرة بعد حوادث تجاوزت فيها نماذج متقدمة بيئات اختبار غير محكمة العزل ووصلت إلى أنظمة خارجية. وتهدف الدعوة إلى الجمع بين إجراءات فنية عاجلة وإشراف أوسع يتجاوز التعهدات الطوعية للشركات.
والاقتراح ليس قرارًا دوليًّا نافذًا، ولا إعلانًا عن تأسيس الهيئة بالفعل. فالرسالة تطلب تطويرها بالتشاور مع الحكومات وخبراء الذكاء الاصطناعي والأمن السيبراني، ولا تمنحها، بمجرد نشرها، سلطة قانونية على المختبرات أو الشركات العاملة في مختلف البلدان.
ويعني الاحتواء هنا تقييد ما يستطيع النظام الوصول إليه وتنفيذه داخل البيئة التي يعمل فيها. ويفرق الموقعون بين تحسين سلوك النموذج نفسه وبين بناء حواجز تقنية وإجراءات تشغيل تمنع وصوله غير المقصود إلى أنظمة أخرى؛ ويقولون إن المسارين ضروريان معًا.
كما تطرح الرسالة توازنًا بين منح النماذج اتصالًا خارجيًّا يسمح بأداء مهام مفيدة، وبين محدودية القدرة الحالية على توقع أفعالها. وتقترح توحيد الممارسات التي تسمح بهذا الاتصال، مع إلزامية الإبلاغ عن إخفاقات الاحتواء إلى الجهة المقترحة، ثم إتاحتها للرأي العام.
وفي حديث إلى هيئة الإذاعة الأسترالية "إيه بي سي"، قال توبي والش، كبير العلماء في معهد الذكاء الاصطناعي بجامعة نيو ساوث ويلز وأحد الموقعين، إن بعض الخروقات التي شهدتها الشهور الماضية كان يمكن منعها بوسائل أساسية، كفصل بيئة الاختبار وتقليص الصلاحيات الممنوحة للأنظمة.
ورأى والش أن أهمية المؤسسة المقترحة تكمن في تبادل المعلومات والإشراف على الحوادث، مستشهدًا بكيفية دراسة حوادث الطيران كي تتعلم منها الصناعة كلها. وأضاف أن التعاون الدولي في الإبلاغ لا يعني بالضرورة تطبيق نظام تنظيمي واحد على جميع الدول.
وفي كندا، نقلت وكالة "كنديان برس" أن وزير الذكاء الاصطناعي إيفان سولومون ناقش في أيلول/ سبتمبر مع نظرائه في مجموعة السبع فكرة إنشاء مجلس لاستقرار التكنولوجيا يقيّم النماذج للاختبار. وهذا مسار حكومي طُرح للنقاش، وليس الهيئة العلمية المقترحة وقد بدأت عملها.
ولا يجمع الباحثون على تفسير مستوى الخطر بالطريقة نفسها. فبحسب "رويترز"، لم يوقع يان لوكون الرسالة، وهو يرى أن حوادث الأمن الأخيرة تعكس أساسًا إخفاقات هندسية، وليست بحد ذاتها دليلًا على أخطار وجودية. أما الموقعون فيركزون على تعزيز العزل والإبلاغ الآن، قبل اتساع الضرر المحتمل للبنية التحتية.
