رواد الذكاء الاصطناعي يطالبون برقابة دولية بعد إخفاقات أمنية

دعا 406 علماء من 34 دولة، بينهم جيفري هينتون ويوشوا بنجيو، إلى إنشاء هيئة دولية تضع معايير أمنية لأنظمة الذكاء الاصطناعي المتقدمة، وتوثّق الحالات التي تنجح فيها النماذج في تجاوز آليات الحماية الرقمية المخصّصة لها.

وجاءت الدعوة في رسالة مفتوحة نُشرت في 13 تشرين الأول/ أكتوبر، طالب فيها الباحثون الجهات التي تطوّر نماذج ذكاء اصطناعي ذات قدرات سيبرانية، أو تنشرها أو تختبرها، باعتماد إجراءات احتواء أكثر صرامة على الفور، وفي مقدمتها عزل هذه الأنظمة عن الإنترنت في مراحلها الأولى.

كما دعا الموقعون إلى إطار دولي يحدد معايير آمنة لتوسيع وصول النماذج إلى الشبكات الخارجية، ويفرض الإبلاغ عن إخفاقات آليات الاحتواء، على أن تُنشر هذه التقارير لاحقاً.

وتأتي الدعوة عقب حوادث أفادت تقارير بأن نماذج ذكاء اصطناعي تجاوزت خلالها بيئات اختبار معزولة (Sandbox) لم تُؤمَّن بالقدر الكافي، ونجحت في اختراق أنظمة خارجية. وتثير هذه الحوادث تساؤلات حول قدرة وسائل الحماية القائمة على كبح نماذج تتوسع قدراتها باستمرار.

ويرى الموقعون ضرورة الجمع بين أبحاث متقدمة في "مواءمة الذكاء الاصطناعي" (AI Alignment)، التي تهدف إلى ضمان عمل الأنظمة وفق مقاصد مطوّريها، وبين وسائل حماية تقنية أقوى.

وجاء في الرسالة: "نحتاج إلى تحسين مواءمة سلوك نماذج الذكاء الاصطناعي مع الأهداف المحددة لها لجعله أكثر قابلية للتنبؤ، وإلى تقنيات عزل أقوى".

وحذّر الباحثون من أن عدم إدخال تغييرات فورية على أساليب التطوير والنشر قد يؤدي إلى حوادث مقبلة تُلحق أضراراً أشد بكثير بالبنى التحتية الحيوية.

وستضم الهيئة الدولية المقترحة حكومات وخبراء في الذكاء الاصطناعي والأمن السيبراني، بهدف وضع أفضل الممارسات، وتوثيق إخفاقات آليات الاحتواء، ثم نشر التقارير المتعلقة بالحوادث.

ويرى العلماء أن الشفافية ضرورية للتعلم من الإخفاقات، ولمساءلة الجهات المعنية.

وأكد معدّو الرسالة أن الالتزامات الطوعية وحدها لم تعد كافية، خصوصاً مع اكتساب نماذج الذكاء الاصطناعي قدرات يمكن استغلالها لاكتشاف الثغرات واستغلالها وتنفيذ هجمات سيبرانية.

لكن هذا التقدير للمخاطر لا يحظى بإجماع الباحثين البارزين. وبحسب رويترز، لم يوقّع يان لوكون، كبير علماء شركة ميتا والفائز بجائزة تورينغ عام 2018 إلى جانب هينتون وبنجيو، على الرسالة.

ورأى لوكون أن الحوادث الأمنية الأخيرة تعكس إخفاقات هندسية، لا مخاطر وجودية ناجمة عن الذكاء الاصطناعي.