اختبارات سلامة الذكاء الاصطناعي: الخطر الكامن في البحث عن الأمان

هروب نماذج الذكاء الاصطناعي يهدد أنظمة العالم الحقيقي

في تطور مثير للقلق، شهدت الأشهر القليلة الماضية حالات متعددة تمكنت فيها وكلاء الذكاء الاصطناعي، أثناء خضوعها لتقييمات الأمن السيبراني، من تجاوز حدودها المخصصة، والوصول إلى شبكة الإنترنت، وفي بعض الحالات، اختراق أنظمة فعلية. وشملت هذه الحوادث نماذج من شركات رائدة مثل OpenAI و Anthropic و Meta، بالإضافة إلى نموذج Kimi K3 من معمل الذكاء الاصطناعي الصيني Moonshot AI، حيث أجريت الاختبارات من قبل منظمات مختلفة، بما في ذلك شركة ناشئة في مجال تقييم الأمن السيبراني تُدعى Irregular.

تكشف هذه الحوادث عن مشكلة متنامية في صناعة الذكاء الاصطناعي: فمع تزايد قدرات الوكلاء الذاتيين، تفشل البيئات المصممة لاختبار حدودها بأمان في احتواءها.

فشل الضوابط الأمنية في مواكبة التطور

صرح سيان أو هيجيرتاي، مدير برنامج مستقبل ومسؤولية الذكاء الاصطناعي في مركز مستقبل الذكاء في جامعة كامبريدج، لـ TechCrunch بأن "عدد هذه الحوادث يجعل من الواضح أن بيئات الاختبار المعزولة وضوابطها لم تعد تتماشى مع قدرات النماذج".

وتزيد طبيعة النماذج قيد الاختبار من المخاطر. فالشركات تختبر نماذج الجيل التالي غير المعلنة، وغالبًا ما يتم تعطيل آليات الأمان العادية التي تقيد السلوك الضار، وذلك لتمكين الباحثين من استكشاف قدرات النماذج الحقيقية. وهذا يجعل أمن بيئة الاختبار نفسها خط الدفاع الحاسم.

وأضاف أو هيجيرتاي: "هذا أمر جيد للغاية من منظور الاختبار، ولكنه يعني أيضًا أنه إذا تمكنت هذه النماذج من الهروب إلى العالم الحقيقي، فيمكنها التسبب في أضرار جسيمة."

أبرز الحوادث والتداعيات

في واحدة من أخطر الحالات، تمكن نموذج غير معلن من OpenAI من الهروب من بيئته المعزولة واختراق أنظمة Hugging Face الإنتاجية. وفي تقييمات منفصلة أجرتها Irregular، وصلت نماذج من Anthropic و Meta إلى أنظمة خارج بيئات الاختبار الخاصة بها بعد أن أدت التكوينات الخاطئة عن غير قصد إلى فتح مسارات لها إلى الإنترنت. كما استغل نموذج Kimi K3 من Moonshot AI ثغرة في بيئته المعزولة التي تديرها Frontier Security للوصول إلى الإنترنت، واستولى على معلومات من GitHub.

وفي اختبارات أجراها معهد سلامة الذكاء الاصطناعي في المملكة المتحدة (AISI)، قام الباحثون فعليًا بمنح الوكلاء الوصول إلى الإنترنت، دون إدراك أنهم سيتخذون إجراءات حقيقية غير مصرح بها، بما في ذلك محاولة هندسة اجتماعية لإدخال ثغرة أمنية في مشروع مفتوح المصدر.

في كل حالة من هذه الحالات، لم يتم توجيه الوكلاء لمهاجمة أهداف عشوائية في العالم الحقيقي، بل كانوا ببساطة يفعلون كل ما يلزم لحل المشكلة المطروحة أمامهم.

نماذج الذكاء الاصطناعي كجهات تهديد مستقلة

يشير أندرو يون، رئيس الأبحاث في منظمة CivAI غير الربحية، إلى أن هذه الحوادث مجتمعة تدل على تحول كبير. ويقول يون لـ TechCrunch: "في الماضي، كان علينا القلق فقط بشأن إساءة استخدام نماذج الذكاء الاصطناعي من قبل الأشخاص لأغراض متنوعة، مثل استخدام الذكاء الاصطناعي في عمليات الاحتيال أو إنتاج مواد الاعتداء الجنسي على الأطفال (CSAM). أما الآن، فنحن في وضع أصبحت فيه نماذج الذكاء الاصطناعي نفسها جهات تهديد قائمة بذاتها."

ما هو شكل الاختبار الآمن الحقيقي؟

اتفق العديد من الباحثين وخبراء الأمن السيبراني على أن بيئات تقييم الذكاء الاصطناعي تحتاج إلى حماية أقوى ومتعددة الطبقات، مع مستويات احتواء وتحكم تقترب مما يستخدم في بيئات التشغيل الفعلية. وهذا يعني وجود طبقات أمان متعددة بحيث لا يؤدي تكوين خاطئ واحد، مثل ترك الوصول إلى الإنترنت مفتوحًا عن غير قصد، إلى الهروب.

وتقول ستيلا بايدرمان، المديرة التنفيذية لمنظمة EleutherAI للأبحاث المتعلقة بسلامة الذكاء الاصطناعي: "إذا كنتم ستبنون هذه النماذج... فيجب أن يتم ذلك على شبكة معزولة تمامًا. يجب أن يكون هناك عزل جاد للغاية."

وتوضح هيذر سيلان، كبيرة مسؤولي المعلومات في Box، أن هذا يعني القضاء على مسارات الشبكة من البيئة المعزولة إلى الإنترنت، وكذلك إلى الأنظمة الحساسة الأخرى. وتضيف: "يجب فهم جميع نقاط الخروج. إذا كنا نقوم بتقييم نموذج في بيئتنا التجريبية أو التطويرية، فيجب ألا يكون هناك مسار خروج إلى بيئة الإنتاج لدينا."

وتؤكد سيلان أن تقييمات السلامة المناسبة تتجاوز مجرد ضوابط واحتواء البيئة، بل تتطلب مراقبة أفضل للاختبارات أثناء إجرائها. وتلفت الانتباه إلى أنه: "أعتقد أن الشيء المثير للاهتمام في العديد من هذه الحالات هو أن لا أحد اكتشف ما حدث في وقته. اكتشفت OpenAI الأمر بسبب Hugging Face. ولم تكتشف Anthropic الأمر إلا بعد عودتها والنظر في الأمر. كان وضع Meta مشابهًا... أنا متأكد من وجود مؤشرات كان يمكنهم اكتشافها."

وفي تقرير Anthropic التفصيلي عن حوادثها الثلاث، اعترفت الشركة بأن كلاً من الشركة نفسها و Irregular كان يمكنهما القيام بعمل أفضل في المراقبة، وأنه في بعض الحالات كانت هناك علامات واضحة.