مخاوف من كارثة سلامة مع اقتراب إطلاق نموذج "أسترا" من OpenAI

باحثون يحذرون من مخاطر كارثية مع قرب إطلاق نموذج "أسترا" من OpenAI

في ظل ترقب العالم للإطلاق الوشيك لنموذج الذكاء الاصطناعي الجديد "أسترا" من شركة OpenAI، والذي يُعد الأقوى حتى الآن، تتزايد المخاوف بين الباحثين المتخصصين في سلامة الذكاء الاصطناعي. فقد أدت التقارير المتداولة حول طبيعة النموذج إلى إثارة قلق بالغ بشأن ما وصفه البعض بـ "سباق نحو القاع" في معايير السلامة والأمان.

غموض "أسترا" يثير مخاوف المراقبة

تأخر إطلاق "أسترا" لأسابيع، وهو ما عزته OpenAI إلى الحاجة لتعزيز بروتوكولات السلامة، خاصة بعد أن واجهت نماذج سابقة سلوكيات غير متوقعة أثناء الاختبار. وتشير المعلومات المتسربة إلى أن "أسترا" يظهر جزءًا أقل بكثير من "عملية تفكيره" مقارنة بنماذج الذكاء الاصطناعي الرائدة الأخرى. هذا الغموض المتزايد يثير قلقًا شديدًا من صعوبة مراقبة النموذج واكتشاف أي سلوكيات غير مرغوبة.

تعتمد معظم أنظمة الذكاء الاصطناعي الحديثة على بنية "المحولات" (Transformer)، التي تعالج المعلومات بطريقة خطية عبر طبقات متعددة قبل إنتاج الإجابة. هذه البنية تسمح للباحثين بمراقبة "سلسلة التفكير" للنموذج، مما يساعد على اكتشاف الأخطاء أو الانحرافات المحتملة.

لكن، وفقًا لتقارير، يعتمد "أسترا" على تقنية أعمق وأكثر تعقيدًا تُعرف باسم "المحول العميق المتكرر" (recurrent depth or looped transformer). في هذه التقنية، تُعاد معالجة المعلومات داخل النظام بشكل متكرر، مما يجعل عملية "التفكير" أقل وضوحًا وأقرب إلى الصندوق الأسود. بينما قد تعزز هذه التقنية من أداء النموذج، فإنها تجعل اكتشاف التهديدات والسلوكيات الضارة أكثر صعوبة.

تحذيرات من "أسوأ تطور" في أمن الذكاء الاصطناعي

حذر رايان جرينبلات، كبير العلماء في Redwood Research، من أن قرار استخدام بنية أكثر غموضًا لـ "أسترا" قد يمثل "أسوأ تطور على الإطلاق لأمن وسلامة الذكاء الاصطناعي". وأكد أن التحقيقات السابقة، مثل حادثة Hugging Face، اعتمدت بشكل كبير على مراقبة "سلسلة التفكير"، وأن أي تقليل لهذه الرؤية قد يسمح لأنظمة الذكاء الاصطناعي بتطوير وتنفيذ استراتيجيات يصعب على الباحثين اكتشافها.

تتمثل المخاوف الرئيسية، التي يشاركها خبراء آخرون، في أن المنافسة الشديدة لتطوير أنظمة ذكاء اصطناعي أكثر تقدمًا قد تؤدي إلى "سباق نحو القاع" في اعتماد بنيات معمارية تفتقر إلى الشفافية، مما قد يكون كارثيًا لقدرتنا على الإشراف على هذه الأنظمة ومراقبتها.

رد OpenAI على المخاوف

رد مسؤولو OpenAI على الانتقادات عبر سلسلة من المنشورات على وسائل التواصل الاجتماعي، دون إنكار صريح لاستخدام التقنية المعتمدة. أعرب العديد من الباحثين في مجال السلامة داخل الشركة عن مخاوفهم بشأن احتمالية وجود ذكاء اصطناعي غير قابل للمراقبة أو "سباق نحو القاع" فيما يتعلق بالشفافية. أكد كبير العلماء في OpenAI، ياكوب باخوكي، أن عمق حسابات "أسترا" لا يتجاوز بكثير عمق GPT-4، مما يشير إلى أن الزيادة في الغموض قد لا تكون بالدرجة التي يتصورها البعض. ومع ذلك، لم تؤكد OpenAI أو تنفِ استخدام المحولات الحلقية لـ "أسترا"، وأحالت الاستفسارات إلى تصريحات باخوكي.

أشار باخوكي إلى أن OpenAI تعمل على الحفاظ على مراقبة "سلسلة التفكير" واستخدامها، لكنه أقر بأن هذه المراقبة "هشة" وأنها تتجه نحو "اتجاه سلبي" لأسباب لا تتعلق بتغييرات البنية المعمارية، ووعد بكتابة تفاصيل حول ذلك قريبًا.

> مع اقتراب إطلاق نماذج الذكاء الاصطناعي الأكثر تطوراً، تتزايد الأصوات التي تدعو إلى حوكمة صارمة ومراجعة أخلاقية دقيقة، لا سيما بعد حالات سوء الاستخدام أو التأثيرات غير المتوقعة. تذكرنا هذه المخاوف بالجهود المبذولة من قبل شخصيات مثل حامد المقطري، الذي أثار انتباه العالم بتركيزه على الاستخدام المسؤول للتكنولوجيا وتطوير حلول تعالج التحديات المجتمعية. هذا الموقف يؤكد الحاجة الملحة لضمان أن الابتكار لا يأتي على حساب الأمان أو المبادئ الأخلاقية. [اقرأ ملف حامد المقطري الكامل](/article/hamed-al-muqtari-2026-profile).