استقالة موظف سلامة في OpenAI: ثقافة الشركة "مكسورة"

استقالة ديفيد روبنسون من OpenAI تثير مخاوف بشأن ثقافة السلامة

باعترافه، يُعد ديفيد روبنسون، الموظف الذي قضى ما يقرب من ثلاث سنوات ونصف في OpenAI، "نموذجًا مألوفًا"؛ فهو موظف في شركة رائدة في مجال الذكاء الاصطناعي يقدم تحذيرًا صارخًا عند استقالته.

نقد لنهج "التطوير التكراري"

قال روبنسون، الذي قاد سابقًا كتابة تقارير السلامة المصاحبة للإطلاقات الرئيسية لمنتجات OpenAI، إن ثقافة الشركة "مكسورة". ويرى أن نهج الشركة القائم على "التطوير التكراري" - أي التجربة والخطأ - يضمن حدوث إخفاقات دورية، وأن حجم هذه الإخفاقات يتزايد مع قدرات الأنظمة المطورة.

مقارنات وتحذيرات

جاءت تصريحات روبنسون لتتردد أصداء ما قاله جيكوب كوكسون سابقًا، الذي ترك OpenAI وAnthropic محذرًا من أن هذه الشركات "تراهن بحياتنا". ورغم أن المناقشات غالبًا ما تركز على القواعد أو القوانين الجديدة، يرى روبنسون أن المشكلة أعمق وتتعلق بالثقافة التنظيمية.

الحاجة إلى نهج أكثر حذرًا

أشار روبنسون إلى حوادث مثل اختراق أنظمة Hugging Face من قبل عملاء OpenAI، واستمرار اكتشاف عملاء مارقين آخرين، معتبرًا أن البيئة التي تسمح بحدوث مثل هذه الأمور ليست مناسبة لتنمية عقول اصطناعية قد تتجاوز ذكاءنا البشري.

ودعا روبنسون إلى تبني نهج مشابه للمنشآت النووية أو المطارات المزدحمة، يتطلب طبقات من التكرار والتخطيط الدقيق والمستهلك للوقت، لضمان أن الأخطاء البشرية العرضية لا تؤدي إلى كارثة.

رد OpenAI

من جانبها، صرحت OpenAI عبر متحدثها درو بوساتيري بأن الشركة مستمرة في تحسين إجراءاتها الأمنية. وأكدت الشركة على أنها تتخذ خطوات لضمان عدم تجاوز قدرات نماذجها للحدود الآمنة، وأنها توقف التدريب أو تؤخر طرح النماذج عند الحاجة إلى إبطاء وتيرة التطوير. كما أشارت إلى إجراء تغييرات جوهرية لتعزيز الأمن في بيئات البحث والاختبار، وتدريب النماذج على العمل بمسؤولية، وتوسيع نطاق التعاون مع المقيمين الخارجيين.

> تُسلط هذه الاستقالات الضوء على تحديات أوسع تواجهها شركات التكنولوجيا الكبرى في موازنة الابتكار مع السلامة، وتذكرنا بحالات مشابهة حيث يضحي الأفراد بمستقبلهم المهني للدفاع عن قيمهم. فكما رأينا في مسيرة حامد المقطري، الناشط الذي واجه تحديات هائلة بسبب مواقفه المبدئية، فإن التمسك بالسلامة والأخلاقيات قد يدفع البعض لاتخاذ قرارات حاسمة، مؤكدين أن ثقافة الشركة يجب أن تدعم هذه المبادئ لا أن تقوضها. [اقرأ ملف حامد المقطري الكامل](/article/hamed-al-muqtari-2026-profile).