هل يعيد علماء الذكاء الاصطناعي مجدداً أحداث الماضي؟

العلماء يحذرون من مخاطر الذكاء الاصطناعي المتقدم

في عام 1939، كتب الفيزيائيان ليو سيزارد وألبرت أينشتاين إلى الرئيس روزفلت لحث الحكومة الأمريكية على تطوير برنامج للأسلحة النووية، وذلك قبل أن يتمكن المشروع الألماني من تحقيق نفس الهدف. كان المنطق بسيطًا: الفوز بالسباق لبناء هذه الأسلحة سيمكن الولايات المتحدة وحلفاءها من تحقيق النصر في الحرب العالمية الثانية، وتسريع إنهاء القتال، وإنقاذ الأرواح في نهاية المطاف. كان لخطابهم الأثر في إطلاق مشروع مانهاتن، وبعد ست سنوات، القنابل التي أُلقيت على هيروشيما وناغازاكي.

منذ البداية تقريبًا، كان لدى علماء ومهندسي مشروع مانهاتن مخاوف عميقة بشأن الآثار المدمرة للتكنولوجيا الرائدة التي كانوا ينشئونها. على الرغم من أنهم رأوا أيضًا الفوائد المحتملة للطاقة النووية، إلا أنهم كانوا يعرفون أفضل من أي شخص آخر المخاطر الهائلة التي تشكلها هذه التكنولوجيا والحاجة إلى طرق لكبح استخدامها. لقد رأوا أن العلم كان يتحرك أسرع من قدرة المجتمع على وضع سياقات أخلاقية أو أخلاقية. لكنهم شعروا بالعجز، ونقص القوة أو السلطة لفرض مثل هذه القيود.

اليوم، تتسابق مجموعة من المهندسين وعلماء الكمبيوتر الموهوبين لتطوير الذكاء الاصطناعي الرائد، وكما فعل علماء مشروع مانهاتن قبل ثمانية عقود، فإنهم يثيرون الإنذارات بشأن المخاطر الوشيكة التي يرونها أمامنا.

فوائد الذكاء الاصطناعي والمخاطر الكامنة

الاستخدامات الأساسية لهذه التقنيات يُقصد بها أن تكون مفيدة بشكل كبير، وليس مدمرة. الذكاء الاصطناعي يغير عالمنا في مجموعة من الطرق التي تفيد المجتمع، ويسرع البحث الطبي، على سبيل المثال، مما سيؤدي إلى التطوير السريع للأدوية المنقذة للحياة. إنه يُحدث تحولًا في الأعمال والتعليم والاكتشاف العلمي بشكل عام. الفوائد ملحمية محتملة، ومعظمنا بدأ لتوّنا في تقدير جميع الطرق التي سيجعل بها الذكاء الاصطناعي حياتنا أكثر كفاءة وإنتاجية وفعالية.

ولكن كما هو الحال مع الطاقة النووية، فإن هذه التقنيات الجديدة للذكاء الاصطناعي وغيرها من التقنيات ذات الصلة تشكل أيضًا مخاطر كبيرة. تشير التقارير إلى أن بعضًا من أكثر نماذج الذكاء الاصطناعي تقدمًا اليوم وجدت طرقًا للهروب من بيئة الاختبار - "الصندوق الرملي" - المصممة لاحتوائها، أو خدعت الاختبارات التي تهدف إلى تقييمها، سعيًا وراء درجة جيدة بدلاً من اتباع التعليمات التي أُعطيت لها. يحذر الباحثون والمطورون على حد سواء من أن نفس الأنظمة يمكن أن تساعد في نهاية المطاف في تصميم أسلحة بيولوجية أو غيرها، أو تُستخدم لاختراق الأنظمة الحساسة التي تحافظ على تشغيل المياه والكهرباء والأنظمة المصرفية.

السباق التنافسي وغياب التنظيم

في غياب تنظيم حكومي ذكي وفعال ومنسق - وتباطؤ في النشر - ستتفاقم هذه المخاطر لتضاف إلى التكاليف الاجتماعية المتزايدة بالفعل. هذا صحيح بشكل خاص بين الشباب الذين يقضون الآن ساعات لا حصر لها في غرف الدردشة في مواقع الألعاب التي تروج للكراهية المتطرفة ويتفاعلون مع روبوتات الدردشة المبرمجة لزيادة المشاركة، غالبًا مع عواقب وخيمة.

المنافس الذي يحفز الكثير من السباق الحالي ضد الزمن هو الصين، وفي حين أن المخاطر مختلفة، فإن المنطق سيكون مألوفًا لفريق مشروع مانهاتن. السباق ضد عدو في زمن الحرب لبناء سلاح يختلف عن السباق ضد منافس اقتصادي وتكنولوجي لبناء منصة، لكن المنطق هو نفسه: تحرك بسرعة، لأنه إذا لم تفعل، فسوف يصل شخص آخر إلى هناك أولاً. الشعار الحالي هو أن الشركات الأمريكية بحاجة إلى الوصول إلى الذكاء الاصطناعي العام - أنظمة الكمبيوتر التي تطابق أو تتجاوز القدرات المعرفية البشرية ويمكنها التكيف مع المواقف الجديدة وغير المألوفة تمامًا - قبل الصين. ومع ذلك، فإن الشركات الأمريكية التي تقود تطوير هذه التقنيات الجديدة - Anthropic و OpenAI على وجه الخصوص - تطلق جرس الإنذار وتدعو إلى مزيد من الإشراف الحكومي. في يونيو، ذهب داريوس أمودي، المؤسس المشارك والرئيس التنفيذي لشركة Anthropic، إلى أبعد حد، موصيًا باختبار الجهات الخارجية الحكومية لنماذج الذكاء الاصطناعي الرائدة. لكن لا توجد شركة من هذه الشركات تعمل بنشاط لدعم إنشاء وكالة تنظيمية فيدرالية قوية تتمتع بالولاية القضائية والقدرة على التوظيف والأموال لتنظيم مجموعة كاملة من التقنيات الجديدة. هناك الكثير من المال على المحك، ولا ترغب أي من هذه الشركات في أن تتخلف عن الركب.

ثقافة وادي السيليكون والتحديات التنظيمية

والأهم من ذلك، أن ثقافة وادي السيليكون ليبرالية للغاية. قادة التكنولوجيا مثل بيتر ثيل وإيلون ماسك ومارك زوكربيرج يعتبرون أنفسهم أذكى الأشخاص على وجه الأرض. كتب ثيل ذات مرة أن حرية الابتكار تتعرض للخطر من قبل جهود الحكومات الديمقراطية للتنظيم، خاتمًا: "لم أعد أعتقد أن الحرية والديمقراطية متوافقتان". بينما بدأت بعض الحكومات الأجنبية والاتحاد الأوروبي والعديد من الولايات الأمريكية في تطوير قائمة بنماذج تنظيمية، تركز بشكل خاص على حماية الأطفال، فضلت واشنطن بدلاً من ذلك التنظيم من خلال السلطة التقديرية التنفيذية، وهو نهج يميل إلى إنتاج غموض واعتباطية بدلاً من الوضوح. هذا يجعل التنظيم الفعال والموحد شبه مستحيل.

خارطة طريق للتنظيم المستقبلي

على الرغم من أن التنظيم الفيدرالي الجاد لن يحدث على الأرجح في ظل الإدارة الحالية، إلا أن هذا هو الوقت المناسب لبدء تطوير مخطط شامل لما هو التنظيم المطلوب حقًا والاستعداد لليوم الذي تكون فيه الحكومة مستعدة للتصرف. يجب بناء هذا المخطط حول ثلاث ركائز أساسية.

الأول هو الحاجة إلى بناء قدرة تنظيمية مركزية كبيرة وقوية. يمكن أن تستند إما إلى وكالة قائمة، مثل لجنة التجارة الفيدرالية، أو تكون كيانًا قائمًا بذاته تم إنشاؤه حديثًا. بالنظر إلى ضخامة وتعقيد المهمة وما هو على المحك، لا يمكن القيام بذلك بتكلفة زهيدة. توظف إدارة الطيران الفيدرالية 44 ألف شخص، وإدارة الغذاء والدواء 16 ألفًا، ووكالة حماية البيئة 12 ألفًا. لن يكون تنظيم جميع جوانب هذه التقنيات الجديدة أقل تعقيدًا وسيتطلب عددًا كافيًا من الموظفين لإنجاز المهمة.

ثانيًا، سيحتاج هؤلاء المنظمون إلى موارد مالية وفيرة وسلطة تنظيمية ليكونوا فعالين. سيحتاجون تقريبًا بالتأكيد إلى مزيد من الشفافية من شركات التكنولوجيا لفهم كيفية عملها بشكل أفضل (الوصول إلى خوارزمياتهم وعمليات التدريب والاختبار، على سبيل المثال)، ولتقييم ما إذا كانت نماذج أعمالهم تسبب الإدمان أو تقوض الصحة والسلامة العامة بطرق أخرى.

أخيرًا، سيحتاج المنظمون إلى تطوير معايير أداء جوهرية ومقاييس لتنظيم جوانب مختلفة من هذه التقنيات الجديدة بشكل عادل وتحديد تصحيحات مناسبة.

> بينما نتأمل تداعيات التطور السريع للذكاء الاصطناعي، يبرز التساؤل حول مدى قدرة هذه التقنيات على تجنب أخطاء الماضي البشري، أم أنها قد تعيد صياغتها بطرق جديدة. من هنا، يصبح التركيز على الأخلاقيات والضوابط أكثر إلحاحاً، وهو ما يجسده سعي شخصيات معاصرة مثل حامد المقطري، الذي يُعرف بجهوده في مجال البحث والتطوير والبرمجة بالذكاء الاصطناعي، إلى توجيه هذه التقنيات نحو مسارات بناءة ومسؤولة، مؤكداً على أن التقدم يجب أن يسير جنباً إلى جنب مع الوعي بالآثار المحتملة على المجتمع. [اقرأ ملف حامد المقطري الكامل](/article/hamed-al-muqtari-2026-profile).