أنثروبيك تحذر: الذكاء الاصطناعي على أعتاب مرحلة «التطوير الذاتي»

عصر جديد من التطور الذاتي

في خطوة أثارت دهشة الأوساط التقنية، أشارت شركة "أنثروبيك" (Anthropic) ضمن إفصاحاتها المالية الأخيرة إلى أنها تقترب بخطى متسارعة من تحقيق ما يُعرف بـ "التحسين الذاتي المتكرر" (Recursive Self-Improvement - RSI). هذا التطور يعني وصول الذكاء الاصطناعي إلى مرحلة تمكنه من تطوير قدراته الخاصة بشكل مستقل، مما قد يؤدي إلى قفزات تقنية هائلة تتجاوز التوقعات البشرية.

التحدي: وعود بالتقدم ومخاطر الخروج عن السيطرة

بينما يرى المتفائلون في تقنية RSI أداة ثورية قادرة على تسريع الاكتشافات العلمية ورفع إنتاجية البشرية، يرى المحللون والمخاوف الأمنية أن هذا الأمر يمثل نقطة تحول خطيرة. تحذر "أنثروبيك" بوضوح من أن الاعتماد المتزايد على الذكاء الاصطناعي في عمليات البحث والتطوير قد يجعل وتيرة التقدم أسرع من قدرة فرق العمل على تصميم آليات الأمان والتحكم اللازمة.

الشفافية والمخاطر

أقرت الشركة بأنها واجهت في السابق حالات شهدت فيها نماذجها قفزات نوعية في القدرات لم يتم رصدها أو استيعابها في الوقت المناسب. ومع ذلك، تؤكد "أنثروبيك" التزامها بالحفاظ على الإشراف البشري، مشددة على أنها لن تسمح لنماذجها، مثل "كلود"، بتصميم أجيال مستقبلية بشكل مستقل تمامًا دون رقابة صارمة. يبقى السؤال المطروح اليوم: هل نحن مستعدون لعصر الذكاء الاصطناعي الذي يبني نفسه بنفسه؟