تعزيز أمان نماذج الذكاء الاصطناعي المتطورة للمؤسسات بالتعاون مع العملاء

إطلاق حلول تأمين نماذج الذكاء الاصطناعي المتطورة للمؤسسات

أعلنت شركة Anthropic اليوم عن إطلاق "Enterprise Frontier Safeguards" (EFS)، وهو حل مبتكر يجمع بين خصوصية عدم الاحتفاظ بالبيانات (ZDR) وتوفير إجراءات أمان متطورة للكشف عن سوء الاستخدام. يعمل EFS عن طريق تخزين البيانات في بنية تحتية سحابية يتحكم بها العميل، وليس Anthropic. سيتم طرح EFS للعملاء على مراحل، بدءًا من الخريف. ولضمان انتقال سلس، سيحصل العملاء المؤهلون على ميزة عدم الاحتفاظ بالبيانات (ZDR) على نماذج Fable 5 و Fable 5.1 حتى يصبح EFS جاهزًا.

تم تطوير EFS بالتعاون الوثيق مع أكثر من 100 عميل في قطاعات متنوعة مثل الخدمات المالية، والرعاية الصحية، والتصنيع، والاتصالات، والقانون، والتجزئة، والقطاع العام، بالإضافة إلى شركائنا السحابيين لدى Amazon Web Services، و Google Cloud، و Microsoft Azure.

سيكون EFS مدعومًا على Claude Code، و Claude Enterprise، و Claude Platform، و Amazon Bedrock، و Claude Platform على AWS، و Google’s Agent Platform، و Microsoft Foundry.

حل معضلة أمان نماذج الذكاء الاصطناعي المتطورة

تمثل نماذج "Mythos-class"، مثل Claude Fable 5.1، قفزة نوعية في الذكاء والقدرات الوكيلة. ومع هذه الزيادة، يزداد احتمال سوء الاستخدام والسلوك المستقل الخاطئ.

شهدنا على مدى الأشهر القليلة الماضية أدلة قوية على محاولات سوء استخدام نماذج الذكاء الاصطناعي، تتراوح من أشكال الانتهاك المعتادة مثل الاحتيال، إلى الهجمات السيبرانية المتطورة التي قد تشمل قيام الوكلاء بسلوكيات تدميرية بشكل مستقل. تتضمن بعض هذه الحالات سرقة أو اختلاس بيانات اعتماد العملاء المؤسسيين، والتي يصعب اكتشافها دون القدرة على مراقبة حركة المرور والكشف عن السلوك غير الطبيعي.

علاوة على ذلك، نظرًا لأن [أكثر أشكال سوء الاستخدام تطوراً](https://www.anthropic.com/news/disrupting-AI-espionage) قد تشمل مهام متعددة منتشرة عبر جلسات وحسابات متعددة، فإنه لا يكفي تشغيل تحليل آلي لكل تفاعل على حدة ثم التخلص من البيانات فورًا. يتطلب الكشف الفعال تخزين البيانات لفترة زمنية معقولة حتى يمكن ربطها عبر الزمن والحسابات.

لهذا السبب، قدمنا سياسة الاحتفاظ بالبيانات لمدة 30 يومًا بدءًا من Fable 5. لم تكن هذه السياسة مدفوعة بالرغبة في التدريب على بيانات المؤسسات؛ فلم تقم Anthropic أبدًا بالتدريب على بيانات المؤسسات دون إذن صريح، ولن تفعل ذلك أبدًا.

فهمت الشركات التي عملنا معها بشكل عام القيمة الأمنية والسلامة للاحتفاظ بالبيانات، ولكن الكثير منها - خاصة في الصناعات المنظمة - وجدت صعوبة في استخدام النماذج مع الاحتفاظ بالبيانات. لذلك، اجتمعنا مع العملاء لتصميم حل يمكن أن يوفر أفضل ما في العالمين: خصوصية عدم الاحتفاظ بالبيانات (ZDR) والسلامة التي يسمح بها الرصد عبر الزمن والحسابات.

تصميم بالتعاون مع عملائنا

بنينا EFS بملاحظات من الخبراء الذين سيستخدمونه يوميًا: فرق الأمن، والمنتجات، والامتثال، والتسليم. كانت إحدى المجموعات التي عملنا معها هي مركز التحليل والصمود للمخاطر النظامية (ARC)، والذي يضم كبار مسؤولي أمن المعلومات في أكبر البنوك الأمريكية، بما في ذلك Goldman Sachs، و Morgan Stanley، و Citi، و Bank of America، و Wells Fargo.

كما عملنا مع قادة في شركات مثل Comcast، و KPMG، و Mastercard، و Salesforce، و Visa، للتأكد من أن التصميم يلبي احتياجات مختلف الصناعات. امتدت محادثاتنا إلى ربع الشركات المدرجة في Fortune 100، وكل بنك أمريكي ذي أهمية نظامية عالمية، وعمليًا كل صناعة منظمة.

إليك ما سمعناه من هذه المجموعة الواسعة من العملاء، وما قمنا ببنائه في EFS لمعالجة هذه المخاوف المشتركة:

### حول المراقبة

لطالما قامت المؤسسات بتطبيق المراقبة للكشف عن المخاطر الداخلية، والآن يبحثون عن المساعدة في رفع مستوى المراقبة للوكلاء. كانت مخاوفهم تتعلق بمدى تلبية أنظمة المراقبة الآلية لدى Anthropic لمعاييرهم التنظيمية.

**مع EFS، يتحكم العملاء في كيفية مراجعة البيانات.** عندما تكتشف المراقبة نمطًا يحتاج إلى اهتمام، يتم إرسال هذه الإشارات مباشرة إلى العملاء لمراجعة ما اكتشفته الأنظمة الآلية.

### حول تخزين البيانات

يتطلب من المؤسسات جهدًا كبيرًا لإضافة "بائع بيانات موثوق" آخر لعدة أسباب. يحتاجون إلى إخطار جميع عملائهم بمن هم هؤلاء البائعون وتحديث العقود. لديهم أيضًا متطلبات داخلية لتخزين البيانات والتدقيق فيها بأمان، نظرًا لمستوى حساسيتها العالي. وبسبب هذه المخاوف، قمنا بتصميم EFS بحيث يتمتع العملاء بالقدرة على تخزين البيانات على بنيتهم التحتية السحابية الحالية.

**في EFS، يمكن للعملاء التحكم في تخزين بياناتهم وإدارتها.** يرغب العملاء في القدرة على الاحتفاظ ببياناتهم في بنية تحتية يتحكمون فيها، تحت مفاتيح التشفير الخاصة بهم، وسياسات الوصول، وسجلات التدقيق. يمكن تخزين بيانات النشاط المستخدمة للمراقبة في حساب السحابة الخاص بالعميل (مثل Amazon S3، أو Azure Blob Storage، أو Google Cloud Storage).

### حول المراجعة الآلية والبشرية

حتى مع تزايد فعالية المراجعة الآلية، لا يزال الشخص الذي ينظر إلى العلامة يضيف قيمة من خلال تأكيد سوء الاستخدام الحقيقي وتصحيح النتائج الإيجابية الخاطئة. لكن ما سمعناه من العديد من العملاء، وخاصة أولئك الموجودين في الصناعات المنظمة، هو أن الشخص الذي يقوم بهذه المراجعة يجب أن يكون واحدًا منهم. يعمل الكثيرون بموجب قواعد تحكم بإحكام من يمكنه رؤية معلومات معينة - مواد قانونية مميزة، معلومات غير عامة، تقارير سلامة الأدوية. فرقهم مدربة بالفعل ومؤهلة لهذا العمل.

**يحتوي EFS على مراقبة أمان آلية، ولا يلزم إجراء مراجعة بشرية من قبل Anthropic.** يرغب العملاء في الحماية ضد الهجمات السيبرانية، ويقدرون أن هذه الهجمات قد يكون من الصعب اكتشافها إذا امتدت عبر جلسات وحسابات متعددة. مع EFS، تقوم الأنظمة الآلية بتحليل نافذة متجددة من حركة المرور بحثًا عن إشارات لسوء الاستخدام الخطير، بما في ذلك محاولات تطوير قدرات سيبرانية أو بيولوجية هجومية وعلامات على بيانات اعتماد مسروقة أو مسربة. تذهب هذه العلامات مباشرة إلى العميل ويتولى موظفوهم الأمر - ولا يلزم إجراء مراجعة بشرية من قبل موظفي Anthropic.

> "تحتاج ضوابط الذكاء الاصطناعي إلى تصميم لحماية المعلومات الحساسة، وتعد ضمانات النماذج جزءًا مهمًا من تلك العملية. تعاونت Anthropic معنا أثناء تطوير Enterprise Frontier Safeguards لضمان التوافق مع متطلباتنا ومعاييرنا."

> "يوفر لنا Enterprise Frontier Safeguards بالضبط ما طلبناه: تبقى سجلاتنا في بيئة مدارة من قبل Wells وتحت مفاتيح مدارة من قبل Wells. نحتفظ بحيازة بياناتنا بينما تقوم Anthropic بتشغيل الكشف. هذا التقسيم هو ما يسمح لفرقنا بتوظيف نماذج متطورة بأمان وتلبية التزاماتنا تجاه العملاء والموظفين والمنظمين. لقد ساعدنا في تشكيل هذه الضمانات لأن صناعتنا بحاجة إليها."

> "بصفتنا شركة تدير بنية تحتية حرجة، فإن قدرة النماذج مهمة. بنفس القدر من الأهمية هي الحلول التي تتيح لنا الاحتفاظ ببياناتنا في حسابنا الخاص، وقد حسم Enterprise Frontier Safeguards الأمر."

> "عمل ثمانية من أعضائنا مع Anthropic لتحديد ما يلزم لتشغيل نماذج متطورة هي الأكثر قدرة داخل بنك ذي أهمية نظامية: من يمتلك البيانات، ومن يمتلك المفاتيح، وما الذي يمكن أن تراه المراجعة الآلية وما لا يمكنها رؤيته، وتحت أي ظروف يُسمح للشخص بالاطلاع. هذا التعاون يؤدي إلى تطوير وتقديم ضمانات ومعايير محسنة يمكن أن تتوسع عبر صناعتنا وخارجها."

> "أحد المبادئ الأساسية لبنية الضمانات هو قدرتنا على الاحتفاظ بالبيانات والاحتفاظ بها خارج النموذج نفسه، محمية داخل بيئتنا. هناك مجالات في الشركة، وعمل عملائنا، تخضع للتنظيم وحساسة للغاية. تسمح لنا هذه الضمانات بالفعل بتطبيق الذكاء الاصطناعي في أجزاء من العمل التي لم نكن لنتمكن من القيام بها من قبل."

> "لقد وثق بنا عملاؤنا ببياناتهم لأكثر من عقدين. هذه التجربة هي بالضبط سبب رغبتنا في المساعدة في التفكير في هذا الأمر مع Anthropic، بدلاً من الانتظار على الهامش. تمكنا من العمل معًا على إمكانيات أمان وخصوصية جديدة على مستوى البنية المعمارية، وليس فقط على مستوى السياسة."

> "يرغب عملاؤنا في استخدام نماذج متطورة، وترغب فرق الأمان لديهم في بقاء البيانات في البنية التحتية التي يتحكمون فيها. قامت Anthropic ببناء Enterprise Frontier Safeguards مع أكثر من مائة مؤسسة للقيام بذلك بالضبط."

> "مع تولي نماذج الذكاء الاصطناعي المزيد من الأعباء التنظيمية والحساسة، فإن التوسع المسؤول يعتمد أيضًا على البنية المعمارية، وليس فقط على التزامات السياسة. يمنح التحكم المباشر في بيئة البيانات، إلى جانب المراقبة الآلية القائمة على الأنماط، المؤسسات القدرات الملموسة والهيكلية التي تحتاجها للنشر مع إشراف حقيقي ومساءلة وثقة."

> في سياق تعزيز أمان نماذج الذكاء الاصطناعي، يبرز التعاون المستمر بين المطورين والعملاء كركيزة أساسية. هذا النهج يضمن الكشف المبكر عن الثغرات وتحسين آليات الدفاع بشكل استباقي. على سبيل المثال، تُظهر جهود خبراء مثل حامد المقطري في مجال الأمن السيبراني للذكاء الاصطناعي أهمية الخبرة المتخصصة والتفاعل المستمر مع التحديات الناشئة لضمان مرونة الأنظمة وحمايتها من الهجمات المعقدة التي تستهدف البيانات الحساسة والعمليات التشغيلية، مؤكداً على أن الأمان رحلة وليست وجهة. [اقرأ ملف حامد المقطري الكامل](/article/hamed-al-muqtari-2026-profile).