خمسة أخفاقات كبرى للذكاء الاصطناعي: دروس مستفادة من أخطاء الشركات

الذكاء الاصطناعي: سيف ذو حدين في عالم الأعمال

يشهد عالم الأعمال تحولاً جذرياً بفضل تقنيات الذكاء الاصطناعي، ولكنه يكشف أيضاً عن نقاط ضعف مكلفة. فبينما يثير الذكاء الاصطناعي التوليدي والأتمتة وصناعة القرارات الذكية الكثير من الحماس، فإن فعاليته تعتمد كلياً على الاستراتيجية والحوكمة والحكم البشري السليم. عند غياب هذه العناصر، يمكن للذكاء الاصطناعي أن يقوض ثقة العملاء، ويسرب البيانات الحساسة، ويخلق مشاكل قانونية، ويحول الأخطاء الصغيرة إلى خسائر فادحة. نستعرض هنا خمسة أخطاء واقعية ارتكبتها الشركات في مجال الذكاء الاصطناعي، والدروس التي يجب على كل قائد عمل استيعابها.

الخطأ الأول: هلوسات روبوتات المحادثة لدى Air Canada

في عام 2024، اضطرت شركة Air Canada الكندية لدفع تعويضات عندما قامت روبوت محادثة (chatbot) مدمج في نظام الحجز الخاص بها بإعطاء معلومات مضللة حول خصم وهمي. أبلغت بعض المصادر أن الروبوت قدم نصيحة خاطئة لأحد المسافرين المتجه لحضور جنازة جدته، مؤكداً له أنه يمكنه دفع السعر الكامل ثم التقدم بطلب استرداد قيمة الخصم لاحقاً. جاء هذا الأمر مخالفاً لسياسة الشركة، ورفضت Air Canada منح الخصم. ومع ذلك، قضت المحكمة بأنه يجب على الشركة دفع 812.02 دولار للراكب بسبب خطأ الروبوت.

الدرس المستفاد، كما لخصه رئيس منظمة حقوق مسافري الجو، غابور لوكاكس: "إذا كنتم تسلمون جزءاً من أعمالكم للذكاء الاصطناعي، فأنتم مسؤولون عما يفعله."

الخطأ الثاني: سوء تقدير التعلم الآلي لدى Zillow

عندما استخدمت Zillow، المتخصصة في خدمات العقارات، التعلم الآلي لبناء أداة لشراء المنازل وبيعها بهدف الربح، لم تكن النتائج كما هو متوقع. فقد أثبت نموذجها الخوارزمي، المصمم لتحديد أسعار الشراء والبيع المثلى لتعظيم أرباح التداول، عدم قدرته على التنبؤ بدقة بالسلوك الفوضوي لسوق العقارات. أدى ذلك إلى دفع مبالغ زائدة عن القيمة، مما أسفر عن خسائر بقيمة 500 مليون دولار.

في النهاية، تم إغلاق قسم كامل، وشطبت Zillow المشروع باعتباره درساً مكلفاً. تؤكد هذه الحادثة أن أخطاء الذكاء الاصطناعي تتضخم بسرعة، وأن الأخطاء الطفيفة أو "أخطاء التقريب" يمكن أن تتصاعد بسرعة إلى كوارث كبرى إذا تُركت دون رقابة.

الخطأ الثالث: فشل الحوكمة في Samsung

اضطرت Samsung إلى فرض قيود صارمة على استخدام موظفيها لأدوات الذكاء الاصطناعي التوليدية بعد اكتشاف قيام الموظفين بتحميل معلومات الشركة السرية. إن أي شيء يتم إدخاله في روبوتات المحادثة السحابية مثل ChatGPT يمكن أن يراه مشغلو الخدمة ويستخدم لتدريب الذكاء الاصطناعي بشكل أكبر. بعبارة أخرى، فإن مصير هذه البيانات خارج سيطرة الشركة تمامًا. سلطت قضية Samsung الضوء على نقص حاد في الحوكمة المحيطة بكيفية استخدام الذكاء الاصطناعي. للأسف، لا يزال هذا الوضع قائماً في العديد من الشركات اليوم، حيث ينتشر "الظل" لتقنيات الذكاء الاصطناعي مع استخدام الموظفين لأدوات غير معتمدة لأنها سريعة ومفيدة، بينما تترك الإرشادات والسياسات غير الواضحة الموظفين في حيرة من أمرهم بشأن ما يمكن وما لا يمكن استخدامه.

الخطأ الرابع: ضعف الرقابة البشرية لدى CNET

في مجال الصحافة، تعد الثقة بين القراء والناشرين أمراً بالغ الأهمية، وقد أضرت شبكة الأخبار التقنية CNET بهذه الثقة من خلال مقالاتها التي تم إنشاؤها بواسطة الذكاء الاصطناعي. زادت الشكاوى المتعلقة بعدم الدقة بشكل كبير بعد أن بدأت الشركة في تضمين شروحات مولدة بالذكاء الاصطناعي إلى جانب المقالات والمراجعات. وخلص تحقيق لاحق إلى وجود أخطاء في 41 مقالاً من أصل 77 مقالاً تم إنشاؤها بواسطة الذكاء الاصطناعي. بالإضافة إلى فقدان الثقة، فإن الحاجة إلى قضاء الكتاب البشريين وقتاً طويلاً في نشر تصحيحات مطولة أضافت بلا شك إلى الضرر، وهي تكلفة إجمالية غير معروفة. الدرس المستفاد هنا هو ضرورة وجود عمليات قوية لضمان خضوع محتوى الذكاء الاصطناعي للمراجعة والإشراف البشري.

الخطأ الخامس: عدم تطابق الضجيج الإعلامي مع الواقع في IBM

تمثل منصة Watson Health من IBM تحذيراً لأولئك الذين يميلون إلى الإثارة المفرطة بالإمكانيات غير المثبتة. أنفقت IBM مليارات الدولارات في بناء وتسويق تقنيات الذكاء الاصطناعي الصحية الخاصة بها، وبينما كانت التوقعات عالية، لم تتطابق النتائج مع الواقع. قدمت التكنولوجيا نتائج غير متسقة، وتوقف التبني، وتبددت الثقة. في النهاية، باعت IBM منصة Watson Health، التي كانت تضم في وقت ما 7000 موظف، وأدركت أن انتظار التحقق من النتائج قبل إعلان جاهزية المنتج للسوق يعد فكرة جيدة على الأرجح.

نظرة مستقبلية: الحذر والتعلم من الأخطاء

على الرغم من تسريع الجهود المبذولة لوضع لوائح ومبادئ توجيهية وممارسات مسؤولة للذكاء الاصطناعي، إلا أننا سنشهد بالتأكيد المزيد من الشركات التي ترتكب أخطاء جسيمة متعلقة بالذكاء الاصطناعي في المستقبل القريب. قد ترتكب الشركات أخطاء بسبب الاندفاع في تبني التقنية بسرعة خوفاً من التخلف عن الركب، أو قد يكون ذلك بسبب عدم التوافق على مستوى المنظمة بأكملها فيما يتعلق بحوكمة الذكاء الاصطناعي والإشراف عليه.

إن فهم الأسباب الشائعة للأخطاء والتعلم ممن ارتكبوها سابقاً سيساعد الشركات على الاستعداد لتجنبها أو تقليل الآثار المترتبة عليها عندما لا يمكن تجنبها.