أظهرت نتائج تقرير "فجوة الثقة في البيانات والذكاء الاصطناعي"، الذي استند إلى استطلاع عالمي شمل 600 من كبار التنفيذيين في قطاعات الخدمات المالية والرعاية الصحية والتصنيع والتجزئة والتكنولوجيا، أن 88% من المنظمات تستخدم أو تختبر وكلاء الذكاء الاصطناعي بالفعل. ومع ذلك، لا تتوافر سوى 7% من هذه المنظمات على الاستعداد الكامل للذكاء الاصطناعي، وهو ما يعني دمج أركان ثلاثة: الطموح، والرؤية، والحكم.
الأمر الأكثر إثارة للقلق هو أن 95% من المشاركين في الاستطلاع أشاروا إلى أن التحديات المتعلقة بالبيانات قد أعاقت بالفعل تقدمهم في تطبيق الذكاء الاصطناعي.
«لا تعاني معظم المنظمات من مشكلة في تبني الذكاء الاصطناعي»، يقول أناند إيسواران، الرئيس التنفيذي لشركة فيم. ويضيف: «إنها تعاني من مشكلة الثقة في الذكاء الاصطناعي. كانت المرحلة الأولى من الذكاء الاصطناعي محكومة بالاستثمار في البنية التحتية والتجارب والتسارع. أما المرحلة القادمة فستُعرّف بثقة. ومع التوسع في استخدام وكلاء الذكاء الاصطناعي المستقلين، التي تعمل بسرعات آلية، يتحول السؤال من «هل يمكنك استخدام الذكاء الاصطناعي؟» إلى «هل يمكنك ضمان أن جميع بياناتك آمنة، ومحكومة، ومتوافقة، ومرنة؟» وإذا حدث خطأ ما، هل يمكنك استعادتها بدقة؟ هذا هو السبيل لتعزيز الذكاء الاصطناعي بأمان على نطاق واسع دون تسريع المخاطر التشغيلية والمعنوية».
مشكلة عدم توافق القيادة في الذكاء الاصطناعي
كشفت الدراسة عن فجوة واضحة بين ثقة القادة التنفيذيين في الذكاء الاصطناعي والواقع التشغيلي. فبينما يثق القادة التنفيذيون بقدرة التكنولوجيا على إحداث تحول، يرسم قادة الفرق التقنية صورة مختلفة تمامًا عن استعداد منظماتهم.
على سبيل المثال، يعتقد 65% من الرؤساء التنفيذيين أن منظماتهم تحتفظ بمخزون كامل لأنظمة الذكاء الاصطناعي، مقارنةً بنسبة 48% فقط من قادة الفرق التقنية. كما يعتقد أكثر من نصف الرؤساء التنفيذيين (52%) أنهم يقودون استراتيجية البيانات بنشاط، بينما لا يتفق مع ذلك سوى 41% من مديري المعلومات (CIOs) و38% من مسؤولي أمن المعلومات (CISOs).
هذا الاختلاف في الرؤية حول القدرات التنظيمية للذكاء الاصطناعي يثير تساؤلات حول فعالية الحكم في هذا المجال، والذي يعتمد بشكل أساسي على الرؤية الدقيقة والمسؤولية الواضحة.
من المسؤول إذا أخطأ الذكاء الاصطناعي؟
أظهرت أبحاث فيم أن عدم وضوح المسؤوليات وتشتت الأطر التشغيلية يعيقان التقدم، حيث تنتشر مسؤوليات البيانات والذكاء الاصطناعي والحكم عبر فرق متعددة.
«عندما يقول الجميع إنهم مسؤولون، لا يتمكن أحد من وضع سياسات حاسمة أو فرض ضوابط أو إثبات النتائج»، كما أوضحت الشركة. وتؤكد الأرقام ذلك، حيث تبيّن أن المنظمات التي تحدد مسؤوليات واضحة – مثل أن يكون مسؤول أمن المعلومات مسؤولاً عن مخاطر وكلاء الذكاء الاصطناعي – تكون أكثر قدرة بنسبة 24% على اكتشاف سلوك الذكاء الاصطناعي غير المرغوب فيه. وعلى العكس من ذلك، فإن المنظمات التي تشترك في المسؤولية تكون أقل قدرة بنسبة 47% على اكتشاف هذه السلوكيات.
مشكلة الذكاء الاصطناعي الظلي: خطر متزايد في المؤسسات
أصبح استخدام الذكاء الاصطناعي خارج الأطر الرسمية (الذكاء الاصطناعي الظلي) خطرًا متزايدًا في المؤسسات، حيث أفادت 95% من المنظمات عن وجود استخدام غير مصرح به للذكاء الاصطناعي بين موظفيها. وعلى الرغم من أن 93% يعتبرون هذا الاستخدام خطرًا كبيرًا، إلا أن 25% فقط يقدمون بدائل معتمدة للموظفين.
الأمر الأكثر إثارة للقلق هو أن قلة من المنظمات التي تستخدم الذكاء الاصطناعي بالفعل تستطيع تحديد البيانات التي يصل إليها النظام، أو الإجراءات التي يتخذها، أو القرارات التي يؤثر فيها. كما أعرب 40% فقط من القادة عن ثقتهم الكاملة في قدرتهم على عزل فشل متعلق بالذكاء الاصطناعي واستعادته بدقة.
وفي ظل تشديد الرقابة التنظيمية، أفاد أكثر من ستة من كل عشرة منظمات أن قانون الذكاء الاصطناعي الأوروبي (EU AI Act) قد أثر بالفعل على قراراتهم الاستثمارية خلال العام الماضي، بينما برز الحفاظ على سجلات التدقيق للقرارات المتعلقة بالذكاء الاصطناعي كمخاوف رئيسية للامتثال لدى 47% من المشاركين.
بناء الثقة في الذكاء الاصطناعي
تشير الدراسة إلى أن المنظمات الأكثر نجاحًا في تطبيق الذكاء الاصطناعي ليست بالضرورة تلك التي تتحرك بسرعة، بل تلك التي تبني أسسًا قوية أولاً. كما وجدت الدراسة أن ما يقرب من نصف الرؤساء التنفيذيين يعتقدون أن البيانات الموثوقة والمتوافقة يمكن أن تساهم في زيادة الإيرادات بأكثر من 25%. ومع ذلك، تعترف العديد من المنظمات بأن بياناتها لا تزال بحاجة إلى تحسين الدقة والإتاحة والتحديث قبل أن تتحقق هذه الفوائد.
«لا تتركز النتائج هنا مجالاً للشك. فعندما يقول 95% من التنفيذيين إن التحديات المتعلقة بالبيانات تعيق تقدمهم في الذكاء الاصطناعي، فإن العائق ليس في النموذج نفسه، بل في البيانات الموثوقة، والمحكومة، والقابلة للاسترداد»، يضيف أناند. «تسعى فيم إلى بناء طبقة الثقة في البيانات والذكاء الاصطناعي لتمنح المؤسسات الرؤية والسيطرة والاسترداد الدقيق اللازمة لتوسيع نطاق الذكاء الاصطناعي بأمان وتحقيق القيمة التجارية الحقيقية».
أناند إيسواران، الرئيس التنفيذي
