حوكمة الذكاء الاصطناعي في المؤسسات — من الفوضى إلى التحكّم

مفارقة الذكاء الاصطناعي في المؤسسات

قبل ثلاث سنوات، كان الذكاء الاصطناعي مختبرًا. اليوم، هو في كل مكان.

فريقك المالي يستخدم Claude للتسويات. أنشأ التسويق روبوت محادثة بـGPT-4. دمجت العمليات Gemini في سير عملها. نشر نجاح العملاء نماذج مخصّصة لتوجيه الاستجابات. وتجرّب الشؤون القانونية تحليل المستندات.

كان كل قرار منطقيًا في وقته. حصل كل فريق على ما احتاجه. لكن مجتمعةً، خلقت هذه القرارات شيئًا أصعب إدارة من المشكلة التي كانت تحاول حلّها: بنية تحتية للذكاء الاصطناعي مجزّأة وغير مضبوطة، بلا رؤية، وبلا حدود إنفاق، وبلا سجلّ تدقيق.

هذه هي أزمة حوكمة الذكاء الاصطناعي في المؤسسات. ليست مشكلة تقنية. بل مشكلة تحكّم.

لماذا لا تنجح ضوابط البنية التحتية التقليدية مع الذكاء الاصطناعي

بَنَت المؤسسات أطر حوكمة بنيتها التحتية من أجل الخوادم وقواعد البيانات والموارد السحابية. افترضت تلك الأطر أنّ:

• الموارد تتحكّم بها فرق تقنية المعلومات
• يتبع التزويد سير عمل موافقات
• الإنفاق متوقَّع ومحدَّد الميزانية مسبقًا
• يحدث الاستخدام على بنية تحتية تسيطر عليها الشركة

كسر الذكاء الاصطناعي الافتراضات الأربعة جميعها. أصبح أفراد الفرق يوفّرون الوصول بأنفسهم. الإنفاق متناسب مع الاستخدام، لا مع السعة. يمكن أن تتقلّب التكاليف بناءً على تعقيد نص التوجيه. ومعظم البنية التحتية للذكاء الاصطناعي تعيش لدى مزوّدين خارجيين.

النتيجة: أطر الحوكمة المصمَّمة لبنية تحتية ثابتة لا تستطيع التعامل مع أعباء عمل الذكاء الاصطناعي الديناميكية. تنتهي المؤسسات بالاختيار بين خيارين سيّئين: إغلاق الذكاء الاصطناعي بالكامل (وخسارة منافعه)، أو تركه يعمل بلا ضابط (وخسارة السيطرة).

ما الذي تتطلّبه حوكمة الذكاء الاصطناعي في المؤسسات فعليًا

رؤية بلا احتكاك

الخطوة الأولى نحو الحوكمة هي معرفة ما يحدث. لكن أدوات المراقبة التقليدية لا تفهم الذكاء الاصطناعي. فهي تتتبّع مقاييس البنية التحتية مثل المعالج والذاكرة، لا ما يهمّ الذكاء الاصطناعي: الرموز، والتكلفة، وزمن الاستجابة، والفرق التي تستخدم ماذا.

تتطلّب حوكمة المؤسسات رؤية لحظية لِـ:

• أي الفرق والمشاريع تستخدم الذكاء الاصطناعي
• أي النماذج تصل إليها
• كم تكلّف كل واحدة، وصولًا إلى مستوى نص التوجيه
• اتجاهات الاستخدام والإنفاق عبر الزمن
• أي البيانات تُرسَل إلى أنظمة الذكاء الاصطناعي

لا ينبغي أن تتطلّب هذه الرؤية بناء فرق علوم بيانات للوحات تحكّم مخصّصة. يجب أن تكون مدمجة أصلًا.

تحكّم في الوصول يعكس الواقع

تملك المؤسسات طبقات: تنفيذيون، مديرون، مساهمون أفراد، متعاقدون، شركاء. تحتاج كل طبقة إلى قدرات مختلفة.

ينبغي أن يستطيع مطوّر البناء ونشر ميزات الذكاء الاصطناعي. وينبغي أن يرى قائد مالي الإنفاق ويضع الميزانيات. وينبغي أن يحصل التنفيذي على ملخّصات وتنبيهات. وينبغي أن يدقّق مسؤول الامتثال كل شيء.

لكن معظم منصات الذكاء الاصطناعي تتعامل مع الوصول كثنائية: إمّا أن يكون لديك مفتاح API أو لا. إنها لا تفهم البنية التنظيمية.

الحوكمة السليمة تعني:

• تحكّم وصول قائم على الأدوار ومتوافق مع المهام الوظيفية
• عزل وصلاحيات على مستوى المشروع
• سير عمل موافقات للعمليات عالية الخطورة أو التكلفة
• ميزانية وإدارة إنفاق على مستوى الفريق
• سجلّات تدقيق تسجّل من فعل ماذا ولماذا

إدارة التكلفة كسياسة

الإنفاق غير المحدود ليس ابتكارًا غير محدود. إنه خطر غير محدود.

الحوكمة الحقيقية تعني ترجمة استراتيجية العمل إلى سياسة إنفاق. إذا قرّرت الإدارة المالية أن ابتكار الذكاء الاصطناعي أولوية للسنة المالية القادمة، فهذا يُترجَم إلى ميزانية. وإذا خُصِّص لفريق معيّن 50 ألف دولار للربع، فهذا حدّ صارم، لا اقتراح.

تفيد فرق ميزان بأن تطبيق ضوابط الميزانية يخفّض إنفاق الذكاء الاصطناعي بنسبة 20 إلى 40% ليس عبر التقييد، بل عبر الوعي. حين تعرف الفرق أن لديها ميزانية، فإنها تُحسِّن. تتّخذ خيارات واعية بشأن أي النماذج تستخدم، وأي أعباء العمل الأهم، وأين تقصّ الهدر.

الحوكمة تعني أيضًا:

• وضع حدود إنفاق لكل فريق ومشروع وفرد
• تنبيهات لحظية عند اقتراب الإنفاق من الحدود
• تطبيق تلقائي — إيقاف الطلبات عند استنفاد الميزانيات
• تسوية شهرية مع الأنظمة المالية
• إعادة تحميل تكاليف داخلية تُظهر التكلفة الحقيقية للذكاء الاصطناعي على وحدات الأعمال

الامتثال والتدقيق بشكل افتراضي

حين يقع خرق لبيانات العملاء، لا يسأل المنظّمون "كيف حدث ذلك؟" بل يسألون "هل لديكم سجلّ تدقيق يُظهر من وصل إلى البيانات ومتى؟"

كان الامتثال يعني ضوابط ثابتة: جدران حماية، وأنظمة كشف تسلّل، وسجلّات وصول. مع البنية التحتية للذكاء الاصطناعي، يصبح الامتثال ديناميكيًا. كل نص توجيه هو انكشاف محتمل. وكل وصول إلى نموذج هو حركة بيانات.

يجب أن تلتقط أطر الحوكمة:

• سجلّات تدقيق كاملة لكل تفاعل مع الذكاء الاصطناعي
• تتبّع مسار البيانات — أي معلومات أُرسِلت إلى أي نماذج
• شفافية المزوّدين — من يملك الوصول إلى نصوص التوجيه والاستجابات
• سياسات الاحتفاظ — كم من الوقت تبقى البيانات لدى المزوّدين
• شهادة الامتثال — إثبات للتحكّم لصالح المدقّقين

بالنسبة للقطاعات المنظَّمة (الخدمات المالية، الرعاية الصحية، القانون)، هذا ليس اختياريًا. إنه الحدّ الأدنى.

استقلالية المزوّد

لا تريد المؤسسات أبدًا أن ترتبط بمزوّد واحد. مع الذكاء الاصطناعي، هذا الخطر حادّ. قدرات النماذج تتغيّر. الأسعار تتغيّر. الأعطال تحدث.

الحوكمة السليمة تعني بُنى تُوجِّه عبر نماذج ومزوّدين متعدّدين، بسياسات منطقية:

• تحسين التكلفة — توجيه أعباء العمل إلى أرخص نموذج مناسب
• مطابقة القدرات — توجيه المهام المعقّدة إلى نماذج قادرة، والبسيطة إلى أرخصها
• الموثوقية — تحوّل تلقائي عند بطء أو تعطّل مزوّد
• قوة تفاوضية — حين لا تكون مرتبطًا بمزوّد، يتنافس المزوّدون على أعمالك

بناء حوكمة، لا بيروقراطية

الجزء الأصعب في حوكمة الذكاء الاصطناعي ليس تقنيًا. إنه تنظيمي.

قد تبدو أطر الحوكمة كبيروقراطية — روتين يُبطئ الابتكار. لكن الحوكمة المصمَّمة بشكل صحيح تُسرّعه. حين تعرف الفرق أن ميزانياتها وسياساتها عادلة، تُحسِّن ضمنها. وحين تملك سجلّات تدقيق، تتحرّك أسرع (لا أبطأ) لأن الامتثال يصبح تلقائيًا، لا يدويًا.

المفتاح هو تصميم حوكمة تُمكِّن، لا تُقيِّد. وهذا يعني:

• جعل الحوكمة سلسة بلا احتكاك — الحوكمة التي تتطلّب موافقة يدوية في كل خطوة تفشل
• مواءمة الحوكمة مع طريقة عمل الفرق فعليًا — لا فرض عمليات من الإدارة المالية أو تقنية المعلومات
• بناء الشفافية — يجب أن تفهم الفرق لماذا توجد السياسات وكيف تؤثّر فيها
• تطوير الحوكمة مع تطوّر العمل — حوكمة الذكاء الاصطناعي في السنة الأولى تختلف عنها في السنة الثالثة

كلفة غياب الحوكمة

المؤسسات التي لا تطبّق حوكمة الذكاء الاصطناعي لا تبقى بلا حوكمة طويلًا. إليك ما يحدث بدلًا من ذلك:

• تصل فاتورة ذكاء اصطناعي ضخمة غير متوقَّعة — فيوقف التنفيذيون مشاريع الذكاء الاصطناعي
• يقع خرق بيانات — إذ أُرسِلت بيانات عملاء عن غير قصد إلى نموذج ذكاء اصطناعي خارجي
• يفشل تدقيق — إذ تعجز فرق الامتثال عن إثبات من كان يملك الوصول إلى أعباء عمل حسّاسة
• تتوقّف الفرق عن التعاون — فبدون بنية تحتية مشتركة للذكاء الاصطناعي، تبني الأقسام أنظمة متكرّرة

عندها تُفرَض الحوكمة من الأعلى، بأثر رجعي، وتكون أكثر تقييدًا بكثير ممّا لو بُنيت بتروٍّ منذ البداية.

الحوكمة كميزة تنافسية

تكتسب الشركات التي تطبّق حوكمة الذكاء الاصطناعي مبكّرًا ما لا يملكه منافسوها: خفّة الحركة مع التحكّم.

يمكنها التحرّك بسرعة لأن الضوابط مؤتمَتة. يمكنها الابتكار على نطاق واسع لأن الإنفاق مُتتبَّع ومحدَّد بميزانية. يمكنها تبنّي نماذج ومزوّدين جدد لأن بنيتها التحتية مستقلّة. يمكنها كسب عمليات التدقيق وإتمام الصفقات لأن الامتثال مدمَج فيها.

بالنسبة للمؤسسات، حوكمة الذكاء الاصطناعي ليست قيدًا على الابتكار. إنها أساسه.

هل أنت مستعدّ لحوكمة البنية التحتية للذكاء الاصطناعي في مؤسستك؟