في كثير من المؤسسات، يبدأ نقاش الوكلاء الداخلية من سؤال يبدو منطقيًا: هل الإجابة دقيقة؟ لكن هذا السؤال يصبح ناقصًا بسرعة عندما ينتقل الوكيل إلى أعمال تمس الموظفين مباشرة: طلبات الموارد البشرية، ودعم تقنية المعلومات، والموافقات، والسياسات الداخلية، والاستفسارات الحساسة. عندها لا تعود المسألة مجرد جودة مخرجات، بل تتحول إلى سؤال أوسع: ما الذي يعرفه النظام عن الموظف، وما الذي يمكنه أن يستنتجه، ومن يحق له رؤية ذلك، ومتى يجب أن يتوقف ويصعّد؟
هذا هو اختبار الثقة الحقيقي. فالمؤسسة قد تنجح في بناء وكيل سريع ومفيد، لكنها تخسر ثقة الموظفين إذا شعروا أن النظام يجمع إشارات أكثر مما ينبغي، أو يخلط بين أنظمة متعددة بلا حدود واضحة، أو ينتج استنتاجات تؤثر في تجربة العمل من دون تفسير أو مراجعة بشرية مناسبة. في هذا النوع من الاستخدامات، لا تكفي دقة النموذج وحدها، لأن الخطر لا يأتي فقط من الإجابة الخاطئة، بل أيضًا من الاستخدام الصحيح لبيانات في السياق الخطأ.
لماذا تتغير طبيعة الخطر داخل المؤسسة؟
الوكلاء الداخلية لا تتعامل عادةً مع معلومة واحدة معزولة. هي تصل — أو يُراد لها أن تصل — إلى تاريخ التذاكر، وسياسات الموارد البشرية، وأدلة المعرفة، وسجلات الأجهزة، وربما بيانات الحضور أو الهيكل الوظيفي أو طلبات الإجازة أو قنوات الدعم السابقة. وهنا تظهر خصوصية الخطر: حتى لو لم يُطلب من الوكيل كشف معلومة حساسة صراحة، فقد يتمكن من تركيبها من مصادر متفرقة.
هذا ليس افتراضًا نظريًا فقط. يوضح NIST AI 600-1 أن أنظمة الذكاء التوليدي قد تستنتج معلومات شخصية أو حساسة لم تُقدَّم لها مباشرة، وذلك عبر تجميع إشارات من مصادر مختلفة. كما يحذر الإطار نفسه من أن الاستنتاجات الخاطئة أو غير المناسبة قد تقود إلى آثار لاحقة مؤذية، خصوصًا إذا استُخدمت في قرارات أو توصيات تمس الأفراد. هذه نقطة مهمّة لفرق الموارد البشرية والعمليات والدعم الداخلي: الخطر لا يقتصر على تسرّب البيانات، بل يشمل أيضًا الاستدلال عليها.
ما الذي يسيء كثير من الفرق فهمه؟
الخطأ الشائع هو التعامل مع الوكيل الداخلي كما لو كان مجرد واجهة بحث محسّنة. لكن الوكيل الذي يقرأ من أنظمة متعددة، ويعيد صياغة الإجابة، ويقترح إجراءً، أو يوجّه الموظف إلى مسار معين، يمارس دورًا أعلى من "البحث". ولهذا يحتاج إلى ضوابط أعلى من مجرد ضبط الصلاحيات الأساسية.
وتؤكد المصادر الرسمية هذا الاتجاه. فصفحة القانون الاتحادي الإماراتي لحماية البيانات الشخصية على المنصة الرسمية للحكومة الإماراتية تذكر أن أحكام القانون تنطبق على معالجة البيانات الشخصية عبر الأنظمة الإلكترونية، وتلزم الجهات بحماية السرية والخصوصية، وتمنح صاحب البيانات حق طلب تصحيح البيانات غير الدقيقة وطلب تقييد المعالجة أو إيقافها، كما تضع متطلبات لنقل البيانات ومشاركتها عبر الحدود. هذا النوع من النصوص لا يعني أن كل وكيل داخلي ممنوع، بل يعني أن التشغيل المقبول يبدأ من حدود واضحة للغرض، والاطلاع، والمعالجة، والاحتفاظ، والنقل.
إطار عملي من خمس زوايا قبل توسيع أي وكيل داخلي
1) ما الغرض المحدد من كل تدفق؟
إذا كان الوكيل يجيب عن سياسات الإجازات، فلا ينبغي أن يتحول ضمنيًا إلى أداة لتجميع إشارات أداء أو استنتاج نيات الموظف أو تاريخه الصحي أو المالي أو الشخصي. التوسّع السليم يبدأ من تعريف ضيق للغرض، لا من فتح الوصول ثم محاولة تبرير الاستخدام لاحقًا.
2) ما أقل قدر من البيانات يكفي لإنجاز المهمة؟
إطار NIST AI RMF 1.0 يلفت إلى أن مخاطر الخصوصية في أنظمة الذكاء الاصطناعي لا تنشأ فقط من التخزين أو التسريب، بل أيضًا من قدرة النظام على الاستدلال على معلومات كانت خاصة سابقًا. لذلك فإن مبدأ تقليل البيانات ليس تفصيلاً قانونيًا؛ بل وسيلة تشغيلية لتقليل ما يمكن استنتاجه أصلًا. كل حقل إضافي، وكل ربط غير ضروري بين الأنظمة، يوسّع مساحة الخطر حتى لو لم يتغير النموذج نفسه.
3) أين يجب أن يتوقف الوكيل ويُدخل إنسانًا في الحلقة؟
لا تحتاج كل حالة إلى مراجعة بشرية، لكن الحالات التي تمس التفسير الفردي أو الاستثناءات أو القرارات ذات الأثر الوظيفي تحتاج عادةً إلى نقطة توقف واضحة. ويذكر NIST AI RMF 1.0 أيضًا أن عمليات الإشراف البشري يجب أن تكون معرّفة ومقيَّمة وموثّقة. في السياق المؤسسي، هذا يعني أن التصعيد ليس زرًا تجميليًا، بل جزء من التصميم التشغيلي نفسه.
4) كيف ستتعامل مع الموردين والأنظمة الخارجية؟
كثير من المخاطر لا تأتي من الوكيل وحده، بل من سلسلة المكونات حوله: نموذج طرف ثالث، أو قاعدة معرفة خارجية، أو خدمة مراقبة، أو تكامل سريع أضيف تحت ضغط الإطلاق. يشير NIST AI RMF 1.0 إلى ضرورة معالجة مخاطر البرمجيات والبيانات التابعة لأطراف ثالثة، بينما توصي NIST AI 600-1 بسياسات وإجراءات للمراقبة المستمرة للأنظمة التوليدية التابعة لجهات خارجية أثناء التشغيل. هذه إشارة عملية مهمة: إذا لم تستطع المؤسسة شرح حدود المورد، فلا يفترض بها أن تمنحه صلاحية صامتة داخل مسارات الموظفين.
5) ما الذي سيبقى محفوظًا، ولمدة كم، ولأي غرض؟
الثقة لا تُبنى بالاحتفاظ بكل شيء "احتياطًا". على العكس، السجلات يجب أن تكون مقصودة: ما الذي يُحفظ لأغراض التتبع والتدقيق، وما الذي يجب ألا يُعاد استخدامه، ومن يملك حق الوصول إليه. ويوصي NIST AI 600-1 بسياسات واضحة للاحتفاظ بالسجلات المرتبطة بالاختبار والتحقق والمراجعة. الفرق الناضجة لا تسأل فقط: هل لدينا logs؟ بل تسأل: هل نعرف لماذا نحتفظ بها، ومن يراجعها، ومتى تُحذف؟
ما معنى "العربية أولًا" في هذا الموضوع؟
في البيئات العربية، لا يكفي أن تكون واجهة الوكيل معرّبة. الثقة تتأثر أيضًا بلغة السياسات، وصياغة التنبيهات، ووضوح حدود الاستخدام، وطريقة شرح التصعيد أو الرفض أو الحاجة إلى مراجعة بشرية. الموظف الذي يفهم الواجهة ولا يفهم منطق القرار أو نطاق المعالجة سيبقى مترددًا، خصوصًا في المسارات التي تمس بياناته الشخصية أو وضعه الوظيفي.
ولهذا يصبح "العربي أولًا" مفهومًا تشغيليًا لا تجميليًا: هل صيغت السياسة الداخلية بلغة مفهومة؟ هل يعرف الموظف متى يراجع إنسانٌ طلبه؟ هل يمكنه فهم ما الذي استخدمه الوكيل للوصول إلى التوصية؟ وهل الاستثناءات والموافقات والاعتراضات قابلة للتعامل بها لغويًا وإجرائيًا داخل المؤسسة نفسها؟
لماذا تحتاج المؤسسة إلى مالك واضح لهذا الملف؟
من السهل أن تضيع مسؤولية هذا النوع من الضبط بين فرق متعددة: الأمن يرى المسألة حماية بيانات، والموارد البشرية تراها تجربة موظف، وتقنية المعلومات تراها تكاملات وصلاحيات، والفرق التحويلية تراها فرصة سرعة. لكن الصفحة الرسمية للحكومة الإماراتية حول سياسات الذكاء الاصطناعي في الجهات الحكومية تبرز قيمة وجود دور قيادي واضح للذكاء الاصطناعي مسؤول عن التخطيط، وأفضل الممارسات، وأطر الحوكمة، ورفع الكفاءات. حتى لو اختلف الشكل التنظيمي في القطاع الخاص، فالفكرة الإدارية نفسها تبقى صالحة: لا يجوز أن تبقى مسؤولية بيانات الموظف داخل الوكلاء موزعة بلا مالك تشغيلي واضح.
حدود يجب الاعتراف بها مبكرًا
ليس كل خطر قابلًا للإزالة بالكامل. بعض المفاضلات ستبقى قائمة بين سهولة الخدمة، وسرعة الإنجاز، ودرجة التخصيص، وحدود الخصوصية. وأحيانًا يؤدي تقليل البيانات أو زيادة المراجعة البشرية إلى تجربة أبطأ. لكن الاعتراف بهذه المفاضلات أفضل من إنكارها. الهدف ليس صنع وكيل "مثالي"، بل بناء خدمة يمكن تفسير حدودها والدفاع عنها أمام الموظفين والإدارة والحوكمة.
أسئلة تشخيصية سريعة قبل التوسيع
- هل يستطيع الفريق وصف جميع مصادر بيانات الوكيل بلغة أعمال واضحة، لا بلغة تقنية فقط؟
- هل هناك تمييز بين البيانات اللازمة للإجابة والبيانات التي قد تُنتج استدلالات حساسة؟
- هل يعرف الموظف متى تكون الاستجابة آلية بالكامل ومتى تدخل المراجعة البشرية؟
- هل توجد سياسة محددة للاحتفاظ بالسجلات، لا مجرد تراكم افتراضي لكل المحادثات؟
- هل تم تقييم دور الموردين الخارجيين بقدر تقييم النموذج نفسه؟
خطوة أولى عملية هذا الأسبوع
اختر حالة استخدام داخلية واحدة فقط — مثل وكيل سياسات الإجازات أو دعم تقنية المعلومات — وارسم على صفحة واحدة: الغرض، ومصادر البيانات، والحقول المسموح بها، ونقطة التصعيد البشري، وسياسة الاحتفاظ، وأي مكوّن خارجي يعتمد عليه التدفق. إذا عجز الفريق عن إكمال هذه الصفحة بوضوح، فالمشكلة ليست في قدرة النموذج بل في نقص التصميم التشغيلي.
الخلاصة
اختبار الثقة القادم للوكلاء الداخلية لن يكون: هل تبدو المحادثة طبيعية؟ بل: هل تعرف المؤسسة ما الذي يُعالج، وما الذي يمكن استنتاجه، ومن يراجع الاستثناءات، وكيف تُحفظ الأدلة، وما الذي يفهمه الموظف عن كل ذلك؟ عندما تدخل بيانات الموظف في الصورة، تصبح الحوكمة التشغيلية جزءًا من جودة الخدمة نفسها. والمؤسسات التي تفهم هذا مبكرًا لن تبني وكلاء أذكى فقط، بل ستبني وكلاء يمكن الوثوق بهم.