عندما يخطئ الذكاء الاصطناعي: دروس للطاقة السعودية

في 17/01/2025 عند 03:52 م، أوقفت Apple ميزة تلخيص إشعارات الأخبار بالذكاء الاصطناعي بعد سلسلة أخطاء محرجة؛ عناوين مُعاد صياغتها ظهرت وكأنها صادرة من داخل تطبيقات مؤسسات إعلامية، لكنها حملت معلومات غير صحيحة. هذا الإيقاف لم يكن “تعديلًا بسيطًا”؛ كان اعترافًا علنيًا بأن الذكاء الاصطناعي قد يبدو واثقًا حتى وهو مخطئ—وأن الثقة تتآكل أسرع مما نتصور عندما تُقدَّم المعلومة الخاطئة بواجهة رسمية.

هذا المثال يهمّنا في السعودية أكثر مما يخصّ متابعي التقنية فقط. لأننا نتحدث هنا عن قطاعين مختلفين ظاهريًا—الإعلام والطاقة—لكن بينهما قاسم مشترك حاسم: المعلومة الخاطئة ليست “تفصيلة”. في قطاع الطاقة والنفط والغاز، خطأ في تلخيص حادثة، أو تقرير سلامة، أو مؤشر أداء، أو إشعار صيانة قد يتحول إلى قرار تشغيلي خاطئ، أو تأخير في الاستجابة، أو تضارب رسائل مع الجهات التنظيمية، أو حتى مخاطر على الأفراد والممتلكات.

ضمن سلسلة “كيف تُحوّل الذكاء الاصطناعي قطاع الطاقة والنفط والغاز في المملكة العربية السعودية”، نأخذ قصة Apple كحالة واقعية لنقطة أوسع: نجاح الذكاء الاصطناعي في الطاقة ليس مسألة شراء أداة… بل بناء نظام حوكمة ودقة ومسؤولية.

لماذا أخطاء تلخيص الأخبار تُشبه مخاطر الذكاء الاصطناعي في الطاقة؟

الفكرة الأساسية: عندما يُعيد الذكاء الاصطناعي صياغة محتوى حساس، فهو لا ينقل النص فقط—بل يغيّر المعنى. Apple كانت تجمع إشعارات متعددة وتُنتج “ملخصًا” يظهر على شاشة القفل. المشكلة أن هذا الملخص قد يضيف أو يحذف أو يبدّل تفاصيل بطريقة تجعل العنوان يبدو حقيقيًا لأنه مرتبط بشعار جهة إعلامية موثوقة.

في الطاقة، يحدث الشيء نفسه لكن بأشكال مختلفة. مثال واقعي الطابع:

• تلخيص تقرير حادثة Near Miss قد يُسقط “سببًا جذريًا” أو يغيّر تسلسل الأحداث.
• تلخيص حالة معدة (مضخة/ضاغط/صمام) قد يخلط بين “انحراف بسيط” و“حد خطر”.
• تلخيص بريد داخلي عن تغيير إجراء قد يتجاهل شرط سلامة صغير… لكنه مصيري.

الخطر هنا ليس “الهلوسة” ككلمة تقنية، بل الانطباع باليقين. كلما كان الإخراج مختصرًا وأنيقًا، زادت احتمالية أن يصدقه الناس دون مراجعة.

التشابه الأخطر: واجهة الثقة

Apple واجهت انتقادات لأن الإشعارات بدت وكأنها صادرة من داخل تطبيقات الأخبار نفسها. في بيئة الطاقة، واجهة الثقة قد تكون:

• لوحة قيادة تنفيذية تُظهر مؤشرات مختصرة.
• روبوت محادثة داخلي يجيب على أسئلة التشغيل.
• نظام تذاكر الصيانة يكتب “ملخصًا تلقائيًا” للعطل.

إذا كان الملخص خاطئًا، فالخسارة ليست تقنية فقط—إنها خسارة مصداقية. وفقدان الثقة داخل المؤسسة يعني عودة الموظفين لطرق بدائية (Excel ورسائل واتساب) وهدر الاستثمار.

الدقة والشفافية: شرط تشغيل، لا ميزة إضافية

الرسالة العملية: لا تضع الذكاء الاصطناعي في مسار قرار حساس دون شفافية حول “من كتب هذا” وكيف تم التحقق منه. Apple قالت إنها ستُظهر ملخصات الذكاء الاصطناعي بخط مائل في تطبيقات أخرى، ثم قررت تعطيل الميزة كاملًا لفئة الأخبار والترفيه. هذا القرار يرسل إشارة واضحة: عندما تكون المخاطر عالية على الثقة العامة، فالتراجع أفضل من الاستمرار بنصف حل.

في شركات الطاقة السعودية، الشفافية تعني ثلاثة أشياء ملموسة:

1. وسم المحتوى بوضوح: أي تلخيص أو توصية مولّدة يجب أن تحمل علامة صريحة مثل “ملخص آلي” مع وقت الإنشاء وإصدار النموذج.
2. إظهار المصدر: من دون روابط خارجية بالضرورة، لكن على الأقل إظهار المستند/التذكرة/القراءة التي بُني عليها الملخص.
3. تحديد مستوى الثقة وحدود الاستخدام: “مسموح للاطلاع” يختلف عن “مسموح لاتخاذ قرار” ويختلف عن “مسموح للإبلاغ التنظيمي”.

جملة واحدة تصلح كسياسة داخلية: أي مخرجات ذكاء اصطناعي تدخل في سلامة أو امتثال أو عمليات حرجة تُعامل كمسودة حتى يراجعها إنسان معتمد.

أين تكون الشفافية إلزامية في النفط والغاز؟

إذا كنت تبحث عن نقطة بداية واضحة، فابدأ بهذه المساحات:

• تقارير السلامة (HSE) وملخصات الحوادث
• تقارير الالتزام التنظيمي والبيئي
• رسائل التواصل مع المجتمعات/أصحاب المصلحة حول أحداث تشغيلية
• ملخصات “التحول التشغيلي” (shift handover) في المواقع

هذه ليست أماكن للتجربة المفتوحة. هذه أماكن لـ ذكاء اصطناعي مقيد ومحكوم.

كيف نُطبق الذكاء الاصطناعي في الطاقة السعودية دون تكرار خطأ Apple؟

الإجابة المباشرة: حوّل الذكاء الاصطناعي من أداة إنتاج إلى نظام مُدار—بمقاييس جودة، واختبارات، وموافقات، ومسارات تصعيد.

1) صمّم “حالات استخدام” بدلاً من “ميزات”

كثير من المشاريع تفشل لأنها تبدأ بعبارة: “نريد تلخيصًا تلقائيًا لكل شيء”. الأفضل أن تبدأ بعبارة: “نريد تلخيصًا لتذاكر الصيانة غير الحرجة خلال 24 ساعة لتسريع الفرز”.

حالة الاستخدام الجيدة تتضمن:

• الهدف (تقليل وقت الفرز مثلًا)
• نوع البيانات (تذاكر، قراءات حساسات، تقارير)
• من يستهلك المخرجات (مخطط صيانة، مشرف مناوبة)
• ما الذي يُمنع على النموذج فعله (مثلاً: لا يصدر أحكام سلامة)

2) اختبر الدقة على بياناتك أنت (وليس على عروض تجريبية)

تلخيص الأخبار فشل لأن الأخطاء ظهرت “في الواقع” لا في المختبر. في الطاقة، لا يكفي أن يبدو النموذج ذكيًا في عرض تقديمي.

اختبارات عملية مفيدة قبل الإطلاق:

• اختبار الانحراف (Drift): هل تتدهور جودة الملخصات عندما تتغير صياغة البلاغات؟
• اختبار الحالات الحدّية: بلاغات مختصرة جدًا، أو متناقضة، أو متعددة المصادر.
• اختبار اللغتين: عربي/إنجليزي، مع مصطلحات تشغيلية محلية.

ومعيار نجاح واضح، مثل:

• نسبة أخطاء حرجة = 0% في نطاق السلامة والامتثال
• نسبة توافق الملخص مع المصدر ≥ 98% في عناصر محددة (الموقع، الوقت، المعدة، الإجراء)

3) اعتمد “إنسان في الحلقة” حيث يجب، وليس حيث يريحنا

القرار هنا ليس فلسفيًا. هو قرار تصميم:

• في المجالات منخفضة المخاطر (تلخيص اجتماع داخلي غير تشغيلي): مراجعة خفيفة.
• في المجالات متوسطة المخاطر (تلخيص تذكرة صيانة): مراجعة إلزامية قبل الإغلاق.
• في المجالات عالية المخاطر (تقارير HSE/الامتثال): مراجعة معتمدة + سجل تدقيق.

الذكاء الاصطناعي يقلل العمل… لكنه لا يلغي المسؤولية.

4) ابنِ سجل تدقيق (Audit Trail) منذ اليوم الأول

أحد أسباب الضجة حول Apple هو صعوبة محاسبة “من قال ماذا”. في بيئات الطاقة، سجل التدقيق يجب أن يوضح:

• من طلب التلخيص ومتى
• أي بيانات تم استخدامها
• ما النسخة التي خرجت
• من راجعها وما التعديلات

هذا ليس ترفًا. هذا يحميك عند التحقيقات الداخلية أو المراجعات التنظيمية.

5) ضع حواجز تمنع “التزيين اللغوي” من تضليل القارئ

تلخيص جميل لغويًا قد يكون أخطر من تلخيص ركيك. لأن القارئ يثق بالصياغة المحكمة.

حواجز عملية:

• فرض قالب ملخص ثابت: (حقائق/أرقام/إجراءات/مجهول)
• منع الجمل الاستنتاجية غير المدعومة
• إلزام النموذج بإبراز ما لا يعرفه: “غير مذكور في البلاغ”

أين ينجح الذكاء الاصطناعي فورًا في قطاع الطاقة بالسعودية؟

الإجابة المباشرة: ينجح حيث تكون البيانات منظمة نسبيًا، وحيث يكون الناتج مساعدًا لا حاكمًا.

استخدامات سريعة العائد (Low-risk, High-impact)

• فرز تذاكر الدعم الفني والعمليات حسب الأولوية (مع قواعد واضحة)
• تلخيص تقارير الصيانة الدورية للمراجعة الإدارية
• استخراج بنود العمل من محاضر الاجتماعات الفنية
• بناء قاعدة معرفة داخلية قابلة للبحث (مع مصادر داخلية)

استخدامات عالية القيمة لكنها تتطلب حوكمة قوية

• مساعد تشغيلي للمهندسين يجيب من وثائق الإجراءات (SOPs) فقط
• تلخيص تسليم المناوبة في المواقع
• تنبؤ الأعطال (Predictive Maintenance) مع تفسير واضح لأسباب التنبؤ

رأيي: أكبر خطأ هو البدء بمنطقة حساسة “لإبهار الإدارة”. ابدأ بما يثبت القيمة بسرعة وبأقل مخاطرة، ثم وسّع تدريجيًا.

أسئلة شائعة داخل الشركات (وإجابات عملية)

هل يكفي وضع تنبيه “قد يحتوي على أخطاء”؟

لا. التنبيه وحده لا يمنع الخطأ من الوصول لقرار. المطلوب هو تصميم مسار عمل يجبر على التحقق في النقاط الحرجة.

ما الفرق بين تلخيص الأخبار وتلخيص تقارير الطاقة؟

الأخبار تتحمل خطأ سمعة. الطاقة تتحمل خطأ تشغيلي ومالي وسلامة. لذلك معيار القبول أعلى ومسارات التدقيق أشد.

متى أسمح بالتلخيص الآلي دون مراجعة؟

عندما يكون المحتوى داخليًا، غير تشغيلي، ولا يغير قرارًا، ويمكن قياس الخطأ وتحمّله. أي شيء يلامس سلامة أو امتثال: لا.

خطوة عملية للشهر القادم: “سياسة 5 أسئلة” قبل إطلاق أي نموذج

إذا كنت تقود مبادرة ذكاء اصطناعي في شركة طاقة أو نفط وغاز بالسعودية، جرّب هذا التمرين البسيط قبل الإطلاق:

1. ما أسوأ ضرر لو أخطأ النموذج مرة واحدة؟
2. من الشخص المسؤول قانونيًا/تشغيليًا عن المخرجات؟
3. كيف سنثبت أن الملخص مطابق للمصدر؟ (مقياس + اختبار)
4. أين يظهر وسم “ملخص آلي” وكيف نعرض المصدر؟
5. ما خطة الإيقاف السريع إذا ظهرت أخطاء؟ (Kill switch)

قصة Apple تُظهر أن “زر الإيقاف” ليس فشلًا؛ أحيانًا هو أفضل قرار لإدارة الثقة.

الذكاء الاصطناعي قادر على رفع كفاءة قطاع الطاقة السعودي، خصوصًا في أتمتة الأعمال المعرفية: تلخيص، بحث، تصنيف، ومساعدة فرق الصيانة والهندسة. لكن الطريق الصحيح يبدأ من هذه الحقيقة البسيطة: الثقة تُبنى بالحوكمة قبل الخوارزميات. إذا أردنا ذكاءً اصطناعيًا يخدم النفط والغاز في المملكة، فلابد أن يكون دقيقًا، شفافًا، وقابلًا للتدقيق—وإلا سنكرر قصة الإشعارات الخاطئة، لكن بكلفة أعلى بكثير.

إذا كانت مؤسستك تخطط لتوسيع استخدام الذكاء الاصطناعي في التشغيل أو التواصل مع أصحاب المصلحة، فما أول مسار عمل ستضع فيه “إنسان في الحلقة” بشكل إلزامي؟