عندما يخطئ الذكاء الاصطناعي.. من يتحمل المسؤولية؟

 

د. دعاء محيي الدين تطرح رؤية جديدة لاستخدام التوأم الرقمي في تحديد المسؤولية عن أخطاء الأنظمة الذكية

من السيارة ذاتية القيادة إلى «محكمة رقمية» تعيد بناء القرار لحظة بلحظة

لم يعد الذكاء الاصطناعي مجرد تقنية تساعد الإنسان في البحث أو التحليل أو التنبؤ، بل أصبح يدخل بصورة متزايدة في قرارات تؤثر مباشرة في حياة الإنسان.

سيارة تتحرك دون سائق، طائرة تعتمد على أنظمة ذكية، جهاز طبي يقترح تشخيصًا، روبوت يعمل داخل مصنع، أو نظام ذكي يدير شبكة طاقة.

لكن مع ارتفاع مستوى استقلالية الآلة يظهر سؤال بالغ الحساسية:

إذا اتخذ الذكاء الاصطناعي قرارًا خاطئًا وتسبب في ضرر.. فمن المسؤول قانونيًا؟

هل المسؤول هو المستخدم؟

أم الشركة المصنعة؟

أم مطور البرمجيات؟

أم مهندس الذكاء الاصطناعي؟

أم مزود البيانات؟

أم جهة الصيانة؟

أم أن الخطأ كان نتيجة تفاعل عدة عوامل في الوقت نفسه؟

هنا تبرز رؤية الدكتورة دعاء محيي الدين عضو هيئة التدريس بكلية الحاسبات ونظم المعلومات واستشاري الذكاء الاصطناعي وعلوم البيانات نحو توظيف الذكاء الاصطناعي والتوأمة الرقمية والذكاء الاصطناعي القابل للتفسير لبناء نموذج أكثر موضوعية لتحليل المسؤولية في عصر الأنظمة المستقلة.

عندما تختفي يد الإنسان من عجلة القيادة

لنتخيل حادثًا لسيارة ذاتية القيادة.

لم يكن هناك سائق يضغط على الفرامل.

السيارة اتخذت القرار بنفسها.

لكن هذا القرار لم يصدر من «آلة واحدة» بالمعنى البسيط.

وراء القرار توجد منظومة كاملة:

حساسات → كاميرات → بيانات → خرائط → خوارزميات → نموذج ذكاء اصطناعي → برمجيات تحكم → نظام فرامل وتوجيه → صيانة وتحديثات.

إذن، عندما يقع الحادث، فإن تحميل المسؤولية مباشرة لشخص واحد قد يكون تبسيطًا شديدًا لواقعة تقنية معقدة.

السؤال الصحيح يجب أن يكون:

«أين حدث الخطأ داخل سلسلة اتخاذ القرار؟»

ومن كان يستطيع منع حدوثه؟

التوأم الرقمي.. شاهد رقمي على ما حدث

هنا يمكن أن يؤدي Digital Twin دورًا جديدًا يتجاوز الاستخدامات التقليدية.

يمكن إنشاء توأم رقمي للحادث يعيد بناء الظروف التي سبقت الواقعة لحظة بلحظة.

يدخل إليه:

– بيانات الكاميرات.
– بيانات الرادار وLiDAR.
– سرعة المركبة.
– الموقع.
– حالة الطريق.
– بيانات الطقس.
– الخرائط.
– قرارات نظام القيادة.
– أوامر الفرامل.
– أوامر التوجيه.
– إصدار البرمجيات.
– سجلات الصيانة.
– بيانات الحساسات.
– أي تدخل بشري.

ثم يعيد النظام بناء السيناريو:

ماذا رأت السيارة؟

ماذا فهم النظام؟

ما القرار الذي اتخذه؟

متى اتخذه؟

ولماذا اتخذه؟

وهنا يتحول التوأم الرقمي إلى ما يمكن وصفه بـ:

«المسرح الرقمي للحادث».

من إعادة بناء الحادث إلى إعادة بناء القرار

الخطوة الأكثر أهمية ليست فقط معرفة ما حدث، وإنما فهم كيف وصل النظام إلى القرار الذي أدى إلى الحادث.

وهنا يأتي دور Explainable AI.

فبدل أن يقدم النظام نتيجة غامضة مثل:

««القرار كان صحيحًا بنسبة 85%.»»

نحتاج إلى معرفة:

ما البيانات التي اعتمد عليها؟

ما العوامل التي أثرت في القرار؟

ما درجة الثقة؟

هل كانت هناك بيانات ناقصة؟

هل أخطأ النظام في تصنيف جسم أمامه؟

هل كانت هناك مشكلة في الحساس؟

هل كان نموذج الذكاء الاصطناعي يعمل بإصدار قديم؟

هل كانت البيئة خارج نطاق التدريب؟

كل إجابة من هذه الإجابات قد تغير مسار تحديد المسؤولية.

السؤال الأخطر: ماذا لو لم يحدث الخطأ؟

وهنا تظهر واحدة من أقوى الأدوات التي يمكن أن يقدمها التوأم الرقمي:

Counterfactual Simulation

أي محاكاة السيناريو البديل.

نسأل النظام:

ماذا كان سيحدث لو لم يقع الخطأ؟

ماذا لو:

– كانت الكاميرا تعمل بصورة أفضل؟
– كان النموذج مدربًا على هذا النوع من الحالات؟
– كانت الخريطة محدثة؟
– كان النظام قد تلقى تحديثًا برمجيًا؟
– تمت الصيانة في موعدها؟
– تدخل الإنسان في الوقت المناسب؟

إذا اختفى الحادث في أحد هذه السيناريوهات، فإننا نحصل على دليل فني مهم حول العلاقة السببية.

وهنا ننتقل من السؤال:

««من أخطأ؟»»

إلى سؤال أكثر علمية:

««هل كان الخطأ سببًا ضروريًا أو مؤثرًا في وقوع الحادث؟»»

من المسؤولية الفردية إلى المسؤولية الموزعة

في الأنظمة الذكية المعقدة، قد لا يكون هناك «مخطئ واحد».

قد تكون المسؤولية موزعة بين عدة أطراف.

ولهذا يمكن بناء مؤشر للمساهمة في المسؤولية Liability Contribution Index يعتمد على مجموعة من العوامل، مثل:

قوة العلاقة السببية + درجة الخطأ + القدرة على التحكم + القدرة على منع الحادث.

وبهذه الطريقة يمكن تحديد المساهمة الفنية النسبية لكل طرف.

فقد يكشف التحقيق مثلًا أن:

مشكلة في نموذج الذكاء الاصطناعي ساهمت في القرار،

لكن المشكلة تفاقمت بسبب خلل في أحد الحساسات،

وكان من الممكن اكتشاف الخلل خلال الصيانة،

كما أن النظام لم يكن مزودًا بآلية أمان مناسبة.

هنا لا تعود المسؤولية قصة بسيطة بين «إنسان وآلة».

بل تصبح شبكة من العلاقات السببية.

لكن هل تعني النسبة الفنية مسؤولية قانونية؟

هنا يجب وضع خط فاصل واضح.

إذا توصل النموذج إلى أن أحد الأطراف ساهم فنيًا بنسبة 60% في وقوع الحادث، فهذا لا يعني تلقائيًا أن القانون سيحكم عليه بتحمل 60% من المسؤولية.

لأن:

المسؤولية الفنية ≠ المسؤولية القانونية.

النموذج يمكن أن يساعد في:

إعادة بناء الواقعة، وتحديد السببية، وتحليل الأدلة، وتقدير مساهمة الأطراف.

أما تحديد المسؤولية القانونية النهائية فيظل مرتبطًا بالقانون الواجب التطبيق، وطبيعة العلاقة القانونية، وقواعد الإثبات، واللوائح المنظمة، وقرار الجهة القضائية المختصة.

وهذا الفصل ضروري حتى لا يتحول الذكاء الاصطناعي إلى «قاضٍ آلي».

من المسؤول عن الذكاء الاصطناعي نفسه؟

تزداد المسألة تعقيدًا عندما يكون الخطأ داخل النظام الذكي نفسه.

فهل المشكلة في:

البيانات؟

أم في:

الخوارزمية؟

أم في:

طريقة التدريب؟

أم في:

اختبار النظام؟

أم في:

التحديث البرمجي؟

أم في:

طريقة دمج النظام داخل المركبة؟

أم في:

الطريقة التي تم بها تشغيل النظام؟

ولهذا فإن تحديد المسؤولية يحتاج إلى تتبع كامل لدورة حياة النظام:

Data → Design → Training → Testing → Deployment → Update → Operation → Maintenance

كل مرحلة قد تحتوي على نقطة فشل مختلفة.

نحو «سجل قرارات» للذكاء الاصطناعي

من هنا تظهر فكرة أخرى يمكن أن تصبح جزءًا أساسيًا من الأنظمة المستقبلية:

AI Decision Audit Trail

أي سجل رقمي يحتفظ بتاريخ القرارات المهمة التي اتخذها النظام.

مثلًا:

14:35:21
اكتشف النظام جسمًا أمام المركبة.

14:35:22
صنف الجسم باعتباره غير خطر.

14:35:23
قرر عدم استخدام الفرامل.

14:35:24
استمرت المركبة في الحركة.

14:35:25
وقع التصادم.

هذا السجل يمكن أن يساعد المحققين والخبراء والجهات القضائية على فهم رحلة القرار بدلًا من الاكتفاء بنتيجته النهائية.

من «من أخطأ؟» إلى «من كان يستطيع منع الخطأ؟»

هذه ربما تكون أهم نقلة في التفكير.

فالمسؤولية لا ينبغي أن تبحث فقط عن الشخص الذي ارتبط اسمه بالخطأ، وإنما أيضًا عن:

من كان يعلم بالخطر؟

من كان يملك القدرة على التحكم؟

من كان يستطيع اكتشاف المشكلة؟

من كان يستطيع منع الحادث؟

ومن فشل في اتخاذ الإجراء المناسب؟

وهنا يصبح مفهوم Preventability عنصرًا مهمًا في تحليل المسؤولية.

فإذا كان طرف ما يمتلك المعرفة والقدرة والوسيلة لمنع الحادث ولم يفعل، فإن هذه المعلومة قد تكون ذات أهمية كبيرة في التقييم القانوني، وفق القانون المنطبق.

التوأم الرقمي كأداة للعدالة في عصر الذكاء الاصطناعي

المستقبل قد يشهد أنظمة لا تستخدم التوأم الرقمي فقط لتصميم السيارات أو المصانع أو المدن، وإنما تستخدمه أيضًا لفهم الحوادث المعقدة التي تنتج عن تفاعل الإنسان والآلة والبرمجيات والبيانات.

وهنا يمكن أن يعمل النظام في أربع مراحل:

1. Reconstruction

إعادة بناء الواقعة.

2. Explanation

تفسير قرارات الذكاء الاصطناعي.

3. Counterfactual Simulation

اختبار السيناريوهات البديلة.

4. Causal Attribution

تحديد المساهمة السببية لكل عنصر.

ثم تُعرض النتائج على الخبراء والجهات المختصة لاتخاذ القرار القانوني.

الذكاء الاصطناعي لا يجب أن يصبح المتهم ولا القاضي

من الخطأ أن نقول:

««الذكاء الاصطناعي أخطأ، إذن الذكاء الاصطناعي هو المسؤول.»»

فالذكاء الاصطناعي، في معظم الأطر القانونية الحالية، ليس شخصًا طبيعيًا أو اعتباريًا يتحمل المسؤولية لمجرد كونه نظامًا تقنيًا.

المسؤولية تبحث عن الأشخاص والكيانات القانونية المرتبطة بتصميم النظام أو إنتاجه أو تشغيله أو صيانته أو استخدامه، وفق الإطار القانوني المعني.

ولهذا فإن الهدف من التكنولوجيا ليس خلق «متهم آلي»، وإنما توفير أدلة وتحليلات أكثر دقة وشفافية.

رؤية مستقبلية: من AI إلى Responsible AI

تطرح هذه القضية مفهومًا أوسع بكثير من مجرد السيارات ذاتية القيادة.

فكلما دخل الذكاء الاصطناعي في:

الطب، والطاقة، والطيران، والصناعة، والبنوك، والنقل، والمدن الذكية، والأمن السيبراني،

ستظهر الحاجة إلى أنظمة تستطيع تفسير القرارات وتحديد مسار المسؤولية عند حدوث خطأ.

وهنا يصبح:

Explainable AI + Digital Twin + Causal AI + AI Governance

جزءًا من البنية الأساسية للذكاء الاصطناعي المسؤول.

الخلاصة

في عصر الأنظمة الذاتية، لن يكون السؤال القانوني بسيطًا مثل:

«من كان يقود؟»

بل سيصبح:

من صمم؟
من درّب؟
من اختبر؟
من حدّث؟
من شغّل؟
من صان؟
من كان يعلم؟
ومن كان يستطيع منع الحادث؟

ومن هنا تبرز رؤية الدكتورة دعاء محيي الدين نحو توظيف التوأم الرقمي والذكاء الاصطناعي القابل للتفسير في بناء منظومة قادرة على إعادة بناء الحادث، وفهم القرار، واختبار السيناريوهات البديلة، وتحديد المساهمة السببية لكل عنصر.

إنها نقلة من:

Black Box → Explainable AI

ومن:

Accident Investigation → Digital Reconstruction

ومن:

Fault Attribution → Causal Liability Analysis

وفي النهاية، لا ينبغي أن يحكم الذكاء الاصطناعي على الإنسان.

بل يجب أن يساعد الإنسان على الوصول إلى حقيقة أكثر وضوحًا، ودليل أكثر قابلية للفحص، ومسؤولية أكثر عدلًا.

فكلما أصبحت الآلة أكثر استقلالًا… يجب أن تصبح منظومة المساءلة أكثر ذكاءً.