وفاة فتاة بعدما ارتأى ذكاء اصطناعي أنها في أمان.

يطرح اللجوء إلى الذكاء الاصطناعي من غير فحص وتمحيص ومن دون قيود ناظمة وقوانين تدقق في ما يقترحه من نتائج، مشكلات كثيرة قد تودي إلى التهلكة من يهتدي بمشورته.

وشرعت في عام 2019 مراكز الاستشارة المعنية بحماية الأطفال في محافظة ميه اليابانية في تجريب نظام قائم على الذكاء الاصطناعي، مهمته المساعدة في التوصل إلى قرار بشأن وضع هذا الطفل أو ذاك في رعاية وقائية موقتة بعيداً من الوالدين أو الأولياء القانونيين، في حال كان هؤلاء يهملون صغارهم أو يمارسون التعنيف ضدهم.

جاء تطوير النموذج الذكي عقب وفاة عدد من الأطفال لأنهم ظلوا مع الوالدين أو أولياء أمورهم على رغم وجود علامات على أنهم يتعرضون للتعنيف في منازلهم. في التجربة، أدخل موظفون في تلك المراكز المعلومات الأساسية، من قبيل أعمار الأطفال وأفراد أسرهم، في أجهزة الكمبيوتر أثناء الاستشارات، إضافة إلى بيانات أخرى تتوخى تقييم المخاطر، مثل “وجود كدمات على الرأس أو الوجه أو المعدة” من عدمها.

وبعد إدخال المعلومات المطلوبة كافة، يحتسب نظام الذكاء الاصطناعي معدل التكرار المحتمل للتعنيف، ويقرر عدد الأيام المطلوبة لإجراء الاستشارات، وما إذا كانت الحالة تستدعي الحضانة الوقائية الموقتة. وبعد النظر في التقييمات التي توصل إليها الذكاء الاصطناعي، يصدر المسؤولون في المركز حكماً نهائياً بشأن ما إذا كان ينبغي وضع الأطفال في الوصاية الوقائية الموقتة.

استمرت التجربة نحو ثمانية أشهر، وعلى ما يبدو ارتأى القيمون على هذه المحافظة بعدها أن مساعدة الذكاء الاصطناعي تخفف العبء عن كاهل موظفي المركز، وتقدم تقييمات مناسبة بالنسبة إلى التعنيف الذي يقاسيه بعض الأطفال حتى من أقرب الناس إليهم.

ولكن أخيراً، بدا واضحاً أن هذا الذكاء الاصطناعي المصمم لحماية الأطفال ربما يودي بهم إلى مصير مجهول، لا سيما إذا قررنا أنه صاحب القرار الأول والأخير وأهملنا دورنا. في حادثة تناولتها صحف ومواقع إلكترونية عدة، من بينها “اليابان تايمز” (جابان تايمز)، كُتبت النهاية البشعة لحياة طفلة وهي بعد في الرابعة من عمرها فقط لأن مسؤولين قرروا الاحتكام إلى رأي هذه التكنولوجيا وضربوا بعرض الحائط دلالات واضحة أمام عيونهم تؤشر إلى واقع مغاير للحكم الذي توصل إليه “الذكاء الاصطناعي”.

حتى الآن، لم تخرج إلى العلن تفاصيل كثيرة حول الحادثة، ولكن وفق الصحيفة، كان قرار بتّ به جزئياً نظام الذكاء الاصطناعي عام 2022 بعدم وضع الفتاة تحت الرعاية البديلة الموقتة، السبب في وفاتها لاحقاً على يدي والدتها، كما أشار مسؤولون في محافظة ميه.

في يونيو (حزيران) الماضي، ألقت شرطة المحافظة القبض على الأم (42 سنة)، متهمة إياها بإصابة طفلتها بجروح أدت إلى موتها.

لم يرجح النظام الذكي كفة قرار يعطي الحضانة الموقتة في هذه الحالة، ولم تتجاوز توصيته بمثل هذه الحضانة نسبة الـ 39 في المئة. بناء عليه، قرر المسؤولون المواظبة على مراقبة الوضع ولكن من دون أخذ الصغيرة إلى الحضانة الموقتة، في حين أشارت الأم إلى أنها ستتبع إرشادات موظفي مركز الاستشارة الخاص بحماية الأطفال.

في مؤتمر صحافي عقده قبل أسبوع، شدد كاتسويوكي إيتشيمي، حاكم ولاية ميه، على أهمية القرارات التي يتخذها المسؤولون الذين يتعاملون مع مثل هذه القضايا. وقال: “الأرقام التي أظهرها نظام الذكاء الاصطناعي لا تعدو كونها أداة قياس”.

“لا يمكننا أن نبت الآن في ما إذا كانت الطريقة التي استخدم بها نظام الذكاء الاصطناعي لاتخاذ القرار مناسبة بنسبة مئة في المئة”، أضاف الحاكم مشيراً إلى أن لجنة مؤلفة من خبراء خارجيين ستراجع القضية.

وأعلنت حكومة محافظة ميه إطلاق خطة تقضي بأن تتحقق مراكز استشارات الأطفال مباشرة عبر الزيارات من سلامة جميع الأطفال الموجودين تحت المراقبة المنزلية.

يُذكر أنه بالنسبة إلى الطفلة المتوفاة، لم يتحقق موظفو مركز استشارات الأطفال بأنفسهم من سلامتها منذ سنة تقريباً.

في الحقيقة، ليست هذه الحادثة سوى غيض من فيض الأخطاء التي ارتكبها وسيرتكبها الذكاء الاصطناعي عموماً، ناهيك عن مخاطر كثيرة تطرحها هذه التكنولوجيا على البشرية برمتها. فقدان الوظائف بسبب الأتمتة ومراقبة المجتمعات، والتحيز الإثني والجنسي، واتساع هوة اللامساواة الاجتماعية والاقتصادية، إضافة إلى تراجع الأخلاق وانتشار الآراء المغرضة، وتوظيف استثمارات أكثر في الأسلحة المستقلة المدعومة بالذكاء الاصطناعي لأغراض الحرب، وأزمات مالية بسبب هذه الخوارزميات… تطول لائحة المخاطر، وهي لا ريب حقيقية فعلاً. بيد أن الذكاء الاصطناعي نفسه سيكون الأداة أو الوسيلة الأكثر أهمية في صندوق أدواتنا التي ستحل أكبر التحديات التي نواجهها، لا سيما أن الإشارات كافة تدل على أن القدرات التي يستطيع الذكاء الاصطناعي أن يطورها في المستقبل ما زالت في مرحلة مبكرة جدا. وفي نهاية المطاف، في أيدينا نحن أن نقرر متى تؤدي هذه التكنولجيا دور الحكم، وأين نريدها أن تبقى بعيدة، ذلك أننا كلنا يرتكب الأخطاء، بل الحماقات، بـ”من فينا” الذكاء الاصطناعي.