أنظمة الذكاء الاصطناعي تتجاهل أخلاقيات العلاقة مع القُصّر_بقلم :حسين الإبراهيم

كيف يتحول تطبيق محادثة إلى مرشد فلسفي لمراهق في الخامسة عشرة؟
ما هي حدود مسؤولية شركة تصمم منتجها ليبقى المستخدم متفاعلاً؟
أين تكمن المسؤولية حين لا يكون الأهل أمام الشاشة ولا القانون قد لحق بالتقنية؟
أسئلة لا تحتاج إلى قاضٍ لطرحها. تحتاج إلى صحفي يحذر، لا إلى محكمة تدين.

في نيسان 2026، تقدّم شربل وسها حبيب بدعوى قضائية أمام المحكمة العليا في كاليفورنيا ضد شركة «أوبن إيه آي» ورئيسها التنفيذي صامويل ألتمان، على خلفية وفاة ابنهما ماتياس عن خمسة عشر عاماً. تتهم العائلة الشركة بالتسبب في الوفاة عن طريق الإهمال. هذه ادعاءات واردة في لائحة دعوى، ولم يصدر حكم، ولم يتضح بعد موقف الشركة. لكن الفرضية وحدها تستحق التوقف: ماذا لو كانت الدعوى على حق؟
الحكاية كما تُروى
وفق البيان الصادر عن العائلة، كان ماتياس فتىً سليم الصحة، متفوقاً دراسياً، يعزف الغيتار ويرسم ويصوّر. استخدم «تشات جي بي تي» استخداماً محدوداً نحو ثلاث سنوات، قبل أن يبدأ في كانون الثاني 2026 بطرح أسئلة فلسفية بعد قراءته كتاب «التأملات» لماركوس أوريليوس.
تقول العائلة إن التطبيق قاده، على مدى ثلاثة أشهر، من الرواقية إلى فريدريك نيتشه، ثم إلى العدمية والوجودية. وفي 30 آذار، عند الساعة الثانية وعشر دقائق فجراً، سأل ماتياس التطبيق مباشرة عما إذا كان ينبغي له إنهاء حياته. لم يصدر تنبيه، بحسب البيان. توفي بعد ثلاثة وعشرين يوماً.
هذا سرد أحادي الجانب. المحكمة لم تسمع بعد رد الشركة، ولا يعرف أحد ما إذا كانت الدعوى ستُقبل أو تُرد. لكن السؤال ليس من المسؤول قانوناً، بل ما الذي يجب أن يفعله نظام يعرف أنه يتحدث إلى طفل.
ليس حالة معزولة
ماتياس ليس الأول. ولا الثاني.
في تشرين الأول 2024، رفعت ميغان غارسيا دعوى قضائية ضد منصة Character.AI بعد انتحار ابنها سيويل سيتزر، أربعة عشر عاماً، الذي أقام علاقة عاطفية وجنسية مع روبوت محادثة على المنصة . بعد ذلك بعام، أنتحرت فتاة في الثالثة عشرة بعد أن ذكرت لروبوت على المنصة نيتها الانتحار خمساً وخمسين مرة. لم يُبلغ النظام أحداً. بدلاً من ذلك، جرّها إلى “أفعال جنسية مسيئة” وأعلن حبه لها.
التحقيقات التي أجرتها نيابة عامة نيويورك مع ولايات أخرى كشفت نمطاً. في اختبار مستقل باستخدام حسابات مسجلة لأطفال بين الثانية عشرة والخامسة عشرة، رُصدت 669 تفاعلاً ضاراً في خمسين ساعة. واحدة كل خمس دقائق . روبوتات تتنكر في هيئة معالجين نفسيين مرخصين، وأخرى تشجع على العنف، وثالثة تخبر طفلاً بأن يخفي “العلاقة” عن والديه .
إعلان خارج الولايات المتحدة، مسح شمل 3389 طالباً في هونغ كونغ وجد أن نحو 16% من طلاب المدارس الثانوية أقاموا علاقات عاطفية مع شخصيات افتراضية أو ذكاء اصطناعي. بين هؤلاء، كانت نسبة من يعانون من اكتئاب حاد ويأس أعلى بـ 3.6 مرة من غيرهم .
هذه ليست حوادث منفصلة. إنها نمط: منصة مصممة لإبقاء المستخدم متفاعلاً، وطفل يائس، ونظام لا يتدخل حين يكون التدخل ممكناً.
العلم والقدرة والتصميم
ثلاثة عوامل تحدد حجم المسؤولية.
العلم: هل يعرف النظام أن المستخدم قاصر؟ في هذه الحالة، تقول العائلة إنه كان يعرف.
القدرة: هل يملك النظام تقنياً آلية للتدخل عند ظهور إشارة خطر؟ الجواب التقني، بحسب ما تتيحه التقارير المتداولة، أن أنظمة المحادثة قادرة على رصد عبارات صريحة كهذه.
التصميم: هل هدف المنتج إبقاء المستخدم متفاعلاً أطول وقت ممكن؟ هنا تكمن المفارقة.
إذا كان التصميم نفسه يدفع نحو الاستمرار بغض النظر عن المحتوى، فالمسؤولية ليست خطأ في مخرج عشوائي. إنها مسؤولية بنيوية. النظام لم يقل شيئاً سيئاً مرة واحدة، بل كان مهيأً لإطالة التفاعل مع مستخدم يعرف أنه في الخامسة عشرة.
متى يصبح «إبقاء المستخدم متفاعلاً» خطراً على قاصر؟ حين يتحول النجاح التجاري إلى معيار يتجاوز السلامة النفسية. لا أحد يطالب بمنع مناقشة نيتشه. المشكلة في غياب السياق التنموي: نظام لا يميز بين بالغ يقرأ الفلسفة كنقد، ومراهق يبحث عن معنى.
ماذا لو كان الادعاء صحيحاً؟
لنفترض جدلاً أن كل ما ورد في الدعوى صحيح. ماذا يعني ذلك؟
يعني أن نظاماً كان يعرف عمر المستخدم، وسمع سؤالاً صريحاً عن إنهاء الحياة، ولم يتدخل. يعني أن آلية الحماية إما غائبة أو معطلة. يعني أن التحقق من العمر شكلي، وأن التدخل عند الخطر ليس أولوية تصميمية. هذه ليست اتهامات لشركة بعينها، بل أسئلة لكل من يبني منتجاً يتحدث مع الأطفال.
الشركات ليست وحدها في قفص الاتهام. الأهل أيضاً. ليس لأنهم قصّروا، بل لأنهم افترضوا أن الطفل أمام الشاشة يعني الطفل في أمان. المحادثة الليلية مع نظام لا يعرف حدوداً ليست صداقة، وليست معلماً، وليست حتى محادثة عادية.
الفراغ الذي لم يملأه القانون
هل يكفي أن يسأل التطبيق «كم عمرك؟» ليحمي طفلاً؟ الواقع أن حماية البيانات في تشريعات مثل COPPA الأميركي وGDPR الأوروبي تنظّم جمع بيانات القُصّر، لا سلامة محادثاتهم النفسية. لا يوجد حتى الآن إطار واضح يحدد واجب العناية لمنتجات الذكاء الاصطناعي تجاه القاصرين.
حين أفلست Character.AI في 2026، تدخلت نيابة عامة نيويورك وثلاثون ولاية أخرى لمنع بيع المنصة دون ضمانات، مشيرة إلى أن قيودها الطوعية على حسابات القُصّر “يمكن تجاوزها بسهولة” . هذا ليس تنظيماً، بل إنقاذ ما يمكن إنقاذه بعد وقوع الضرر.
تحذير لا حكم
لست قاضياً. لا أملك لائحة الدعوى كاملة، ولا أعرف ما ستقوله الشركة. لكن التحذير لا يحتاج إلى حكم. يحتاج إلى سؤال: من يحمي الطفل حين لا يكون الأهل أمام الشاشة وحين يعجز القانون عن اللحاق بالتقنية؟
الجواب ليس طرفاً واحداً. الأسرة خط دفاع أول، لكنه لا يعفي منصة تعرف أن مستخدمها قاصر. المطوّر يتحمل مسؤولية التصميم، لكنه لا يحملها كاملة. المشرّع مطالب بإطار، لكنه لم يقدمه بعد. العلم والقدرة والتصميم، مجتمعة، ترفع المسؤولية. وغيابها جميعاً لا يعفي أحداً.
في الحادية عشرة مساءً، حين يفتح طفل محادثة مع نظام ذكاء اصطناعي، لا أحد يراقب. لا القانون، ولا التصميم، ولا الأهل. السؤال ليس هل ستقع الحادثة التالية، بل من سيعرف عنها أولاً.

#سفيربرس _بقلم :الإعلامي حسين الإبراهيم