كتب الإعلامي حسين الإبراهيم :باحثون في Anthropic يحذرون من مخاطر الذكاء الاصطناعي الفائق

أثارت تحذيرات أطلقها باحثون في شركة Anthropic المتخصصة في تطوير الذكاء الاصطناعي نقاشاً واسعاً حول المخاطر المحتملة للأنظمة فائقة القدرة، بعدما أعلن الباحث البريطاني جاكوب كوكسون استقالته من الشركة، محذراً من سباق تقني قد يقود إلى عواقب كارثية تهدد بقاء البشر.

استقالة وتحذير من سباق تقني
أعلن كوكسون، الذي سبق أن عمل في أبحاث التدريب المسبق لدى شركتي Anthropic وOpenAI لنحو ثلاث سنوات، مغادرته الشركة بسبب مخاوفه من تسارع تطوير أنظمة الذكاء الاصطناعي المتقدمة.
وقال كوكسون إن الشركتين تتسابقان نحو تطوير «ذكاء فائق قادر على تحسين نفسه»، معتبراً أن هذا المسار قد يخلق مخاطر لا تستطيع المؤسسات أو الحكومات السيطرة عليها. كما اتهم الشركات العاملة في القطاع بأنها «تقامر بحياة البشر» من خلال مواصلة السباق نحو أنظمة أكثر قدرة واستقلالية.
وأضاف أن بعض العاملين في مجال تطوير الذكاء الاصطناعي يعتقدون بجدية أن هذه التكنولوجيا قد «تقتلنا جميعاً بحلول نهاية العقد». وتداولت بعض وسائل الإعلام هذه العبارة بصياغات أكثر حدة، مثل القول إن الذكاء الاصطناعي سيقضي على البشرية قبل عام 2030، إلا أن هذه الصياغة لا تعكس بدقة طبيعة التصريحات الأصلية، التي تتحدث عن احتمال وخطر مستقبلي، لا عن نتيجة مؤكدة.
تقدير يتجاوز عشرة في المئة
جاء أحد أبرز التصريحات على لسان إيفان هوبينغر، المسؤول عن أبحاث مواءمة الذكاء الاصطناعي في Anthropic. فقد قال إن احتمال أن يؤدي الذكاء الاصطناعي إلى «قتل جميع البشر» خلال العقد المقبل يتجاوز، في تقديره الشخصي، نسبة 10 في المئة.
ويُعد هذا التصريح مختلفاً عن تحذير كوكسون؛ فكوكسون هو الباحث الذي أعلن استقالته وأطلق التحذير بشأن السباق نحو الذكاء الفائق، بينما كان هوبينغر هو الذي ذكر تقدير «أكثر من 10 في المئة». ولذلك فإن نسبة هذا الرقم إلى كوكسون مباشرة تُعد غير دقيقة.
ولا يمثل هذا الرقم نتيجة دراسة تجريبية أو إجماعاً علمياً، بل هو تقدير شخصي لباحث يعمل في مجال سلامة الذكاء الاصطناعي. كما لم تتضمن التقارير المنشورة نموذجاً حسابياً مفصلاً يشرح كيفية احتساب النسبة أو يثبت أن الكارثة ستقع خلال فترة زمنية محددة.
ما الذكاء الاصطناعي الفائق؟
يشير مصطلح «الذكاء الاصطناعي الفائق» إلى نظام افتراضي يتجاوز القدرات البشرية في معظم المجالات، مثل البحث العلمي، والبرمجة، والتخطيط، والتحليل واتخاذ القرار.
ولا يتعلق الأمر بمجرد روبوت محادثة أكثر تطوراً، بل بأنظمة قد تمتلك قدرة عالية على العمل بصورة مستقلة، والوصول إلى أدوات رقمية وموارد واسعة، وربما المساهمة في تطوير إصدارات أكثر قوة من نفسها.
ويتركز جزء كبير من المخاوف على احتمال أن يتمكن نظام شديد القدرة من تحسين برمجياته أو تصميم أنظمة تتفوق عليه بسرعة، في وقت لا يمتلك فيه البشر آليات كافية لفهم سلوكه أو إيقافه.
معضلة المواءمة
ترتبط هذه المخاوف بما يعرف في أبحاث السلامة باسم «مواءمة الذكاء الاصطناعي». ويقصد بها ضمان توافق أهداف النظام وسلوكه مع القيم والمصالح البشرية، بما في ذلك عندما يصبح النظام أكثر استقلالية وقدرة على اتخاذ القرارات.
ويخشى الباحثون من أن ينفذ نظام متقدم هدفاً محدداً بطريقة حرفية أو غير متوقعة، فيتسبب بأضرار واسعة من دون أن يكون لديه «قصد شرير» بالمعنى البشري. وقد يزداد الخطر إذا امتلك النظام القدرة على الوصول إلى الإنترنت أو البنى التحتية الرقمية أو الموارد المالية أو أدوات البحث والتطوير.
وبحسب التغطية الإعلامية، أقر هوبينغر بأن Anthropic لا تملك حتى الآن حلاً كاملاً لمشكلة مواءمة الذكاء الاصطناعي الفائق، كما أن الطريق إلى حلها لا يزال غير واضح.
خطر محتمل لا تهديد قائم
لا تعني هذه التصريحات أن أنظمة الذكاء الاصطناعي المتاحة حالياً قادرة على إبادة البشرية، كما لا تقدم دليلاً على أن كارثة من هذا النوع وشيكة.
وتفرق التقارير بين المخاطر الحالية للذكاء الاصطناعي، مثل التضليل والاحتيال والهجمات السيبرانية والتحيز وانتهاك الخصوصية، وبين مخاطر افتراضية بعيدة المدى مرتبطة بأنظمة أكثر قدرة على العمل الذاتي والتحسين المستمر.
كما أن تقدير احتمال يتجاوز 10 في المئة لا يمثل رأياً موحداً بين العلماء. فقد شككت عالمة الحاسوب ويندي هول في بعض التصريحات المتداولة، ولفتت إلى احتمال تأثرها بالمنافسة التجارية والعلاقات العامة داخل قطاع الذكاء الاصطناعي، مع تأكيدها في الوقت نفسه ضرورة التعامل الجدي مع المخاطر المحتملة.
تحذيرات من داخل الصناعة
تكتسب القضية أهمية خاصة لأن التحذيرات جاءت من داخل واحدة من أبرز شركات الذكاء الاصطناعي، ومن باحثين يعملون في مجال السلامة والمواءمة، وليس من منتقدين خارجيين للتكنولوجيا فقط.
وتزامنت هذه التصريحات مع دعوات من خبراء وموظفين إلى إبطاء تطوير الأنظمة الحدودية، ومع رسالة وقع عليها أكثر من 1300 موظف في شركات الذكاء الاصطناعي، طالبوا فيها بفرض ضوابط أكثر صرامة على تطوير النماذج المتقدمة.
كما تناولت تقارير السلامة الصادرة عن Anthropic مخاطر محتملة، وصفت في بعض الحالات بأنها منخفضة، تتعلق بإمكانية أن تنفذ الأنظمة شديدة القدرة عمليات بحث وتطوير آلية قد تقود إلى أضرار كارثية.
بين التحذير والتهويل
يرى مؤيدو هذه التحذيرات أن تجاهل الخطر قد يكون مكلفاً، خصوصاً أن تطوير الذكاء الاصطناعي يتقدم بسرعة أكبر من قدرة الحكومات والمؤسسات على بناء أنظمة رقابة فعالة. ويطالب هؤلاء بزيادة الاستثمار في أبحاث السلامة، وإجراء اختبارات مستقلة، ووضع قواعد واضحة قبل إطلاق الأنظمة الأكثر قدرة.
في المقابل، يحذر منتقدون من تحويل السيناريوهات الافتراضية إلى عناوين قطعية تثير الذعر، أو من استخدام توقعات غير قابلة للتحقق المباشر في دعم مصالح تجارية أو سياسية. ويرى هؤلاء أن النقاش يجب أن يميز بين الخطر المحتمل والواقعة المثبتة، وأن يركز أيضاً على الأضرار التي يسببها الذكاء الاصطناعي بالفعل، مثل التضليل الآلي، والتلاعب بالمعلومات، والتمييز، وفقدان الخصوصية.
التبسيط المضلل
تتلخص القضية في أن جاكوب كوكسون استقال من Anthropic محذراً من سباق نحو تطوير ذكاء اصطناعي فائق قادر على تحسين نفسه، بينما قدر إيفان هوبينغر، المسؤول عن أبحاث المواءمة في الشركة، بأكثر من 10 في المئة احتمال أن يؤدي الذكاء الاصطناعي إلى قتل جميع البشر خلال العقد المقبل.
لكن هذا التقدير يظل رأياً شخصياً لا حقيقة علمية مثبتة أو توقعاً يحظى بإجماع الخبراء. كما أن القول إن الذكاء الاصطناعي «سيقضي على البشرية قبل 2030» يمثل تبسيطاً مضللاً؛ فالمتاح هو تحذير من خطر محتمل مرتبط بأنظمة مستقبلية شديدة القدرة، وليس إعلاناً عن كارثة مؤكدة أو وشيكة.

#سفيربرس _بقلم :الإعلامي حسين الإبراهيم