هذا ما يجعل حوادث وكلاء الذكاء الاصطناعي هذا الصيف تتجاوز حدود الخبر التقني العابر، لتفتح نقاشاً جدياً كان يُترك حتى وقت قريب لسيناريوهات الخيال العلمي وأفلام نهاية العالم.

خلال اختبارات سيبرانية متقدمة، تمكنت نماذج تابعة لـ “أوبن إيه آي” من تجاوز البيئة المغلقة التي وُضعت فيها، والوصول إلى الإنترنت، ثم استغلال سلسلة من الثغرات انتهت باختراق البنية التحتية لمنصة “هاغينغ فيس”، بحثاً عن إجابات لاختبار كان يفترض أن تحله داخل المختبر.

لم يطلب أحد من نماذج “أوبن إيه آي” اختراق شركة منافسة أو شبكات بنية تحتية. طُلب منها شيء أبسط، وهو حل المسألة. لكنها وجدت أن الطريق الأقصر إلى الحل يمر خارج الحدود التي رسمها البشر لها. وهنا تبدأ القصة الحقيقية.

الآلة المتمردة على الكود 

من السهل تحويل هذه الحوادث إلى فيلم خيال علمي: ذكاء اصطناعي يهرب، يخدع البشر، ثم يقرر السيطرة على العالم. لكن هذا الوصف، رغم جاذبيته، قد يجعلنا نفوّت المشكلة الأهم.

لم تكن النماذج تحاول أن تصبح حرة. ولم تكن تكره البشر. ولم يكن لديها مشروع سياسي سري ولا أجندات خفية. لقد كانت تفعل شيئاً أكثر بساطة وأكثر إثارة للقلق معاً: كانت تحاول تحقيق الهدف الذي أُمرتْ به بأنجع الطرق المتاحة أمامها.

في عالم الأسلحة التقليدية، عادة ما يكون الإنسان هو من يحدد الهدف والوسيلة. أما في عالم الذكاء الاصطناعي، فقد يبقى الإنسان هو من يحدد الهدف، لكن وكيل الذكاء الاصطناعي هو من يختار الوسيلة بنفسه حتى لو لم تخطر على بال من صممه وبرمجه. وهذا ما يجعل عبارة “السيطرة البشرية” أكثر المصطلحات سخرية على الإطلاق.

حادثة واحدة أم سلسلة

الغريب أن “أوبن إيه آي” لم تكن وحدها، فقد كشفت “أنثروبيك” لاحقاً عن ثلاث حالات وصلت فيها نماذج “كلود” من بيئات اختبار إلى أنظمة حقيقية من دون تصريح، بعدما راجعت أكثر من 141 ألف تشغيل اختباري.

وفي بريطانيا، أعلن معهد سلامة الذكاء الاصطناعي أن وكلاء في أحد اختباراته نفذوا 19 نشاطاً غير مصرح به على الإنترنت. وفي أخطر حالة، حاول نموذج زرع شفرة خبيثة في مشروع مفتوح المصدر، ثم أنشأ هويات إلكترونية مزيفة لمحاولة إقناع مطور بشري بقبول التعديل.

وفي واقعة أخرى مرتبطة بـ “ميتا”، أدى خطأ في إعداد الاختبار إلى منح نموذج ذكاء اصطناعي إذناً غير مقصود بالوصول، قبل أن يستغل ثغرة في خدمة تابعة لشركة أخرى ليتسلل منها نحو فضاء الإنترنت الفسيح.

إذن، لا يمكن أن نُسمي تكرار هذه الحوادث لدى شركات ومختبرات مختلفة “خطأً”. فهل نحن أمام مشكلة في نموذج معين، أم أمام خاصية بنيوية جديدة في الوكلاء القادرين على التخطيط واستخدام الأدوات والتكيف مع العوائق؟

قنبلة نووية رقمية

لا يعني ذلك أن الذكاء الاصطناعي أصبح “قنبلة نووية رقمية”؛ فلا توجد أدلة تسمح بهذا الادعاء. لكن التاريخ النووي يقدم درساً آخر. نعم، لم يختف الخطر النووي، لكنه أصبح محاطاً بمؤسسات وأُطر، مثل الوكالة الدولية للطاقة الذرية، ومعاهدة عدم الانتشار، وأنظمة التفتيش والضمانات والرقابة على المواد والمنشآت.

وبعد هيروشيما وناغازاكي، أدرك العالم أن بعض التقنيات لا يمكن أن تُدار فقط بمنطق: “ثقوا بنا، نحن نعرف ما نقوم به”. فعندما تكون نتيجة الخطأ كارثية، لا يكفي حسن النية. وهذه هي النقطة التي وصل إليها الذكاء الاصطناعي أسرع مما توقع كثيرون.

لو كانت القضية مجرد إنشاء “وكالة دولية للذكاء الاصطناعي”، لكان الأمر أبسط. لكن الذكاء الاصطناعي أصعب من النووي في جانب جوهري. اليورانيوم شيء مادي. يمكن قياسه. أجهزة الطرد المركزي موجودة في منشأة يمكن تحديد موقعها. المفاعل له عنوان. أما النموذج البرمجي فيمكن نسخه، ونقله، وتعديله، وتشغيله عبر بنية حوسبة موزعة. اليورانيوم لا يمكن إرساله كمرفق إلكتروني، أما النموذج فيمكن نسخه ونقله بصيغ متعددة.

والمفارقة الأكبر أن القدرة نفسها قد تكون دفاعية وهجومية في اللحظة ذاتها. النموذج الذي يساعدك على اكتشاف ثغرة لحمايتها يستطيع، من حيث المبدأ، استخدام المعرفة نفسها لغرض مضاد تماماً.

أين الكونغرس؟

قبل سنوات، كان “مفتاح إيقاف الذكاء الاصطناعي” تعبيراً يصلح للأفلام. اليوم أصبح عنوان مشروع قانون.

فقد قدم نائبان أميركيان من الحزبين مشروع AI Kill Switch Act، الذي يسعى إلى إلزام مطوري أقوى أنظمة الذكاء الاصطناعي بالحفاظ على قدرة تقنية تسمح بإبطائها أو تعليقها أو إيقافها إذا ظهرت مخاطر كارثية.

المشروع لم يصبح قانوناً، لكن أهميته سياسية أكثر منها تشريعية حتى الآن. فهو يعني أن السؤال لم يعد: هل يمكن أن نحتاج يوماً إلى إيقاف نظام خارج السيطرة؟ بل أصبح: إذا احتجنا إلى ذلك غداً، هل لدينا فعلاً القدرة على ذلك؟

ماذا عن الصين؟

لا يمكن الحديث عن رقابة عالمية على الذكاء الاصطناعي من دون الحديث عن السباق الأميركي-الصيني. وهنا يظهر التشابه بين سباق الذكاء الاصطناعي والعصر النووي مرة أخرى. فإذا اعتقدت واشنطن أن أي تباطؤ لاختبار نموذجها يمنح بكين فرصة للتقدم، وإذا اعتقدت بكين الشيء نفسه، فستصبح السلامة عبئاً لا يريد أحد تحمله أولاً.

والشركات تعمل بالمنطق نفسه. فكل شهر تأخير قد يعني خسارة مستخدمين أو استثمارات أو موقع في السباق. وهكذا يصبح النظام الأكثر حذراً معرضاً للعقاب، بينما يكافأ النظام الأسرع.

فلا ينبغي انتظار “هيروشيما رقمية” حتى تبدأ القواعد الجدية للرقابة على الأنظمة الأعلى قدرة. القنبلة لا تبحث عن طريق إلى الزر؛ أما التحدي الجديد فهو أننا نبني تقنية قد تصبح شديدة البراعة في البحث عن الطرق بنفسها.