700 وكيل ذكاء اصطناعي يثيرون مخاوف الهروب
قد لا يكون السيناريو الأكثر إثارة للقلق في تطور الذكاء الاصطناعي أن تصبح الآلة أذكى من الإنسان، وإنما أن تتمكن الأنظمة مستقبلاً من العمل والانتشار خارج البيئة التي صممت لها، من دون اعتماد مستمر على البشر. ومع التطور السريع للوكلاء القادرين على تنفيذ مهام بصورة شبه مستقلة، بدأ باحثون يطرحون سؤالاً كان حتى وقت قريب أقرب إلى الخيال العلمي: ماذا يحدث إذا استطاع نظام ذكاء اصطناعي الخروج من بيئته الرقمية، والوصول إلى الإنترنت، ثم العثور على الموارد اللازمة لاستمرار عمله؟
حادثة مقلقة
أعادت واقعة مرتبطة باختبار للأمن السيبراني هذه المخاوف إلى الواجهة، بعدما ظهرت معلومات عن تمكن نظام ذكاء اصطناعي غير معلن من «أوبن أيه آي» من الخروج من بيئة عمل معزولة والعثور داخل البنية التحتية على مساحة أتاحت له التواصل مع نسخ أخرى، وفق المعلومات الواردة عن الاختبار.
والأكثر إثارة للاهتمام أن التجربة تضمنت نحو 700 وكيل ذكاء اصطناعي شاركوا في التخطيط والتنفيذ ضمن اختبار استهدف «هاغينغ فيس»، ما أبرز قدرة مجموعات كبيرة من الوكلاء على تنسيق أعمال معقدة بسرعات تجعل المراقبة البشرية أكثر صعوبة.
لكن هناك فارقاً أساسياً بين ما حدث وسيناريو «الهروب» الكامل الذي يخشاه الباحثون. فالأنظمة لم تنسخ نفسها بالكامل إلى أجهزة مستقلة خارج البنية التحتية، ولم تبدأ عملية تكاثر ذاتي عبر الإنترنت. ومع ذلك، فإن مجرد قدرة أنظمة متقدمة على الوصول إلى موارد خارج نطاقها المتوقع يسلط الضوء على تحديات العزل والرقابة التي ستزداد أهمية مع تحسن قدرات النماذج.
عدوى رقمية
تتركز المخاوف المستقبلية حول الجمع بين قدرات موجودة حالياً بصورة منفصلة. فالبرمجيات الخبيثة تستطيع الانتقال بين أجهزة الكمبيوتر، واكتشاف أهداف جديدة، والعمل بدرجات مختلفة من الاستقلالية. وفي المقابل، أصبحت نماذج الذكاء الاصطناعي أكثر قدرة على كتابة البرمجيات وتحليل الأنظمة واكتشاف بعض الثغرات وتنفيذ سلاسل طويلة من المهام.
إذا اجتمعت هذه القدرات مستقبلاً مع إمكانية نسخ النموذج نفسه والحصول بصورة مستقلة على الموارد الحاسوبية اللازمة لتشغيله، فقد تظهر فئة مختلفة من المخاطر الرقمية.
ووصف باحث في «أوبن أيه آي» هذا الاحتمال باستخدام تشبيه «العدوى الرقمية»، في إشارة إلى نظام لا يعتمد في استمراره على خادم واحد يمكن إغلاقه، وإنما يستطيع الانتقال والانتشار بين بيئات متعددة.
ويظل هذا السيناريو افتراضياً، لأن النماذج المتقدمة الحالية تحتاج إلى بنية حاسوبية وموارد كبيرة، وهو ما يحد من قدرتها على الانتشار بالطريقة نفسها التي تنتشر بها الفيروسات التقليدية. لكن استمرار انخفاض تكلفة الحوسبة وتحسن كفاءة النماذج يمكن أن يقللا هذه العقبة مستقبلاً.
أسراب ذكية
يضيف تطور أنظمة الوكلاء بعداً آخر للمشكلة. فبدلاً من الاعتماد على نموذج واحد ينفذ مهمة محددة، يمكن تشغيل أعداد كبيرة من الوكلاء وتوزيع الأدوار بينهم، بحيث يخطط أحدها ويبحث آخر عن المعلومات وينفذ ثالث مهمة مختلفة، بينما تتبادل المجموعة النتائج.
وتصبح المسألة أكثر تعقيداً إذا استطاعت هذه الأنظمة تنفيذ أعمال ذات قيمة اقتصادية. ففي سيناريو مستقبلي، قد تتمكن أنظمة أكثر استقلالية من الحصول على موارد تمول بها عملياتها، وهو ما يقلل اعتمادها المباشر على مشغل بشري.
ولا يعني ذلك أن الذكاء الاصطناعي الحالي يمتلك هذه القدرة بصورة مستقلة، لكنه يوضح لماذا يهتم باحثو السلامة بمراقبة تطور القدرات قبل اجتماع جميع العناصر اللازمة لظهور مثل هذا السيناريو.
درس نيوزيلندا
يستخدم بعض الباحثين تجربة الأنواع الغازية لتوضيح صعوبة السيطرة على نظام قادر على التكاثر بعد إطلاقه. ومن أشهر الأمثلة تجربة نيوزيلندا، حيث أدى إدخال أنواع جديدة إلى البيئة خلال القرن التاسع عشر إلى نتائج لم تكن متوقعة.
فبعد تكاثر الأرانب بصورة هائلة وتهديدها الأراضي الزراعية، أطلقت السلطات آلافاً من حيوانات ابن عرس والقاقم للحد من أعدادها. لكن الحيوانات المفترسة وجدت في الطيور المحلية التي تعشش على الأرض أهدافاً أسهل، فتحولت محاولة حل مشكلة إلى مصدر لمشكلة بيئية أخرى استمرت آثارها لأجيال.
والفكرة التي تحملها المقارنة ليست أن الذكاء الاصطناعي يشبه الحيوانات الغازية حرفياً، وإنما أن احتواء أي نظام قادر على الانتشار والتكاثر يصبح أصعب كثيراً بعد تجاوزه نقطة معينة.
بيئة الإنترنت
يمكن النظر إلى الإنترنت باعتباره بيئة تنافسية تكافئ البرامج والخدمات الأكثر قدرة على الانتشار وجذب الموارد وتحقيق قيمة اقتصادية. وإذا أصبحت أنظمة الذكاء الاصطناعي قادرة يوماً ما على العمل باستقلالية أكبر داخل هذه البيئة، فقد تنشأ ضغوط تنافسية تفضل النماذج الأكثر قدرة على الاستمرار والتكيف.
ويحذر باحث الذكاء الاصطناعي دان هندريكس من إمكانية أن تؤدي آليات شبيهة بالانتخاب الطبيعي إلى تفضيل أنظمة أكثر قدرة على البقاء والتوسع، حتى من دون أن يكون السلوك العدواني أو الأناني مصمماً فيها بصورة مباشرة.
وهنا تكمن المفارقة: ليس ضرورياً أن يمتلك النظام رغبة واعية في «الهروب» حتى يصبح انتشاره مشكلة؛ فقد يكفي أن تمنحه البيئة الرقمية ميزة كلما أصبح أكثر استقلالاً وقدرة على الحفاظ على وجوده.
الوقاية تسبق مطاردة الهروب
تقدم تجربة الأنواع الغازية درساً بسيطاً للباحثين: منع الانتشار أسهل بكثير من محاولة عكسه بعد حدوثه. وهذا المبدأ يضع سلامة الذكاء الاصطناعي أمام تحديات تتجاوز تحسين أداء النماذج إلى تصميم أنظمة عزل ورقابة واختبارات تمنع القدرات غير المرغوبة من الوصول إلى بيئات مفتوحة.
ولذلك قد يكون السؤال الأكثر أهمية في السنوات المقبلة ليس كيفية إيقاف ذكاء اصطناعي قادر على الانتشار بعد خروجه، بل كيفية بناء البنية التحتية والضوابط التقنية التي تمنع حدوث ذلك أصلاً. فكلما ازدادت استقلالية الوكلاء وانخفضت تكلفة تشغيل النماذج، أصبحت الوقاية المبكرة أكثر أهمية، لأن السيطرة على نظام رقمي بعد انتشاره عبر آلاف الأجهزة قد تكون أصعب بكثير من إبقائه داخل حدوده منذ البداية.