كوكسون: الذكاء الفائق قد يهدد البشر
أشعلت استقالة الباحث جاكوب كوكسون من شركة «أنثروبيك» موجة جديدة من الجدل بشأن المخاطر المحتملة للذكاء الاصطناعي، بعدما اتهم مختبرات التكنولوجيا الكبرى بخوض سباق متسارع نحو أنظمة فائقة الذكاء يمكنها تطوير قدراتها ذاتياً، من دون امتلاك ضمانات كافية لبقاء تلك الأنظمة تحت السيطرة البشرية. وعمل كوكسون خلال السنوات الثلاث الماضية في أبحاث تدريب النماذج لدى «أوبن إيه آي» ثم «أنثروبيك»، قبل أن يقرر مغادرة الأخيرة محذراً من أن المنافسة بين الشركات أصبحت، من وجهة نظره، مقامرة بمستقبل الإنسان. ولا يتعلق تحذيره بالنماذج المستخدمة حالياً بقدر ما يركز على احتمال ظهور أنظمة قادرة على تحسين نفسها بصورة متكررة، وصولاً إلى قدرات تتجاوز البشر في مجالات متعددة. ويقول إن الخطر يصبح أكثر تعقيداً إذا امتلكت تلك الأنظمة قدرات متقدمة في البرمجة والاختراق والوصول إلى الموارد والتخطيط المستقل.
سباق محموم
تكمن المشكلة، وفق رؤية كوكسون، في الحوافز التي تحكم المنافسة بين مختبرات الذكاء الاصطناعي. فحتى الشركات التي تعترف بالمخاطر المحتملة تجد نفسها تحت ضغط الاستمرار في تطوير نماذج أكثر قوة خوفاً من أن يصل منافس آخر إلى المستوى التالي أولاً. ويخلق ذلك ما يشبه «سباق تسلح تقني»، إذ ترى كل شركة أن إبطاء تقدمها بصورة منفردة قد يمنح منافسيها، سواء داخل الولايات المتحدة أو خارجها، تفوقاً استراتيجياً يصعب استعادته.
وتكتسب التحذيرات أهمية إضافية لأنها لم تصدر عن باحث غادر الشركة وحده. فقد أيد إيفان هوبينغر، الذي يقود أبحاث المواءمة في «أنثروبيك»، جانباً أساسياً من مخاوف كوكسون، وقدر شخصياً احتمال أن يؤدي الذكاء الاصطناعي إلى القضاء على البشر بأكثر من 10% خلال العقد المقبل. لكنه شدد في الوقت نفسه على أن الخطر الذي يتحدث عنه لا يتعلق بالنماذج الحالية، التي يرى أن مخاطرها المباشرة منخفضة، وإنما باحتمال ظهور ذكاء فائق من خلال عملية التحسين الذاتي المتكرر.
قفزة علمية
تزامنت هذه المخاوف مع إعلان «أوبن إيه آي» تحقيق إنجاز علمي لافت يوضح مدى السرعة التي تتقدم بها قدرات الأنظمة الجديدة. فقد أعلنت الشركة أن نظاماً داخلياً أكثر تقدماً من نماذجها المتاحة للجمهور استخدم مجموعة تضم نحو 10 آلاف وكيل ذكاء اصطناعي متزامن للعمل على مسألة «نافييه–ستوكس»، إحدى مسائل جائزة الألفية التي استعصت على علماء الرياضيات لنحو 90 عاماً.
وبحسب الشركة، توصل النظام إلى حل بعد نحو 88 ساعة من بدء العمل، ثم استغرقت عملية التحقق والصياغة الرسمية باستخدام نظام «Lean» 17 ساعة إضافية. وخلال معالجة المسألة تبادلت الوكلاء نحو 2.7 مليون رسالة واستخدمت قرابة 130 مليار رمز مخرجات. وأعلنت الشركة أن النتيجة تثبت إمكانية تطور تفرد رياضي خلال زمن محدود في ديناميكيات الموائع التي تصفها معادلات نافييه–ستوكس.
لكن الإعلان يحتاج إلى قدر من التحفظ العلمي. فالحل، رغم نشره وصياغته رسمياً، لا يزال بحاجة إلى تدقيق المجتمع الرياضي، ولم يحصل بعد على اعتراف نهائي من معهد كلاي للرياضيات المسؤول عن مسائل جائزة الألفية. لذلك يمثل الإنجاز في الوقت الحالي دليلاً قوياً على قدرة الأنظمة المتقدمة على المشاركة في أبحاث علمية عميقة، وليس حكماً نهائياً مستقلاً بإغلاق واحدة من أشهر المسائل الرياضية.
مفارقة التطور
هنا تظهر المفارقة التي تشغل الباحثين: القدرات التي تجعل الذكاء الاصطناعي مفيداً بصورة استثنائية للعلم هي نفسها التي تجعل مسألة السيطرة عليه أكثر إلحاحاً. فإذا استطاعت أنظمة آلية إنجاز عمل بحثي كان يحتاج إلى عقود من جهود البشر، فمن الممكن أن تتسارع دورة الابتكار نفسها عندما تستخدم النماذج مستقبلاً لتصميم أجيال أكثر تطوراً منها.
ولا يعني ذلك أن سيناريو «الذكاء الفائق» أصبح حقيقة أو أن انقراض البشر نتيجة حتمية. فتقدير هوبينغر يتجاوز 10% لكنه يظل تقديراً شخصياً للمخاطر وليس توقعاً علمياً مثبتاً، كما تختلف آراء الباحثين بشدة بشأن احتمالات الوصول إلى أنظمة فائقة الذكاء ومدى إمكانية السيطرة عليها.
ومع ذلك، فإن صدور هذه التحذيرات من باحثين يعملون مباشرة في مختبرات متقدمة يضيف ثقلاً إلى المطالب الداعية إلى تطوير قواعد رقابية تتقدم بالسرعة نفسها التي تتقدم بها التكنولوجيا.
ضغوط تنظيمية
بدأت المخاوف تنتقل بالفعل من المختبرات إلى السياسة. فقد تصاعدت في الولايات المتحدة وبريطانيا دعوات إلى وضع قيود أكثر صرامة على تطوير الأنظمة فائقة القدرة، مع مطالب بإنشاء آليات دولية للرقابة ومنع تطوير تطبيقات قد تصبح خارج السيطرة.
لكن أي محاولة لإبطاء السباق تواجه عقبة جوهرية تتمثل في المنافسة الجيوسياسية. فالولايات المتحدة لا تريد خسارة تفوقها أمام الصين، والشركات الأميركية لا تريد منح منافسيها المحليين فرصة الوصول إلى اختراق تقني قبلها. ولذلك قد يكون الاتفاق على قواعد مشتركة بين الشركات والحكومات أكثر صعوبة من تطوير التكنولوجيا نفسها.
بين الإنجاز والخطر المحتمل
لا توجد حتى الآن أدلة تثبت أن الذكاء الاصطناعي يتجه حتماً إلى القضاء على البشر، كما أن الأنظمة الحالية بعيدة عن الصورة الكاملة للذكاء الفائق الذي تصفه سيناريوهات الخطر. لكن استقالة كوكسون تكشف انقساماً متزايداً داخل الصناعة بشأن السرعة التي ينبغي أن تتحرك بها الشركات قبل حل مشكلات الأمان والمواءمة.
ويزيد إعلان «أوبن إيه آي» بشأن نافييه–ستوكس قوة هذا النقاش، لأنه يقدم مثالاً عملياً على السرعة التي يمكن بها لأنظمة متعددة الوكلاء مهاجمة مسائل علمية شديدة التعقيد. وإذا استمرت القدرات في التحسن بهذه الوتيرة، فإن السؤال لن يقتصر على ما يستطيع الذكاء الاصطناعي إنجازه، بل على ما إذا كانت آليات فهمه ومراقبته والسيطرة عليه ستتطور بالسرعة نفسها.
وهكذا يصبح التحدي أمام الصناعة والحكومات تحقيق توازن بالغ الصعوبة: الاستفادة من تقنية قد تفتح أبواباً علمية واقتصادية غير مسبوقة، من دون الدخول في سباق تصبح فيه القدرة على بناء أنظمة أكثر قوة أسرع من القدرة على ضمان سلامتها. وبين التفاؤل بإنجازات علمية كانت تبدو مستحيلة والتحذيرات من مخاطر وجودية محتملة، يتحدد مستقبل الذكاء الاصطناعي بالسؤال الأكثر إلحاحاً: هل يستطيع البشر وضع قواعد للسباق قبل أن تتجاوز سرعته قدرتهم على التحكم فيه؟