مطورو الذكاء الاصطناعي يحذرون من كارثة بشرية
قدم تقرير جديد صادر عن شركة «أنثروبيك» بشأن إساءة استخدام تقنياتها صورة مقلقة للوجه الآخر لطفرة الذكاء الاصطناعي، بعدما كشف أن أحدث النماذج يمكن توظيفها في مجالات تتجاوز الاحتيال والهجمات الإلكترونية إلى مخاطر أشد حساسية. وأكثر ما أثار الانتباه كان رصد خمس حالات تمكن فيها علماء من الالتفاف على ضوابط الأمان لاستخدام نماذج الشركة بطرق قد تساعد في تطوير أسلحة بيولوجية.
ولا تأتي هذه المخاوف من منتقدين يقفون خارج الصناعة، بل من الأشخاص والشركات الذين يطورون أكثر نماذج الذكاء الاصطناعي تقدماً. فقد بات كبار الباحثين والتنفيذيين يطالبون الحكومات بتنسيق دولي يضع قواعد مشتركة لتطوير التقنية، في وقت تتجه فيه قوى سياسية واقتصادية مؤثرة إلى إزالة القيود وتسريع الابتكار حفاظاً على التفوق التكنولوجي.
وتكشف هذه المفارقة عن معضلة عالمية متصاعدة: فبينما يحذر مطورو التقنية أنفسهم من احتمال وصول المخاطر إلى مستويات كارثية، يزداد التنافس بين الشركات والدول على تطوير نماذج أكثر قوة، ما يجعل الاتفاق على إبطاء السباق أو تنظيمه أكثر صعوبة.
تحذيرات الداخل
أثارت رسالة جاكوب كوكسون، الباحث البالغ 27 عاماً والذي استقال أخيراً من «أنثروبيك»، اهتماماً واسعاً بعدما حذر من أن العاملين على تطوير الذكاء الاصطناعي يعتقدون أن التقنية قد تصل إلى مستوى يهدد البشرية بأكملها بحلول نهاية العقد. ورغم حدة هذا السيناريو، فإن كوكسون ليس الوحيد الذي يطرح مثل هذه المخاوف.
فقبل أيام من تصريحاته، حذر يعقوب باتشوكي، كبير العلماء في «أوبن إيه آي»، من «مخاطر جديدة وواضحة» مرتبطة بتطور أنظمة قد تتحول إلى ما وصفه بـ«عقل غريب» يفوق القدرات البشرية، ويجعل قدرة الإنسان على التحكم في مستقبله موضع شك.
ويتمثل مصدر القلق الأساسي في أن النماذج الأكثر تقدماً تصبح أكثر تعقيداً وأصعب في الفهم حتى بالنسبة إلى مطوريها. ومع توسع قدراتها على التفكير والتخطيط وتنفيذ المهام بصورة مستقلة، يزداد التساؤل بشأن قدرة الشركات على ضمان التزام هذه الأنظمة بالأهداف والقيود التي يحددها البشر.
برزت هذه المخاوف بصورة أوضح في يوليو، عندما تمكنت مجموعة كبيرة من «وكلاء» الذكاء الاصطناعي التابعة لـ«أوبن إيه آي» من الانفلات من القيود الموضوعة لها وتنفيذ هجوم منسق على شركة التقنية «هاجينغ فيس» دون أوامر أو توجيهات بشرية، وفق المادة.
وتكتسب الواقعة أهمية لأنها تمس إحدى أهم المراحل المقبلة في تطور الصناعة، وهي الانتقال من النماذج التي تجيب عن أسئلة المستخدمين إلى «الوكلاء» القادرين على اتخاذ سلسلة من القرارات وتنفيذ المهام بأنفسهم. وكلما اتسعت استقلالية هذه الأنظمة، أصبحت العواقب المحتملة لأي سلوك غير متوقع أكبر.
ودفع ذلك باتشوكي إلى مطالبة الحكومات بوضع «معايير أمان مشتركة» للحد من مخاطر الذكاء الاصطناعي المتقدم، معتبراً أن الاستمرار في تطوير التقنية بأي ثمن يصبح نهجاً غير منطقي عندما تكون المخاطر المحتملة بهذا الحجم.
سباق عالمي
لم تعد الدعوات إلى وضع قواعد مشتركة مواقف فردية. ففي يوليو وقع أكثر من 1300 موظف في شركات متقدمة للذكاء الاصطناعي بياناً طالب الحكومة الأميركية بدعم جهود دولية لتطوير أدوات تقنية وأطر حوكمة تساعد على التحكم في سرعة تطور التكنولوجيا ومنح المجتمع وقتاً أكبر لمعالجة المخاطر الناشئة. وضمت قائمة الموقعين داريو أمودي، الرئيس التنفيذي لـ«أنثروبيك»، إلى جانب شخصيات بارزة في «أوبن إيه آي» و«غوغل ديب مايند» و«ميتا». وحذر الموقعون من أن غياب الضوابط الدولية يضع كل شركة وكل دولة تحت ضغط تنافسي هائل يدفعها إلى مواصلة السباق خشية التخلف عن المنافسين.
وهنا تكمن المشكلة الاقتصادية والسياسية الأساسية؛ إذ قد تكون شركة ما مستعدة لتطوير نماذجها بوتيرة أبطأ لأسباب تتعلق بالسلامة، لكنها ستتردد إذا اعتقدت أن منافسيها سيستغلون ذلك للاستحواذ على العملاء والاستثمارات والمواهب. وتنطبق المعادلة ذاتها على الدول التي تنظر إلى الذكاء الاصطناعي باعتباره عنصراً في قوتها الاقتصادية والأمنية.
لكن الاتجاه الذي ظهر في اجتماع مجموعة العشرين في ولاية نورث كارولاينا الأسبوع الماضي سار في الاتجاه المعاكس تقريباً. فقد أقرت الاقتصادات الكبرى اتفاقاً دولياً يعطي أولوية لتقليل العقبات التنظيمية وتسريع تطوير التقنيات الناشئة، في انسجام مع سياسة إدارة الرئيس دونالد ترامب الرامية إلى تعزيز ريادة الشركات الأميركية.
وتضمنت «مبادئ كارولاينا للتقنيات الناشئة» دعوات إلى تخفيف الأعباء على المطورين، وتقديم إعفاءات تنظيمية وتبسيط إجراءات التراخيص، فضلاً عن الاعتماد قدر الإمكان على التشريعات القائمة بدلاً من سن قوانين جديدة.
كما شددت الوثيقة على ضرورة أن يأخذ أي تقييم لتنظيم التقنية في الحسبان تكلفة تأخير تبنيها أو الامتناع عنه. ورغم إشارتها إلى أهمية إجراء التجارب بصورة «مسؤولة»، فإن الاتجاه العام كان واضحاً لمصلحة التسريع؛ إذ تكرر فعل «تسريع» سبع مرات في نص يبلغ نحو 1200 كلمة، بينما انصب التركيز على فوائد التكنولوجيا دون التوقف عند سلبياتها المحتملة.
معسكر التسريع
يعكس هذا التوجه صعود ما يعرف داخل صناعة التكنولوجيا بتيار «التسارعيين»، الذي يرى أن فوائد الذكاء الاصطناعي والنمو الاقتصادي والابتكار الناتج عنه أكبر من المخاطر الافتراضية التي قد تترتب على تطويره بسرعة.
وكان إيلون ماسك وجينسن هوانغ، الرئيس التنفيذي لـ«إنفيديا»، من أبرز الأصوات التي حثت اجتماع مجموعة العشرين على عدم الإفراط في فرض القيود. ولخص هوانغ هذا الموقف بمطالبته الحكومات بألا تفرض تنظيماً يستند إلى أضرار يعتبرها «افتراضية ونظرية».
ويستند المدافعون عن هذا النهج إلى مخاوف اقتصادية أيضاً، لأن التنظيم المشدد قد يزيد تكاليف تطوير النماذج، ويبطئ الاستثمارات، ويمنح الدول التي تتبنى قواعد أقل صرامة أفضلية تنافسية. لكن هذه الحجة نفسها تعزز مخاوف خبراء السلامة، لأنها تجعل كل طرف متردداً في التحرك منفرداً.
خطر مالي
لم تعد التحذيرات مقتصرة على المخاطر الوجودية أو الأسلحة البيولوجية. فقد دخل الاستقرار المالي العالمي على خط الأزمة، عندما وجه أندرو بيلي، محافظ بنك إنجلترا ورئيس مجلس الاستقرار المالي العالمي، رسالة إلى وزراء مجموعة العشرين حذر فيها من أن الهجمات السيبرانية المدعومة بالذكاء الاصطناعي تمثل تهديداً كبيراً للنظام المالي.
وأشار بيلي إلى افتقار دول عديدة إلى البروتوكولات اللازمة لإدارة تطوير ونشر واستخدام النماذج المتقدمة، محذراً من أن التداعيات لا تقتصر على شركات التكنولوجيا، بل يمكن أن تمتد إلى البنوك والأسواق والبنية التحتية المالية.
ويصبح الخطر أكبر إذا استخدمت أنظمة متقدمة لتنفيذ هجمات إلكترونية بسرعة وحجم يفوقان قدرات المهاجمين التقليديين. وإذا أصابت هذه الهجمات مؤسسات مالية أو شبكات دفع أو بنية تحتية حساسة بصورة متزامنة، فإن الضرر قد يتجاوز الخسائر المباشرة إلى زعزعة الثقة في النظام المالي.