الذكاء الاصطناعي يثير قلق العلماء والقانونيين من تحوله كارثة وجودية

AI بالغربي – متابعات 

أشار باحثون من “جامعة أكسفورد” وشركة “ديب مايند”DeepMind  التابعة لـ”غوغل” والمتخصصة في الذكاء الاصطناعي، إلى وجود احتمال كبير بأن تطرح أشكال متقدمة من الذكاء الاصطناعي “مخاطر وجودية بالنسبة إلى الحياة على الأرض”.

في مقال نشرته أخيراً المجلة العلمية المحكمة “مجلة الذكاء الاصطناعي” AI Magazine، نبه باحثون إلى أن “عواقب وخيمة” ستطرأ في حال المضي أكثر في تطوير بعض أنظمة الذكاء الاصطناعي.

في أوقات سابقة، تطرق فلاسفة بارزون، من بينهم نيك بوستروم [خبير في مجال المخاطر الوجودية وارتباطاتها بالتكنولوجيا وأثرها في أخلاقيات البشر] من “جامعة أكسفورد”، عن التهديد الذي تنطوي عليه الأشكال المتقدمة من الذكاء الاصطناعي، علماً أن أحد المشتغلين في تلك الورقة البحثية الجديدة زعم أن تلك التحذيرات لم تكن كافية.

فقد كتب المحامي الأميركي مايكل كوهين الشهير [عمل لدى الرئيس السابق دونالد ترمب بين عامي 2006 و2016] في سلسلة تغريدات على “تويتر” مرفقة بذلك البحث، “بوستروم، (عالم الكمبيوتر ستيوارت) راسل، وآخرون ذكروا إن الذكاء الاصطناعي المتقدم يشكل تهديداً للبشرية”.

وأضاف كوهين، “وفق الظروف التي حددناها، استنتاجنا أقوى كثيراً من أي بيان سابق في هذا الشأن. إن الكارثة الوجودية ليست ممكنة فحسب، بل إنها احتمال مرجح”.

واستطراداً، تقترح تلك الورقة البحثية سيناريو تعمد بموجبه وكيل رقمي، وهو شخصية رقمية مبرمجة تتوكّل عن شخص معين، وتجعلها تقنيات الذكاء الاصطناعي تعمل بشكل مستقل ذاتياً، إلى تحديد استراتيجية للغش بغية الظفر بمكافأة بُرمِجَتْ مسبقاً كي تسعى إليها.

من أجل تحقيق أقصى قدر من إمكانات مكافأته، يتطلب البرنامج المعلوماتي في تلك الشخصية، أقصى حد ممكن من الطاقة يمكن الحصول عليه. وفي نهاية المطاف، تشهد تلك التجربة الفكرية تنافساً بين البشرية والذكاء الاصطناعي على موارد الطاقة.

وكتب كوهين أن “الفوز في منافسة” الحصول على آخر قدر من الطاقة المتوافرة “في غمرة اللعب ضد طرف أكثر ذكاءً منا، ربما يكون عسيراً جداً. ومن شأن الخسارة أن تكون مميتة”.

وبحسب كوهين، “إن هذه الاحتمالات، مهما كانت نظرية، تعني أنه حري بنا أن نتقدم ببطء، إذا ما أمكن ذلك، نحو الهدف المتمثل في ذكاء اصطناعي أكثر قوة”.

وفي أوقات سابقة، اقترحتْ شركة “ديب مايند” أداة وقائية ضد احتمال من هذا القبيل، وأطلقت عليها اسم “الزر الأحمر الكبير” لحالات الطوارئ. في ورقة بحثية بعنوان “برامج وكلاء قابلة للمقاطعة بأمان” صدرت عام 2016، حددت تلك الشركة المتخصصة في الذكاء الاصطناعي إطاراً لمنع الآلات المتقدمة من تجاهل أوامر الإيقاف، بالتالي تمنع إمكانية تحوّل الآلات المتقدمة الذكاء إلى وكلاء مبرمجين يكونون مارقين وخارجين عن السيطرة.

وتذكيراً، سبق للبروفيسور بوستروم أن وصف شركة “ديب مايند” التي تشمل إنجازاتها في ميدان الذكاء الاصطناعي التغلب على أبطال من البشر في لعبة الطاولة “غو” Go والتلاعب بالاندماج النووي، باعتبارها الأقرب إلى إنشاء ذكاء اصطناعي يطابق الذكاء البشري.

كذلك رأى ذلك الفيلسوف السويدي أن “مأساة كبيرة” ستحدث في حال التوقف عن تطوير الذكاء الاصطناعي، ذلك أنه يكتنز القدرة على علاج الأمراض والنهوض بالحضارة بمستوى مستحيل بأي طريقة أخرى.