لخّصلي

إذَذكاءً اصطناعيٍّالا يُ ٍ ثري بطريقة ما مشكلة السيطرة هذه؛ بمعنى أنه يفعل ما نريد ويأخذَّ حقوقنا في الاعتبار. هل يجب أن نحد ٍ بطريقة ما من قدرات الذكاء 1الاصطناعي؟ وكيف يُمكننا احتواء الذكاء الاصطناعي؟ َّثمة أفكارأخرىمترابطةوذات صلة؛ ألا وهي الأفكار املتعلِّقة بتجاوز الإنسانية. في ضوءالذكاءالفائقوالإحباطمن الضعف البشري و«الأخطاء»، وربما حتى خالدا، مما يؤدي إلى ما يُ ِّسميه هاراري «الإنسان الإله»: ترقية البشرإلى آلهة. Bacon(. فإن الآلة البشرية، فسيُمن الذكاءالاصطناعي(23 2014, Armstrong ٍ( . ملاذا لا نتخلَّ ِّصم ٍ م كائنات ذكية غري عضوية؟البيولوجية ونُعلى الرغممن أن معظم الفلاسفة والعلماء الذين يُ ِّروجون لهذه الأفكار يحرصونعلى تمييزآرائهمعن الخيال العلمي والدين، بادئ ذي بدء، ليس من الواضح مدى ارتباط أفكارهمُّ بالتطورات التكنولوجيةالحالية وعلوم الذكاء الاصطناعي، هذا إن أمكن الوصول إليه منً الأساس. إذ يرفض البعض تماما إمكانية الوصول إليه (انظر الفصل التالي)، مثل العالمة مارجريت بودن، ُ ِّطور «الذكاء الاصطناعيالعام»، ِ
تفترض أننا سنُ ب عليهاقبل تحقيق ذلك.

نبنيموارد لإنتاجمشابكالورق. إذَذكاءً اصطناعيٍّالا يُ ٍ ثري بطريقة ما مشكلة السيطرة هذه؛ بمعنى أنه يفعل ما نريد ويأخذَّ حقوقنا في الاعتبار. على سبيل املثال، هل يجب أن نحد ٍ بطريقة ما من قدرات الذكاء
1الاصطناعي؟ وكيف يُمكننا احتواء الذكاء الاصطناعي؟ َّثمة أفكارأخرىمترابطةوذات صلة؛ ألا وهي الأفكار املتعلِّقة بتجاوز الإنسانية.في ضوءالذكاءالفائقوالإحباطمن الضعف البشري و«الأخطاء»، يجادل أنصار تجاوزٍ الإنسانية مثل بوستروم بأننا بحاجة ُ إلى تعزيز الإنسان: جعله أكثر ذكاء،ً وأقل عرضةً َ للمرض، وأطو ً ل عمر ً ا، وربما حتى خالدا، مما يؤدي إلى ما يُ ِّسميه هاراري «الإنسان الإله»: ترقية البشرإلى آلهة. وكما قال فرانسيس بيكون في «دحض الفلسفات»: البشر «آلهةفانية» (106 1964, Bacon(. ملاذا لا نُحاول تحقيق الخلود؟ ولكن حتى لو لم نستطع ا ملُ ناصري تجاو ٍ ز الإنسانية، بحاجة إلى ترقية. فنحنتحقيق ذلك، فإن الآلة البشرية، وفقً ُُ خاطر البشربأن يظلوا «الجزء املتخلف غري الكفء بشكل متزايد»إذا لمنفعلذلك،فسيُمن الذكاءالاصطناعي(23 2014, Armstrong ٍ( . إن البيولوجيا البشرية بحاجة إلى إعادةً ص تمامامن الأجزاءتصميم، ولذا يتساءل بعض مؤيدي تجاوز الإنسانية، ملاذا لا نتخلَّ
ِّصم ٍ م كائنات ذكية غري عضوية؟البيولوجية ونُعلى الرغممن أن معظم الفلاسفة والعلماء الذين يُ ِّروجون لهذه الأفكار يحرصونعلى تمييزآرائهمعن الخيال العلمي والدين، فإن العديد من الباحثني يُ ِّفسرون أفكارهمبهذه املصطلحاتبالضبط. بادئ ذي بدء، ليس من الواضح مدى ارتباط أفكارهمُّ بالتطورات التكنولوجيةالحالية وعلوم الذكاء الاصطناعي، وما إذا كان هناك فرصةُ حقيقية للوصولإلى الذكاء الفائق في املستقبل القريب، هذا إن أمكن الوصول إليه منً الأساس. إذ يرفض البعض تماما إمكانية الوصول إليه (انظر الفصل التالي)، وحتى هؤلاء ٍ الذين على استعداد ِ لقبول إمكانية الوصول إليه من حيث املبدأ، مثل العالمة مارجريت بودن، فإنهملا يعتقدونأنه من امل َّرجح الوصول إليه عمليٍّا. إن فكرة الذكاء الفائق
ُ
ِّطور «الذكاء الاصطناعيالعام»، أو الذكاء الذي يكافئ الذكاء البشري
ِ

تفترض أننا سنُ ب عليهاقبل تحقيق ذلك.َُّّ أو يتفوقعليه،وهناكالعديدمن العقبات التي يجب التغلٍ ع الكثريون. وفي تقريرً وترى بودن(٢٠١٦) أن الذكاء الاصطناعي ليس واعدا كما يتوقَّصادر عن البيت الأبيض عام ،٢٠١٦ تم التأكيد على اتفاق خبراء القطاع الخاص على أن الذكاءالاصطناعيالعام لن