حذر الباحث المتخصص في أمن الذكاء الاصطناعي رومان يامبولسكي، من أن التطور السريع لهذه التقنية قد يهدد مستقبل البشرية، مشيرًا إلى أن احتمال وقوع سيناريو كارثي خلال المئة عام المقبلة قد يصل إلى 99.9%. وأوضح يامبولسكي أن جميع أنظمة الذكاء الاصطناعي الحالية تفتقر إلى الضمانات الأمنية الكافية، محذرًا من أن الأجيال المقبلة من هذه التقنية قد لا تحل المشكلات الجوهرية نفسها.
ويأتي هذا التحذير ضمن مخاوف مجموعة من الخبراء بشأن المخاطر طويلة المدى للذكاء الاصطناعي. وقد نشر يامبولسكي مؤخرًا كتابه “الذكاء الاصطناعي: غير قابل للتفسير، غير متوقع، غير قابل للسيطرة”، الذي يستعرض فيه المخاطر الأساسية للذكاء الاصطناعي مثل صعوبة التنبؤ بسلوكياته أو فهم أسباب قراراته، ويتناول أيضًا مسألة التحكم بهذه التقنية والعواقب غير المقصودة، إضافة إلى مناقشات فلسفية حول إمكانية امتلاك الذكاء الاصطناعي للوعي أو الشخصية.
في المقابل، أظهرت دراسة مشتركة بين جامعتي أكسفورد وبون أن احتمال انقراض البشرية بسبب الذكاء الاصطناعي لا يتجاوز 5%، مع اعتراف معظم الخبراء بالخطر لكن مع اختلاف تقدير حجمه.
ورفض بعض الرواد البارزين مثل أندرو إنغ ويان ليكون فكرة انقراض البشر بالكامل، معتبرين أن بعض التحذيرات مبالغ فيها لأغراض غير علمية. وفي سياق متصل، أثار سام ألتمان، رئيس OpenAI، جدلاً بتحذيره من أن الذكاء الاصطناعي قد يقضي على عدد كبير من الوظائف ويغير “العقد الاجتماعي”، مؤكداً سابقًا أن الذكاء الاصطناعي قد يؤدي إلى نهاية العالم، لكنه في الوقت نفسه سيخلق شركات عظيمة.
تحذيرٌ عالمي من مخاطر إستخدام الذكاء الاصطناعي على البشريّة .