قال عالم الكمبيوتر جيفري هينتون، الحائز على جائزة نوبل في الفيزياء لعام 2024، إن احتمال أن يتسبب الذكاء الاصطناعي في قتل جميع البشر خلال العقد المقبل بنسبة 10% “لا يبدو تقديرا غير معقول”.
وخلال مقابلة مع برنامج “نيوزنايت” الذي تبثه هيئة الإذاعة البريطانية (BBC)، تحدث هينتون، الذي يوصف على نطاق واسع بأنه “عراب الذكاء الاصطناعي”، عن المخاطر المحتملة لتطور أنظمة الذكاء الاصطناعي وقدرتها على تجاوز القدرات البشرية.
وعندما سألته المذيعة فيكتوريا ديربيشاير عما إذا كان يعتقد أن هناك “فرصة أكبر من 10%” لأن يتمكن الذكاء الاصطناعي من قتل جميع البشر خلال عقد من الزمن، قال هينتون إن السؤال يصعب تقديره بطبيعته.
وقال هينتون: “لم نخلق قط كائنات قد تكون أذكى منا قريبًا. لا نعرف ما سيحدث. من الواضح أنه يجب علينا توخي الحذر”.
الإنسان مثل الدجاجة
وفي تصريح آخر، حذر هينتون من أن البشر قد يجدون أنفسهم في وضع مشابه للدجاج إذا أصبحت أنظمة الذكاء الاصطناعي أكثر ذكاء منهم بكثير، مشبها الفارق المحتمل بين الطرفين بالفارق الحالي بين ذكاء البشر والدجاج. وأوضح أن الإنسان يستطيع التفكير في طرق عديدة للتخلص من الدجاج، بينما لا تستطيع الدجاجة توقع ما قد يفعله البشر بها.
وأضاف أنه رغم “عدم معرفة أحد كيفية تقدير ذلك”، فإنه يرى أن “احتمالا بنسبة 10% لا يبدو تقديرا غير معقول”.
وعندما ضغطت عليه ديربيشاير، مكررة أنه وصف نسبة 10% بأنها “ليست غير معقولة”، أجاب هينتون ببساطة: “نعم”.
كيف يمكن للذكاء الاصطناعي تهديد البشر؟
وردا على سؤال حول الطريقة التي يمكن أن يتسبب بها الذكاء الاصطناعي في انقراض البشر، قال هينتون إنه لن يحتاج بالضرورة إلى العمل بشكل مباشر في العالم المادي لإحداث أضرار واسعة النطاق.
وأوضح أن الذكاء الاصطناعي يمكنه “إحداث فوضى عارمة بمجرد التحدث إلى الناس”، كما يمكنه تصميم فيروسات خبيثة، بما في ذلك فيروسات بيولوجية وفيروسات حاسوب، إلى جانب شن هجمات إلكترونية مدمرة.
وأضاف أن هناك “طرقا أخرى لا حصر لها” يمكن للذكاء الاصطناعي من خلالها التخلص من البشر إذا أراد ذلك.
تحذيرات متزايدة من مخاطر الذكاء الاصطناعي
وجاءت المقابلة في أعقاب تصريحات جاكوب كوكسون، الباحث الذي استقال من شركة الذكاء الاصطناعي Anthropic في 8 سبتمبر، معلنا اعتقاده بأن الشركة ومنافستها OpenAI لا “تتصرفان بمسؤولية”، وأن الذكاء الاصطناعي يمكن أن “يقتلنا جميعا” بحلول نهاية العقد.
ورد إيفان هوبينجر، رئيس قسم علوم المحاذاة في Anthropic، على موقع X، قائلا إن كوكسون كان “على حق”، وإن الشركة لم تكن لديها حتى ذلك الوقت خطة لحل مشكلة محاذاة الذكاء الاصطناعي للأنظمة فائقة الذكاء.
تحذيرات هينتون مستمرة
وحذر هينتون، الذي فاز بجائزة نوبل في الفيزياء لعام 2024 عن أعماله في مجال التعلم الآلي، مرارا من مخاطر الذكاء الاصطناعي المتقدم منذ مغادرته جوجل في عام 2023.
وشملت تحذيراته السابقة التطبيقات العسكرية المحتملة للذكاء الاصطناعي، إلى جانب خطر فقدان البشر السيطرة على أنظمة تتمتع بقدرات متزايدة.
وتأتي تصريحاته الأخيرة في ظل تصاعد النقاش حول مخاطر تطوير أنظمة ذكاء اصطناعي أكثر قدرة، والكيفية التي يمكن من خلالها ضمان بقائها تحت السيطرة البشرية.
المصدر:
رابط المصدر الأصلي
