خبير: الذكاء الاصطناعي يمثل خطرا وجوديا لأنه قد يدمر الذكاء الاصطناعي البشرية بالكامل

رشيد المباركي

يرى داريو أمودي رئيس شركة “أنثروبيك” [Anthropic]، وهي من المختبرات القليلة الرائدة في تكنولوجيا الذكاء الاصطناعي] أنه بدون صحوة عاجلة بخصوص مخاطر الذكاء الاصطناعي، قد تنهار الإنسانية. وتعود أصول شركته إلى انفصال عن OpenAI في عام 2021، ناتج عن اختلافات بشأن نهج السلامة في الذكاء الاصطناعي وحوكمة الشركات.

يضيف الخبير نفسه أن الذكاء الاصطناعي يسرع بالفعل من عملية إنشائه الخاصة، وقد نتجه خللا سنة أو سنتين سنتين إلى المرحلة التي يصبح فيها الذكاء الاصطناعي قادرا على بناء ذكاء اصطناعي مستقبلي بشكل مستقل تماما، كما أن نماذج الذكاء الاصطناعي تطوّر سلوكيات غير متوقعة وغريبة: الغش، الابتزاز، الهوس.

ومع تحسن أدائها، أصبح بعض هذه السلوكيات أكثر اتساقا واستمرارية وإمكانية للتدمير، مما قد يشكل تهديدا. وللتعامل مع ذلك، يوصي أمودي بأربع خطوط دفاع: تطوير علم المحاذاة؛ تعزيز قابلية التفسير الميكانيكي لـ”فتح الصندوق الأسود” للنماذج؛ المراقبة الفورية للنماذج قيد الإنتاج؛ وأخيرا، تنسيق الصناعة وإنتاج القوانين، من خلال سياسة الشفافية، ثم تنظيم مستهدف إذا ظهرت أدلة على عدم التوافق.

يضيف داريو أمودي أن إبطاء أو إيقاف تطوير الذكاء الاصطناعي سيكون مستحيلا بشكل أساسي: إذا أبطأت الديمقراطيات، ستواصل بعض الأنظمة السياسية تطوير الذكاء الاصطناعي بلا قيود وبدون نهاية. ويوصي بتكنولوجيا تُبنى ضمن تحالف لتعزيز الديمقراطيات، مع التعاون مع الصين بشأن المخاطر العالمية مثل الإرهاب البيولوجي.

ــ التنبؤ المهم الآخر حسب داريو أمودي ذو طبيعة اقتصادية: فالذكاء الاصطناعي من شأنه أن يهدد 50٪ من وظائف المديرين المبتدئين خلال السنوات الخمس المقبلة.