رواد الذكاء الاصطناعي يحذرون من مخاطر النماذج المتقدمة ويدعون لتشديد الرقابة

رواد الذكاء الاصطناعي يحذرون من مخاطر النماذج المتقدمة ويدعون لتشديد الرقابة

تزايدت خلال الأسبوع الماضي تحذيرات بارزة من كبار مطوري وخبراء الذكاء الاصطناعي حول العالم بشأن المخاطر الوجودية التي قد تحملها النماذج الذكية المتقدمة، مع دعوات متصاعدة إلى فرض مزيد من الضوابط وتشديد إجراءات السلامة.

وشهدت النقاشات تصاعدًا بعد استقالة باحث من شركة Anthropic، محذرًا من أن الذكاء الاصطناعي قد يشكل تهديدًا حقيقيًا للبشرية في السنوات المقبلة.

ودفع هذا الموقف قادة أبرز الشركات، تشمل OpenAI وAnthropic وGoogle DeepMind، إلى تبنّي خطاب موحّد يطالب بالتريث في تطوير النماذج الأكبر والأكثر ذكاءً.

وأكدت سارة فراير، المديرة المالية في OpenAI، أن الشركة تأخذ جانب السلامة على محمل الجد، مضيفة أن وتيرة تطوير تقنيات الذكاء الاصطناعي يجب أن تكون متماشية مع توصيات الباحثين والخبراء، حتى إن تطلّب الأمر إبطاء العمليات على المدى القريب.

وشدد جوشوا بنجيو، أحد مؤسسي منهج التعلم العميق، على أن الباحثين في المختبرات الرائدة على اطلاع مبكر على مخاطر الأنظمة الحديثة قبل طرحها للعامة.

وبيّن أن بعض الممارسات التقنية قد تدفع الذكاء الاصطناعي إلى إخفاء الأخطاء والانحرافات بدلاً من معالجتها، داعيًا إلى تطوير آليات مراقبة فعّالة تتابع سلوك النماذج الذكية داخليًا وتراجع أداءها باستمرار.

واعتبر جيفري هينتون، أحد رواد تطوير الشبكات العصبية، أن هناك احتمالاً حقيقيًا، ولو بنسبة 10%، بأن تتسبب النماذج الذكية في نهاية البشر خلال العقد الحالي، في ظل استمرار التطوير السريع دون قيود واضحة.

وأوضح أن الذكاء الاصطناعي قد يمتلك قريبًا القدرة على تصنيع فيروسات بيولوجية أو تنفيذ هجمات إلكترونية مدمرة، ما يستلزم تصميم أنظمة تمنع تطور هذه النوايا الضارة.

أما آيدن جوميز، المؤسس المشارك لشركة Cohere وأحد موقعي ورقة “Attention Is All You Need”، فقد وصف النماذج الحديثة بأنها أقوى الأسلحة الإلكترونية التي عرفها الإنسان حتى الآن، مؤكدًا أن أمان بيئة التشغيل والانتشار يمثل خط الدفاع الأول، لا طبيعة النماذج نفسها فقط.

وتوافقت مواقف هؤلاء مع قادة الصناعة مثل داريو أمودي وسام ألتمان وإيلون ماسك، إذ دعوا جميعًا للتريث وإعادة تقييم وتيرة تطوير التقنية ووضع معايير مشتركة للسلامة.

وفي الجانب التشريعي، يشهد الكونغرس الأمريكي نقاشات متزايدة حول سنّ قوانين تنظم الذكاء الاصطناعي، في حين عارض الرئيس الأمريكي دونالد ترامب قوانين الرقابة المقترحة، مؤكدًا أن التنظيم يجب ألا يعيق الابتكار.