إطلاق أول منصة لمنع نماذج الذكاء الاصطناعي من الهلوسة

أطلقت شركة “Patronus AI” الناشئة أول منصة ذاتية الخدمة للكشف عن “هلوسات الذكاء الاصطناعي” ومنعها في الوقت الفعلي. وقد وصفت الشركة هذه المنصة بـ”مدقق إملائي متقدم” يهدف إلى اكتشاف الأخطاء في أنظمة الذكاء الاصطناعي قبل وصولها للمستخدمين. يشير الرئيس التنفيذي للشركة، أناند كانابان، إلى أن العديد من الشركات تواجه تحديات مرتبطة بعيوب الذكاء الاصطناعي، مثل الهلوسات وسوء الأداء.

أظهرت دراسة نشرها موقع “Venturebeat” أن النماذج الرائدة، مثل GPT-4، تعيد إنتاج محتوى محمي بحقوق النشر بنسبة تصل إلى 44% وأنها تفشل في اجتياز اختبارات السلامة الأساسية بنسبة تزيد عن 20%. يؤكد فاروق جوشي، مدير المنتجات في الشركة، أن تقييم النماذج يساهم في تحسين الأداء والمنتجات، مع التركيز على أهمية التحسين المستمر.

توفر “Patronus AI” ميزات عديدة، منها أداة “تقييم القضاة Judge Evaluators”، التي تمكّن الشركات من وضع قواعد مخصصة بناءً على احتياجاتها. كما يتفوق نموذج “Lynx” المستخدم في الكشف عن الأخطاء على نماذج رائدة أخرى، مثل GPT-4.

تعتمد الشركة نموذج تسعير حسب الاستخدام، مما يسهل وصول الشركات الناشئة والصغيرة إلى أدوات السلامة. وقد جذبت الشركة عملاء معروفين، مثل HP وPearson، وتعاونت مع شركات مثل Nvidia وIBM. يأتي إطلاق المنصة في وقت حاسم مع التطورات السريعة في أنظمة الذكاء الاصطناعي، حيث تشير التشريعات الجديدة إلى ضرورة ضمان سلامة الأنظمة.