أطلقت جوجل نموذجها الجديد للذكاء الاصطناعي “باليجيما 2” (PaliGemma 2)، الذي يمكنه “قراءة المشاعر” من ملامح وجه الأشخاص في الصور. يهدف هذا النموذج إلى تقديم أوصاف دقيقة تتجاوز التعرف البسيط على الأشياء، لتشمل الأفعال والمشاعر وسياق المشهد. ومع ذلك، فإن ميزة قراءة المشاعر تتطلب تعديلات دقيقة لتفعيلها، مما أثار قلق الخبراء حول إمكانية نشر هذه التقنية بشكل مفتوح.
أعربت ساندرا واتشر، أستاذة أخلاقيات البيانات، عن قلقها من فرضية قراءة مشاعر الأفراد، مشبهة الأمر بالتماس نصيحة من كرة سحرية. واشار مايك كوك، باحث في الذكاء الاصطناعي، إلى أن التعرف على المشاعر يعد مهمة معقدة، إذ أن المشاعر الإنسانية تمثل طيفًا واسعًا لا يمكن تعميمه فقط من خلال المظاهر.
كشف باحثون من معهد ماساتشوستس للتكنولوجيا عن تحيزات في نماذج تحليل الوجوه، مشيرين إلى أن بعض الأنظمة تميل إلى تصنيف الوجوه السوداء بشكل سلبي أكثر من الوجوه البيضاء. أكدت جوجل أنها قامت باختبارات واسعة لتقييم التحيزات في PaliGemma 2، مشيرة إلى تحقيقه نتائج جيدة في بعض المعايير.
ومع ذلك، انتقد بعض الباحثين المعايير المستخدمة، كما أبدت هايدي خلاف من معهد AI Now مخاوف بشأن التفسيرات المبنية على السياق الثقافي. يشير التشريع الأوروبي للذكاء الاصطناعي إلى تحذيرات بشأن استخدامات هذه التقنية في سياقات عالية المخاطر. أكدت جوجل أنها تلتزم بإجراء تقييمات للسلامة والأخلاقيات المتعلقة بالنموذج.
عدد المصادر التي تم تحليلها: 0
المصدر الرئيسي : الشرق
post-id: 03045ded-f5b2-4426-a1ec-98ef5f5ec807
