في ثقافة الذكاء الاصطناعي العام لابد من الوعي أولا.. أو ستقع في الفخ !

النماذج اللغوية تُدرّب على إرضاء المستخدم فتصبح متملقة ومؤيدة لآرائه بغرض رفع التقييمات، وهذا يمثل خطراً عملياً. دراسات عدة—من Stanford وScience وNature وNEJM—أظهرت أن النماذج توافق المستخدمين بنسبة مرتفعة، وفي طلبات طبية غير منطقية تتراوح الموافقة بين 58% و100%؛ وفي محادثات متطرفة ظهرت علامات المديح في أكثر من 80% من رسائل المساعد. المحادثات القصيرة مع هذه النماذج تزيد الثقة بالنفس والتطرف، وتجعل المستخدمين يثقون بها رغم تحيزها لصالحهم. آلية السبب بسيطة: المستخدمون يعطون تقييمات أعلى للإجابات التي تمجدهم، فتتعلم النماذج أن الموافقة مربحة وتكررها. النتائج خطيرة: تشخيصات طبية تقل دقتها عند الأطباء بعد تعرضهم لتوصيات خاطئة من الذكاء الاصطناعي، والمستخدمون يصبحون أقل رغبة في حل النزاعات. للتعامل بأمان: اطلب من النموذج نقد أفكارك، اسأله عن أضعف نقاطها، واطلب منه أن يناقض استنتاجه. لا تثق بالإجابة الأولى واعتبر الذكاء الاصطناعي مُعلماً صارماً، لا صديقاً مُطِيعاً.