شركة “أوبن أيه آي” عرضت مبتكرة برنامج المحادثة “تشات جي بي تي” الذي يعتمد على الذكاء الاصطناعي التوليدي، أداة تسمى “فويس انجين” والتي يمكن استخدامها لاستنساخ الأصوات محدودة التي تستخدم لتجنب تجسيد الأحداث الاحتيالية أو الجرائم. وتستطيع هذه الأداة إعادة إنتاج صوت شخص ما من خلال عينة صوتية تستمر لمدة 15 ثانية، وفقًا لبيان صادر عن “أوبن أيه آي” الذي أشار إلى نتائج اختبار صغير تم إجراؤه.
البيان الصادر أوضح أن القدرة على إنتاج أصوات تشبه أصوات البشر تشكل خطرًا كبيرًا، خاصة في هذا العام الذي يشهد انتخابات في عدة دول. وأشارت الشركة إلى أنها تعمل بحذر مع شركاء من الولايات المتحدة ودول أخرى في مجالات متنوعة لتلقي الملاحظات واقتراحاتهم خلال عملية تطوير هذه الأداة.
يأتي إطلاق هذه الأداة بعدما قام مستشار في حملة رئاسية بابتكار برنامج آلي ينتحل شخصية الرئيس الأميركي جو بايدن. كما أدى هذا الصوت المشابه لبايدن إلى دعوة الناخبين إلى عدم التصويت في انتخابات نيو هامبشر. وقد حظرت الولايات المتحدة استخدام الأصوات المستنسخة بواسطة الذكاء الاصطناعي في الدعايات السياسية والتجارية لمكافحة الاحتيال.
من جانبها، أكدت “أوبن أيه آي” أنها اتبعت نهجًا حذرًا قبل إطلاق الأداة الجديدة لمنع إساءة استخدامها. كما وعلى الشركاء الذين يختبرون “فويس انجين” الامتثال لبعض القواعد مثل الحصول على موافقة صريحة قبل استخدام أي صوت وتوضيح ذلك للمستمعين بشكل واضح بأن الأصوات المنتجة جاءت من خلال استخدام الذكاء الاصطناعي.
في النهاية، أكدت الشركة أنها اعتمدت إجراءات أمنية متقدمة مثل العلامة المائية لتتبع مصدر كل صوت تم إنتاجه بواسطة الأداة الجديدة، بالإضافة إلى إجراءات رصد استباقية لاستخدام الأداة بشكل آمن.
