أعلنت شركة Eleven Labs الناشئة التي طرحت أداة استنساخ للصوت مستخدمةً برمجيات الذكاء الاصطناعي، أنّها رصدت تزايداً في الاستخدام المسيء لبرنامجها في وقت ينتشر التلاعب الصوتي عبر الانترنت.
وأطلقت الشركة التي تتخذ من لندن مقراً، نسخةً تجريبيةً من منصتها لإنشاء أدوات تنتج كلمات بأصوات قريبة جداً من الواقع، بعدما تمكنت من جمع مليونَي دولار. وتَشارك مستخدمون من صفحة 4Chan المجهولة رسائل جرى إنشاؤها باستخدام البرنامج وفيها أصوات مُزيّفة لعدد من المشاهير، بهدف جعلهم ينطقون جُملاً تنطوي على عنصرية وتمييز جنسي ورهاب المثلية. وفي إحدى هذه الرسائل، يُسمع صوت مماثل لصوت إيما واتسون وهو يقرأ مقطعاً من كتاب My Struggle لأدولف هتلر، فيما يُسمَع في رسالةٍ أخرى صوت مشابه لصوت المحلل الأميركي بن شابيرو يهدد باغتصاب النائبة ألكساندريا أوكاسيو كورتيز. كما أُسيء استخدام صوتَي المخرجين كوينتن تارانتينو وجورج لوكاس.
وتسعى الشركة إلى حلّ المشكلة عبر تعزيز عملية تحديد هوية المستخدم، والتحقق بشكل أفضل من حقوق الملكية الفكرية للنماذج، واعتماد إجراءات تحقق يدوية. وEleven Labs هي واحدة من شركات عدّة تتولى تطوير برامج تستند إلى برمجيات الذكاء الاصطناعي ويمكن لأي كان استخدامها. إلا أنّ هذه البرامج مصحوبة بمخاوف مرتبطة بتقنية Deep Fake التي تقوم على إجراء تلاعبات رقمية بصور أو أصوات إلى حد التطابق مع الواقع.
