قامت الشركة الناشئة ElevenLabs المتخصصة في مجال الذكاء الاصطناعي بحظر حساب أحد مستخدميها والذي أنشأ تسجيلًا صوتيًا مزيفًا للرئيس الأمريكي جو بايدن تم إستخدامه في محاولة للتأثير على نتائج الانتخابات، وفقًا لوكالة الأنباء بلومبورج. تم استخدام الصوت الذي ينتحل شخصية الرئيس في مكالمة آلية تم إرسالها إلى بعض الناخبين في نيو هامبشاير الأسبوع الماضي، تخبرهم بعدم التصويت له في الانتخابات التمهيدية للولاية. لم يكن من الواضح في البداية ما هي التكنولوجيا المستخدمة لنسخ صوت جو بايدن، ولكن تحليلًا دقيقًا أجرته شركة الأمن Pindrop أظهر أن الجناة إستخدموا أدوات ElevanLabs.
أزالت شركة الأمن الضوضاء في الخلفية ونظفت صوت المكالمة المزيفة قبل مقارنتها بعينات من أكثر من 120 تقنية تركيب صوتي مستخدمة لإنشاء تسجيلات صوتية مزيفة. أخبر الرئيس التنفيذي لشركة Pindrop، فيجاي بالاسوبرامانيان، مجلة Wired أن ” النتيجة النهائية أظهرت أنه تم إستخدام تقنية نسخ الصوت الخاصة بشركة ElevenLabs بنسبة 99% “.
وتقول بلومبورج أنه تم إبلاغ الشركة بنتائج Pindrop ولا تزال تحقق في الأمر، ولكنها حددت بالفعل حسابًا قام بإنشاء الصوت المزيف وقامت بتعليقه. أخبرت ElevenLabs وكالة الأنباء المذكورة آنفًا أنها لا تستطيع التعليق على القضية نفسها، ولكنها أوضحت في نفس الوقت أنها ” تكرس جهودها لمنع إساءة استخدام أدوات الذكاء الاصطناعي الصوتية وأنها تأخذ أي حالات إساءة إستخدام على محمل الجد “.
تُظهر المكالمة المزيفة لجو بايدن كيف يمكن إستخدام التقنيات التي يمكنها تقليد مظهر وصوت شخص آخر للتلاعب بالتصويت في الانتخابات الرئاسية القادمة في الولايات المتحدة. قالت كاثلين كارلي، أستاذة بجامعة كارنيجي ميلون، لصحيفة The Hill : ” هذا مجرد غيض من فيض لما يمكن القيام به فيما يتعلق بقمع الناخبين أو إستهداف المسؤولين على الانتخابات “، وأضافت : ” كان ذلك بمثابة نذير لما يجب أن نتوقعه في الأشهر القليلة القادمة “.
إستغرق الأمر بضعة أيام فقط بعد إطلاق ElevenLabs للإصدار التجريبي من منصتها ليتم البدء بإستخدامها لإنشاء مقاطع صوتية تجعل الأمر يبدو وكأن المشاهير يقرؤون أو يقولون شيئًا مشكوكًا فيه. تسمح الشركة الناشئة للعملاء باستخدام تقنيتها لإستنساخ الأصوات من أجل ” الخطاب الفنية والسياسية التي تساهم في النقاشات العامة “. ومع ذلك، تُحذر صفحة الأمان الخاصة بها المستخدمين من أنه ” لا يمكنهم إستنساخ الأصوات لأغراض مسيئة مثل الإحتيال أو التمييز أو نشر خطابات الكراهية أو لأي شكل من أشكال الإساءة عبر الإنترنت دون إنتهاك القانون “، ولكن من الواضح أنها بحاجة إلى وضع المزيد من الضمانات لمنع الجهات ذات النوايا السيئة من إستخدام أدواتها للتأثير على الناخبين والتلاعب بالانتخابات حول العالم.
