في النظام البيئي الواسع المدفوع بالخوارزميات على الإنترنت اليوم، يثبت الذكاء الاصطناعي أنه سلاح ذو حدين - سلاح لا يمكّن المبدعين والمبتكرين فحسب، بل يغذي أيضًا طموحات أكثر ظلامًا. يحذر خبراء الأمن الآن من أن الجماعات المتطرفة تستخدم أدوات استنساخ الصوت بالذكاء الاصطناعي لتعزيز الدعاية، مما يجعل رسائلها أكثر إقناعًا ويساعدها على توسيع نطاق تأثيرها بطرق كانت صعبة أو مكلفة سابقًا.
يستخدم استنساخ الصوت الذكاء الاصطناعي التوليدي لتكرار صوت إنسان من بضع ثوانٍ فقط من الصوت الأصلي، مما يخلق خطابًا صناعيًا يبدو حقيقيًا بشكل مقلق. بينما لهذه التقنيات استخدامات مشروعة - من أدوات الوصول إلى إنتاج الوسائط - إلا أنها جذبت انتباه الشبكات النازية الجديدة، والجماعات الجهادية، وغيرها من الحركات المتطرفة التي تهدف إلى نشر أيديولوجيتها عبر الإنترنت بتأثير عاطفي أكبر.
لقد لاحظ الخبراء أن المتطرفين يقومون بإنشاء نسخ صوتية مولدة بالذكاء الاصطناعي لخطابات تاريخية مشهورة ونصوص راديكالية - بما في ذلك نسخ باللغة الإنجليزية لخطابات أدولف هتلر وكتب صوتية للأدب المتطرف العنيف - معبأة مع مرئيات وسائل التواصل الاجتماعي لجذب جمهور جديد. لقد حققت هذه المقاطع عشرات الملايين من المشاهدات عبر منصات مثل تيك توك، يوتيوب وإنستغرام، مما يجذب المستخدمين الذين قد لا يتفاعلون مع النصوص العادية فقط.
تميل المحتويات الصوتية إلى أن تكون أكثر شخصية وإقناعًا من المنشورات المكتوبة أو الصور الثابتة. يمكن لصوت يلقي رسالة - خاصة إذا كان يبدو موثوقًا أو مألوفًا - أن يثير استجابة عاطفية قد لا تحققها النصوص وحدها. وهذا هو بالضبط التأثير الذي يسعى إليه المتطرفون: جعل موادهم تبدو أصلية، ملحة، وقابلة للتواصل، مما يقلل المقاومة ويعزز الأفكار المتطرفة بين المستمعين القابلين للتأثر.
لقد خفضت سهولة الوصول إلى أدوات استنساخ الصوت الحواجز التقنية والمالية أمام الفاعلين السيئين. تتيح خدمات تجارية مثل ElevenLabs للمستخدمين إنشاء أصوات مستنسخة عالية الجودة بمهارات قليلة، مما يعني أن حتى الجماعات أو الأفراد غير المنظمين يمكنهم إنتاج محتوى يبدو ويبدو حقيقيًا. هذه الديناميكية تblur الخط الفاصل بين الدعاية الهامشية الهواة والوسائط المنتجة بشكل احترافي، مما يضخم نطاق المتطرفين دون إشراف أو تنظيم متناسب.
تبدأ المنصات والجهات التنظيمية في مواجهة هذه المخاطر. تقوم بعض شركات وسائل التواصل الاجتماعي بطرح سياسات تتطلب من المبدعين الكشف عن المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي والاستثمار في أنظمة العلامات المائية أو التعرف على الصوت لاكتشاف الوسائط الاصطناعية. ومع ذلك، يحذر الخبراء من أن مثل هذه التدابير لا تزال في مراحلها الأولى وقد تتخلف عن الوتيرة السريعة للاستخدام السيئ مع استمرار تطور أدوات الذكاء الاصطناعي التوليدية وانتشارها.
بينما يتكيف المتطرفون مع التكنولوجيا الجديدة، فإن التحدي بالنسبة للحكومات وشركات التكنولوجيا والمجتمع المدني هو مزدوج: كيفية الحفاظ على فوائد الابتكار في الذكاء الاصطناعي مع منع استغلاله لنشر الكراهية والمعلومات المضللة والتطرف. بدون حماية أقوى، فإن القلق هو أن الدعاية المعززة بالذكاء الاصطناعي ستصبح أكثر فعالية في التجنيد، وتطبيع السرد الضار، وتشكيل الخطاب عبر الإنترنت بطرق تقوض التماسك الاجتماعي والسلامة العامة.
تنبيه صورة الذكاء الاصطناعي "المرئيات تم إنشاؤها باستخدام أدوات الذكاء الاصطناعي ومخصصة للتمثيل فقط."
المصادر The Guardian NewsBytes GNet Research Washington Post PBS NewsHour
نُشر بواسطة Banx Network. هذا المقال جزء من برنامج الوسائط اللامركزية من Banx، مدعومًا برمز BXE على شبكة XRP Ledger.
