القانون الذي تم توقيعه حديثًا والذي يستهدف الإباحية العميقة المزيفة غير التوافقية قد زاد من الجهود المبذولة لمعالجة إساءة استخدام الذكاء الاصطناعي في إنشاء محتوى ضار ومخادع. يجادل مؤيدو التشريع بأن التقدم في وسائل الإعلام التي يتم إنشاؤها بواسطة الذكاء الاصطناعي قد جعل من الضروري توفير حماية قانونية أقوى للأفراد الذين تُستخدم صورهم دون موافقة.

يحدد القانون عقوبات جنائية لإنشاء أو توزيع أو مشاركة عن علم أشكال معينة من المحتوى الجنسي العميق المزيف غير التوافقي. لقد ركز صانعو السياسات بشكل متزايد على هذه القضية مع تزايد إمكانية الوصول إلى أدوات الذكاء الاصطناعي وقدرتها على إنتاج صور وفيديوهات اصطناعية عالية الواقعية.

يؤكد المدافعون عن التشريع أن الضحايا غالبًا ما يعانون من أضرار عاطفية ومهنية وسمعية شديدة عندما يتم تداول المحتوى المُعدل عبر الإنترنت. تم تطوير الأطر القانونية الحالية في العديد من الولايات القضائية قبل أن تصبح تقنيات الذكاء الاصطناعي التوليدية الحديثة متاحة على نطاق واسع، مما يخلق تحديات في التنفيذ وحماية الضحايا.

يعتبر هذا التشريع جزءًا من اتجاه أوسع نحو تنظيم الاستخدامات الضارة للذكاء الاصطناعي. بدأت الحكومات في جميع أنحاء العالم في استكشاف تدابير تتعلق بالتقمص الرقمي، والمعلومات المضللة المتعلقة بالانتخابات، وإساءة استخدام الهوية، وشفافية الوسائط الاصطناعية.

كما وسعت شركات التكنولوجيا ومنصات التواصل الاجتماعي وخبراء الأمن السيبراني جهودهم لاكتشاف وإزالة المحتوى المخادع الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. تُعتبر أدوات الكشف المحسّنة وآليات الإبلاغ بشكل متزايد مكملات مهمة لاستراتيجيات التنفيذ القانونية.

يحذر منتقدو إساءة استخدام تكنولوجيا العمق المزيف من أن الوسائط الاصطناعية يمكن أن تقوض الثقة في نظم المعلومات الرقمية. تتجاوز المخاوف المحتوى الصريح، وتمتد إلى الاحتيال، والهجمات السمعة، وأشكال أخرى من التلاعب التي تستغل المواد الواقعية التي تم إنشاؤها بواسطة الذكاء الاصطناعي.

يشير الخبراء القانونيون إلى أن فعالية التنفيذ ستعتمد على التعاون بين وكالات إنفاذ القانون، والمنصات عبر الإنترنت، ومزودي التكنولوجيا. قد تنشأ تحديات عبر الحدود عندما يتم إنشاء المحتوى أو استضافته أو توزيعه عبر عدة ولايات قضائية.

يعتقد المؤيدون أن القانون يرسل إشارة واضحة مفادها أن الابتكار التكنولوجي يجب أن يقترن بالمساءلة. ويجادلون بأن حماية الأفراد من الاستغلال الرقمي غير المصرح به أمر أساسي مع استمرار تقدم قدرات الذكاء الاصطناعي التوليدية.

يعكس هذا الإجراء الاعتراف المتزايد بأن حوكمة الذكاء الاصطناعي تتطلب كل من الحماية التكنولوجية والأطر القانونية القادرة على معالجة المخاطر الناشئة. من المتوقع أن تظل المقترحات التشريعية الإضافية التي تتناول الوسائط الاصطناعية وحماية الهوية الرقمية مواضيع نشطة للنقاش.