تقول وكالة الجرائم الوطنية (NCA) ومؤسسة مراقبة الإنترنت (IWF) إن هناك خطرًا متزايدًا من أن صور الأطفال التي تُشارك عبر الإنترنت يمكن أن تُجمع ثم تُManipulate باستخدام الذكاء الاصطناعي لإنشاء محتوى مسيء واقعي. يحذرون من أن هذا يمكن أن يؤدي إلى إنتاج وتداول مواد اعتداء جنسي على الأطفال للاستغلال والابتزاز، حتى عندما تُشارك الصور الأصلية بشكل بريء من قبل الآباء.

تشير الوكالات إلى زيادة حادة في الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تتعلق بالاعتداء الجنسي على الأطفال، حيث حددت مؤسسة مراقبة الإنترنت آلاف الصور ومقاطع الفيديو المسيئة التي تم إنشاؤها بواسطة الذكاء الاصطناعي في عام 2025. يقولون إن المجرمين لم يعودوا بحاجة إلى استدراج الأطفال مباشرة لأن الصور المتاحة للجمهور يمكن استخدامها لإنشاء مواد صريحة دون موافقة.

بالإضافة إلى التحذير، أصدرت المنظمات نصائح محدثة للآباء ومقدمي الرعاية تهدف إلى الوقاية بدلاً من الذعر. توصي الإرشادات بما يلي:

مراجعة إعدادات الخصوصية لتقييد من يمكنه رؤية المنشورات، بما في ذلك استخدام حسابات خاصة أو مجموعات "الأصدقاء المقربين". فحص الصور الحالية التي تمت مشاركتها بالفعل من قبل العائلة، والبحث عن تفاصيل يمكن التعرف عليها مثل وجه الطفل، أو الزي المدرسي، أو معلومات أخرى قد تكشف عنهم. إعادة النظر في الموافقة على صور الأطفال التي تمت مشاركتها من قبل المدارس أو الأندية أو المنظمات الأخرى، وسحب أو تحديث الإذن إذا لزم الأمر.

تشجع وكالة الجرائم الوطنية (NCA) ومؤسسة مراقبة الإنترنت (IWF) الآباء على التحدث مع الأطفال حول مكان وزمان التقاط صورهم ومشاركتها، حتى يشعر الأطفال بالراحة في قول لا.