هناك لحظات في الرقصة الطويلة والمعقدة للتكنولوجيا حيث يلعب الضوء والظل عبر نفس المسرح - عندما يعد أداة تَعِد بالإبداع أيضًا بإلقاء ظلال غير متوقعة. مثل تجمع الماء في شقوق غير متوقعة بعد المطر، تتسرب أحيانًا نواتج الابتكار إلى مساحات كانت مخصصة لتكون جافة. في الأيام الأخيرة، كشف تحقيق عن تيار من هذا القبيل تحت سطح أنظمتنا الرقمية: تطبيقات "تجريد" المدعومة بالذكاء الاصطناعي المتاحة بهدوء في الأسواق الكبرى للتطبيقات، حتى في الوقت الذي تؤكد فيه المنصات التي تستضيفها على سياسات صارمة ضد هذه الأنواع من البرامج.
تبدأ القصة بملاحظة بسيطة - ماذا يحدث عندما تلتقي أدوات توليد قوية مع حماية ضعيفة. تم تصميم هذه التطبيقات لتحويل الصور الملبوسة إلى تجسيدات عارية أو لتراكب الوجوه على أجساد أخرى، وقد انتشرت في كل من متجر تطبيقات آبل ومتجر جوجل بلاي. وفقًا لأحدث مراجعة من منظمة مراقبة، تم اكتشاف العشرات من هذه التطبيقات من خلال عمليات بحث بسيطة عن مصطلحات مثل "تجريد" أو "خلع الملابس"، على الرغم من الحظر الطويل الأمد على المحتوى الجنسي أو الاستغلالي في إرشادات كلا المتجرين.
في عالم حيث تشكل مليارات التنزيلات تجربة المستخدم بهدوء، فإن الحجم الهائل لهذه الظاهرة ملحوظ. تشير التقارير إلى أن التطبيقات المحددة قد تم تنزيلها مئات الملايين من المرات - وهو دليل ليس فقط على جاذبية معالجة الصور المدعومة بالذكاء الاصطناعي ولكن أيضًا على مدى سرعة تسرب هذه التقنيات عبر الأسواق الرقمية.
إذا تخيلت متاجر التطبيقات كمعارض منسقة، فإن هذه الأدوات "لتجريد" كانت مثل لوحات دخلت من الباب الجانبي، تحمل تقنيات أثارت الإعجاب والقلق على حد سواء. إنها تحتل تقاطعًا هشًا حيث يلتقي الإمكانات الإبداعية مع الخصوصية والموافقة والاستخدام الأخلاقي للذكاء الاصطناعي. وعلى الرغم من أن السياسات على الورق قد تسعى إلى حظر هذه الوظائف بالضبط، فإن الواقع المعيشي للتنفيذ يمكن أن يتخلف عن سرعة ابتكار الذكاء الاصطناعي.
استجابةً للضوء الذي ألقاه التحقيق، اتخذت كل من جوجل وآبل خطوات لإزالة بعض التطبيقات المحددة. أكدت آبل أنها أزالت عددًا من التطبيقات المعلَمة وحذرت أخرى؛ بينما قالت جوجل إنها علقت عدة تطبيقات، حتى مع بقاء بعضها مرئيًا بينما لا تزال المراجعة مستمرة.
بالنسبة للعديد من المطورين والمشرفين على المنصات، هناك توتر متأصل هنا - نفس الأنظمة التوليدية التي تحمل وعدًا للاستخدام الفني والعملي تجعل أيضًا أشكالًا من سوء الاستخدام ممكنة لم يكن أحد ينويها. تستغل هذه التطبيقات "لتجريد"، في جوهرها، القدرة على إنتاج صور حميمة دون موافقة - وهو نتيجة تتجاوز الحدود التي اعتقد الكثيرون أن هذه الأسواق قد رسمتها بوضوح.
ما يظهر من هذا المشهد ليس فقط سؤالًا عن القواعد ولكن عن الأنظمة التي تكافح أحيانًا لمواكبة كل من براعة ومخاطر أدوات الذكاء الاصطناعي. إن التنفيذ والكشف وتطور السياسات كلها جزء من المحادثة المستمرة بين الابتكار والمسؤولية.
بعبارات مباشرة ولكن لطيفة، تظهر التقارير الأخيرة أن متجر جوجل بلاي ومتجر تطبيقات آبل استضافا العشرات من التطبيقات المدعومة بالذكاء الاصطناعي القادرة على إنشاء صور عميقة ذات دلالات جنسية، على الرغم من أن كلا المنصتين تحظران مثل هذه الوظائف في سياساتهما الرسمية. بعد مشاركة النتائج معهما، أزالت الشركات بعض التطبيقات المحددة، على الرغم من أن المراجعات وإجراءات التنفيذ لا تزال جارية.
تنبيه صورة الذكاء الاصطناعي
"الرسوم البيانية تم إنشاؤها بواسطة الذكاء الاصطناعي ومخصصة للتمثيل، وليس للواقع."
---
المصادر
The Verge
Android Authority
تقارير مشروع الشفافية التقنية (عبر وسائل الإعلام)
MacTech News
نُشر بواسطة Banx Network. هذا المقال جزء من برنامج الوسائط اللامركزية من Banx، مدعومًا برمز BXE على شبكة XRP Ledger.
