“حظر الخوارزمية: محاولة دولة لحماية الكرامة في عصر الذكاء الاصطناعي”

في عصر يبدو فيه أن الذكاء الاصطناعي على وشك إعادة تشكيل كل شيء من كيفية عملنا إلى كيفية لعبنا، سلط قرار حكومي مفاجئ في جنوب شرق آسيا الضوء على التحديات التي تأتي مع الابتكار السريع. هذا الأسبوع، أصبحت إندونيسيا أول دولة تحظر مؤقتًا الوصول إلى Grok، وهو روبوت محادثة ذكاء اصطناعي تم تطويره بواسطة xAI التابعة لإيلون ماسك — وهو إجراء أثاره القلق بشأن الصور العميقة الجنسية التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تقول السلطات إنها تهدد السلامة العامة وكرامة الإنسان.

أعلنت وزارة الاتصالات والشؤون الرقمية في جاكرتا في 10 يناير 2026، أنه سيتم قطع الوصول إلى Grok بينما تقوم السلطات بتقييم ما إذا كانت تدابير الحماية الخاصة بالمنصة كافية لمنع الاستخدام الضار. وأشار المسؤولون إلى خطر المحتوى الإباحي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، بما في ذلك الصور غير التوافقية والصور المزعجة للأطفال والبالغين، التي يمكن إنتاجها باستخدام أدوات توليد الصور الخاصة بـ Grok — وهي مشكلة تثير بالفعل تدقيقًا عالميًا.

قالت وزيرة الاتصالات ميوتيا هافيد إن إندونيسيا ترى أن إنشاء ونشر الإباحية العميقة غير التوافقية يعد انتهاكًا خطيرًا لحقوق الإنسان والأمن الرقمي، مصنفة إياه كـ "عنف قائم على الرقمية" يهدد نزاهة وكرامة ورفاهية المواطنين النفسية. وأكد بيان الوزارة أن المنصات الرقمية يجب أن تمتلك ضوابط قوية لمنع إنتاج وتوزيع المحتوى المحظور والامتثال للوائح الوطنية التي تحكم أنظمة المعلومات.

يأتي الحظر المؤقت وسط مخاوف أوسع بشأن اعتدال محتوى أداة الذكاء الاصطناعي: حيث قامت xAI مؤخرًا بتقييد ميزات توليد الصور وتحريرها في Grok للمشتركين المدفوعين — استجابة للردود السلبية بشأن إساءة الاستخدام — لكن المنظمين ومجموعات المناصرة قالوا إن هذه الخطوات لا تكفي لضمان السلامة العامة. كما استدعت سلطات جاكرتا ممثلين من منصة X (المعروفة سابقًا بتويتر)، المنصة الاجتماعية التي يتم من خلالها تقديم Grok، لتوضيح كيف تخطط للتخفيف من المشكلة وحماية المستخدمين.

تشير إجراءات إندونيسيا إلى موقف تنظيمي حازم في وقت تكافح فيه العديد من الدول لتحقيق التوازن بين الابتكار والسلامة. مع واحدة من أكبر populations على الإنترنت في العالم وقوانين وطنية صارمة تحظر المحتوى الفاحش، تحدد الحكومة حدودًا لكيفية عمل الذكاء الاصطناعي التوليدي في المجال العام. ما إذا كان Grok سيعود إلى الفضاء الرقمي الإندونيسي سيعتمد على ما إذا كانت xAI وشركاؤها يمكنهم إثبات تدابير فعالة ضد المحتوى الضار وغير التوافقي تتماشى مع القوانين الوطنية والمعايير الأخلاقية.

تنبيه صورة الذكاء الاصطناعي "المرئيات تم إنشاؤها باستخدام أدوات الذكاء الاصطناعي وليست صورًا حقيقية؛ إنها تعمل كرسوم توضيحية مفاهيمية فقط."

المصادر رويترز (عبر عدة وسائل إعلام) أنتارا نيوز (تقارير الحكومة الإندونيسية) ساوث تشاينا مورنينغ بوست تايمز أوف إنديا تقارير AFP (عبر خليج تايمز)