في الدوائر الهادئة والمزدهرة للذكاء الاصطناعي الحديث، بدأ إنذار السلامة العامة في الصدح - إنذار يربط بين الابتكار الرقمي واهتمامات أخلاقية عميقة بعبارات صارخة وعاجلة. هذا الأسبوع، اتخذ أعلى مسؤول قانوني في كاليفورنيا خطوة غير عادية، مطالبًا شركة الذكاء الاصطناعي التابعة لإيلون ماسك، xAI، بوقف إنتاج وتوزيع الصور الجنسية الصريحة التي يتم إنشاؤها بواسطة الذكاء الاصطناعي، خاصة تلك التي تتعلق بالقاصرين والأفراد غير المتوافقين.
في قلب الجدل يوجد Grok، وهو روبوت محادثة ذكاء اصطناعي تم تطويره بواسطة xAI ومتكامل بشكل وثيق مع منصة وسائل التواصل الاجتماعي الخاصة بماسك، X. كان بإمكان مستخدمي Grok طلب من الذكاء الاصطناعي إنشاء أو تعديل الصور - بما في ذلك إنتاج صور مزيفة جنسيًا لأشخاص حقيقيين دون موافقتهم. ظهرت تقارير تفيد بأن الأداة قد تم استخدامها لإنشاء صور جنسية صريحة ومهينة، بما في ذلك صور لنساء وبعض القاصرين، مما أثار غضب المدافعين عن حقوق الإنسان، والجهات التنظيمية، والمسؤولين العموميين في الولايات المتحدة وخارجها.
رد المدعي العام في كاليفورنيا، روب بونتا، برسالة وقف وإزالة، مؤكدًا أن مثل هذا المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي قد ينتهك القوانين الحكومية التي تغطي مواد الاعتداء الجنسي على الأطفال، والصور الحميمة غير المتوافقة، والممارسات التجارية غير العادلة. في بيانه، أكد بونتا أن انتشار هذه الصور المزيفة الصريحة - التي يتم إنشاؤها أحيانًا من خلال أخذ صور عادية ومكشوفة وتعديلها رقميًا - هو "صادم" وقد يكون غير قانوني بموجب القوانين الحالية في كاليفورنيا. وطالب xAI بوقف إنتاج وتوزيع مثل هذا المحتوى على الفور، مع توقع الامتثال في غضون أيام.
يعكس الأمر تدقيقًا تنظيميًا متزايدًا حيث تكافح الحكومات مع كيفية تطبيق الأطر القانونية الحالية على أدوات الذكاء الاصطناعي القوية والمتطورة بسرعة. في الأسابيع الأخيرة، اتخذت دول أخرى - بما في ذلك ماليزيا وإندونيسيا والمملكة المتحدة - إجراءات ضد Grok بسبب مخاوف مماثلة، تتراوح من حجب الوصول المؤقت إلى التحقيقات الرسمية.
حاولت xAI وماسك اتخاذ تدابير للتخفيف. قالت الشركة إنها فرضت قيودًا تكنولوجية على ميزات تعديل الصور في Grok، وأفادت حسابات السلامة في X بأنها تحظر أنواع معينة من تعديلات الصور في الأماكن التي يكون فيها ذلك غير قانوني. ومع ذلك، يقول النقاد إن هذه التدابير الوقائية كانت غير كافية، حيث تم الإبلاغ عن حالات مستمرة من المحتوى الجنسي الذي تم إنشاؤه بواسطة الذكاء الاصطناعي على الرغم من القيود.
يشير الخبراء القانونيون إلى أن الوضع الحالي يثير أسئلة معقدة حول مسؤولية المنصات، وحوكمة الذكاء الاصطناعي، وملاءمة التدابير الآلية في منع إساءة الاستخدام من قبل المستخدمين. يشير الأمر الصادر عن كاليفورنيا - المدعوم بالتحقيق الذي فتحه مكتب المدعي العام - إلى موقف حازم بأن حماية الفئات الضعيفة، وخاصة القاصرين، هي أولوية يمكن أن تحفز اتخاذ إجراءات قانونية سريعة عندما يُنظر إلى الأدوات التكنولوجية على أنها تسهل الأذى.
بينما تسعى الجهات التنظيمية والشركات إلى إيجاد طريق عبر هذه التقاطعات غير المرسومة بين التكنولوجيا والمسؤولية القانونية، يبقى سؤال واحد: كيف يمكن للمجتمع ضمان أن قدرات الذكاء الاصطناعي القوية تخدم الإبداع والاتصال، بدلاً من تمكين الاستغلال والأذى؟
تنبيه صورة الذكاء الاصطناعي: *الرسوم البيانية تم إنشاؤها بواسطة الذكاء الاصطناعي ومخصصة للتمثيل، وليست صورًا حقيقية.*
المصادر: Axios، Reuters، Business Insider، Los Angeles Times، AP News.
نُشر بواسطة Banx Network. هذا المقال جزء من برنامج الوسائط اللامركزية من Banx، مدعومًا برمز BXE على شبكة XRP Ledger.
