MANILLE, Philippines - Le gouvernement philippin a pris une position ferme contre l'utilisation abusive de l'intelligence artificielle, bloquant l'accès à Grok AI en raison de préoccupations selon lesquelles la plateforme a été abusée pour créer du contenu deepfake mettant en danger les femmes et les enfants.
Le Département des technologies de l'information et des communications (DICT) a déclaré que la décision était motivée par des rapports croissants selon lesquels des images et des vidéos générées par l'IA étaient utilisées pour le harcèlement, l'exploitation et la diffusion de deepfakes à caractère sexuel explicite. Un tel contenu, ont averti les responsables, cause des dommages durables aux victimes et pose des risques sérieux, en particulier pour les mineurs.
Le DICT a souligné que bien que l'intelligence artificielle offre des avantages significatifs pour l'innovation et la productivité, cela ne doit pas se faire au détriment de la sécurité publique et de la dignité humaine. "La protection des femmes et des enfants reste une priorité absolue", a déclaré le département, notant que l'utilisation incontrôlée de la technologie deepfake peut alimenter les abus en ligne, le chantage et le traumatisme psychologique.
La décision de bloquer Grok AI s'inscrit dans le cadre d'efforts gouvernementaux plus larges pour renforcer les protections numériques et faire respecter la responsabilité des plateformes technologiques opérant dans le pays. Les autorités coordonnent également avec les agences d'application de la loi et les groupes de protection de l'enfance pour traiter les abus liés à l'IA et améliorer les mécanismes de signalement de contenu nuisible.
Les groupes de défense ont salué la décision, la qualifiant de mesure nécessaire pour freiner la propagation rapide des deepfakes et envoyer un message clair selon lequel la technologie doit être utilisée de manière responsable. Ils ont également appelé à un investissement continu dans l'alphabétisation numérique et à des réglementations plus strictes pour suivre l'évolution des menaces en ligne.
Le DICT a déclaré qu'il restait ouvert à l'engagement avec les développeurs d'IA, à condition que des mesures de protection soient en place pour prévenir les abus. Alors que le paysage numérique continue d'évoluer, le gouvernement a souligné que l'innovation doit aller de pair avec de fortes protections, en particulier pour les membres les plus vulnérables de la société.
Publié par Banx Network. Cet article fait partie du programme de médias décentralisés Banx, propulsé par le jeton BXE sur le XRP Ledger.
