Quand l'avertissement est plus fort que les preuves

Chaque époque a ses prophètes de la rupture. Ils se tiennent légèrement à l'écart de la foule, gesticulant vers l'horizon, avertissant que quelque chose d'immense et d'incontrôlable est à venir. À l'ère de l'intelligence artificielle, ces avertissements ne proviennent pas de mystiques ou de romanciers, mais d'exécutifs — délivrés lors d'interviews, de livres blancs et de phrases soigneusement pesées. Récemment, l'un de ces avertissements a eu un impact particulier : que l'IA pourrait inaugurer de nouvelles formes d'esclavage, de bioterrorisme et d'armées de drones autonomes échappant au contrôle humain.

C'est une image dramatique, et le drame a ses usages. La peur peut concentrer l'attention. Mais elle peut aussi aplatir la nuance, transformant des systèmes complexes en menaces cinématographiques. L'intelligence artificielle, telle qu'elle existe aujourd'hui, n'est pas un acteur souverain avec des désirs ou une agence. C'est une infrastructure — fragile par endroits, puissante par d'autres — façonnée par des incitations, des institutions et des choix humains. Parler d'elle comme d'un moteur inévitable de domination risque de confondre outils et destin.

L'histoire offre une leçon plus silencieuse. Les technologies qui modifient radicalement le travail, la guerre ou la surveillance n'arrivent pas comme des ruptures singulières avec le passé. Elles sont absorbées de manière inégale, contraintes par la loi, déformées par les marchés et résistées par la culture. L'automatisation a déjà déplacé des travailleurs sans recréer l'esclavage. La connaissance chimique existe depuis des décennies sans rendre le bioterrorisme courant. Les drones, malgré leur menace, restent étroitement liés à la logistique, à la supervision et à la capacité de l'État.

Cela ne signifie pas que les risques sont imaginaires. L'IA peut amplifier les déséquilibres de pouvoir existants, abaisser les barrières au préjudice et concentrer la prise de décision entre moins de mains. Mais l'amplification n'est pas synonyme d'inévitabilité. La catastrophe nécessite un alignement — de capacité, d'intention et d'échec de retenue. Ces conditions sont politiques et sociales bien avant d'être techniques.

Il y a aussi quelque chose de pratique dans le cadre apocalyptique. Cela élève le locuteur au rôle de gardien, présentant son organisation à la fois comme créatrice et potentielle sauveuse. Dans ce récit, la réglementation devient urgente mais vague, la responsabilité devient partagée mais diluée, et la responsabilité dérive vers l'abstraction. Le danger n'est plus ce que nous choisissons de déployer, mais ce que "l'IA" pourrait un jour décider.

Le scepticisme, alors, n'est pas un déni. C'est un refus de déléguer le jugement à des métaphores d'intelligence incontrôlable. L'avenir de l'IA sera façonné moins par des essaims de drones hypothétiques que par des décisions banales : qui contrôle le déploiement, qui supporte le risque, qui bénéficie de la productivité, et qui a le droit de dire non.

S'il y a un avertissement qui mérite d'être pris au sérieux, ce n'est pas que les machines nous réduiront en esclavage, mais que la peur pourrait nous distraire des manières plus lentes et plus ordinaires dont le pouvoir se consolide. Ces forces ne se manifestent pas avec du spectacle. Elles arrivent discrètement, écrites dans des contrats, des défauts et des hypothèses — et elles sont beaucoup plus difficiles à arrêter une fois que nous cessons de les regarder directement.