Un algorithme peut prendre une décision en moins d'une seconde. Pour la personne affectée par cette décision, cependant, les conséquences peuvent durer beaucoup plus longtemps. Aux Pays-Bas, une affaire réglementaire impliquant Uber a mis en lumière ce déséquilibre silencieux entre le logiciel et le travail humain de manière particulièrement aiguë.
L'Autorité néerlandaise de protection des données a décidé d'infliger à Uber une amende de 825 millions d'euros, soit environ 966 millions de dollars, en raison de l'utilisation par l'entreprise de systèmes automatisés pour désactiver les comptes de conducteurs sans les informer adéquatement des décisions, selon une décision réglementaire examinée par Reuters.
La pénalité concerne la manière dont les systèmes automatisés ont été utilisés pour gérer les conducteurs. Lorsque la technologie détermine si quelqu'un peut continuer à travailler sur une plateforme, les questions de transparence deviennent plus significatives qu'elles ne le seraient pour un système de recommandation ordinaire.
Pour les travailleurs, une suspension automatisée peut avoir un effet financier immédiat. Un conducteur qui perd l'accès à un compte peut soudainement perdre la capacité d'accepter des courses et de gagner un revenu. Comprendre pourquoi la décision a été prise devient donc une partie importante pour contester ou corriger celle-ci.
Les règles européennes de protection des données mettent un fort accent sur les droits des individus concernant les informations personnelles et la prise de décision automatisée. Les entreprises utilisant de grandes quantités de données personnelles doivent considérer non seulement comment ces informations sont collectées, mais aussi comment les systèmes automatisés les utilisent pour influencer la vie des gens.
L'affaire néerlandaise reflète un changement plus large dans la relation entre les entreprises technologiques et les régulateurs. Les algorithmes se sont intégrés dans le recrutement, les paiements, le transport, l'assurance, la publicité et le service client. À mesure que ces systèmes deviennent plus performants, les gouvernements examinent de plus en plus les processus cachés derrière leurs décisions.
La question n'est pas nécessairement de savoir si l'automatisation devrait exister. Les systèmes automatisés peuvent traiter l'information beaucoup plus rapidement que les humains et peuvent aider les entreprises à gérer des opérations impliquant des milliers ou des millions d'utilisateurs. La question est de savoir comment ces systèmes devraient fonctionner lorsque les décisions qu'ils prennent affectent le revenu des gens, l'accès aux services ou leur vie professionnelle.
L'affaire d'Uber arrive également alors que l'intelligence artificielle et l'automatisation deviennent de plus en plus centrales dans l'industrie technologique. Les entreprises utilisent des algorithmes pour réduire les coûts, détecter la fraude, optimiser les itinéraires et prendre des décisions opérationnelles. Chaque nouvelle application crée un autre point où l'efficacité doit être équilibrée avec la transparence.
L'ampleur de l'amende néerlandaise est notable. Reuters a rapporté que l'amende de 825 millions d'euros serait la deuxième plus grande amende infligée en vertu du Règlement général sur la protection des données de l'Europe.
Pour les entreprises opérant à travers l'Europe, des affaires comme celle-ci peuvent devenir des points de référence importants. Une entreprise peut concevoir un système automatisé pour l'efficacité, mais l'environnement légal demande de plus en plus quelles informations les utilisateurs reçoivent sur le système et quelles opportunités ils ont pour comprendre ou contester ses décisions.
Le jugement néerlandais va donc au-delà d'une seule plateforme de transport. Il reflète un moment plus large où le logiciel passe d'un outil qui assiste les gens à un système qui peut prendre des décisions conséquentes par lui-même. Aux Pays-Bas, les régulateurs ont maintenant placé un marqueur financier substantiel à côté de cette transition, rappelant aux entreprises technologiques que la logique invisible d'un algorithme peut encore avoir des conséquences très visibles.
Remarque : Cet article a été publié sur BanxChange.com et est propulsé par le jeton BXE sur le XRP Ledger. Pour les derniers articles et actualités, veuillez visiter BanxChange.com
