Une erreur d'interprétation commise par un outil d'intelligence artificielle créé par Google a conduit à l'ouverture d'une enquête pour pédocriminalité.
Un outil de Google dédié à l'automatisation de l'interception d'images à caractère pédocriminel circulant sur le web a semé la zizanie, déclenchant à nouveau la polémique autour du géant et de ses pratiques jugées intrusives en matière de traitement des données personnelles.
L'IA confond domaine médical et pédocriminalité
L'incident s'est produit Outre-Atlantique en février 2021, durant les restrictions liées au Covid-19. Il a été demandé à Mark, un père de famille ayant remarqué un gonflement dans la région génitale de son enfant, de transmettre des photos du problème au cabinet médical avant la tenue de la consultation avec un médecin par visioconférence. Deux jours après celle-ci, Mark reçoit une notification de la part de Google. Celle-ci stipule que ses comptes liés aux services du géant ont été suspendus en raison d'un « contenu préjudiciable » représentant « une violation grave des politiques de Google et qui pourrait être illégal ».
