Dans une affaire qui met en lumière la relation complexe entre l'intelligence artificielle et la supervision humaine, l'éminente influenceuse en éthique de l'IA Catharina Doria a vu deux de ses comptes sur les réseaux sociaux suspendus par Meta. Les suspensions, survenues ces dernières semaines, ont été effectuées sous prétexte que ses comptes violaient les directives de la communauté de l'entreprise.
Doria avait bâti une audience substantielle de près de 600 000 abonnés sur Instagram et d'autres plateformes en créant de courtes vidéos éducatives. Son contenu se concentrait sur la culture numérique pratique, apprenant à son public à distinguer les images réelles de celles générées par l'IA. Elle donnait également des conseils aux parents sur les risques de publier des photos de leurs enfants en ligne et sensibilisait à d'autres questions technologiques cruciales.
La situation a pris un tour particulièrement ironique avec la suspension d'un compte nouvellement créé. Fin mars, Doria a adopté un chien de sauvetage nommé Miss Petunia et, à la demande de ses abonnés, a créé un profil Instagram dédié à l'animal, @misspetuniathechi. Selon Doria, ce compte a été suspendu par les systèmes automatisés de Meta immédiatement après sa création, avant même qu'elle n'ait publié une seule photo, rédigé une biographie ou téléchargé une photo de profil.
Doria elle-même a souligné le côté tragicomique de l'événement. « Il semble tragicomique que je sois experte en éthique de l'IA et qu'une IA puisse détruire ma vie. Une influenceuse en éthique de l'IA est bannie par l'IA », a-t-elle déclaré dans une interview. L'incident souligne le potentiel des systèmes de modération automatisés à commettre des erreurs conséquentes sans examen humain, impactant directement les moyens de subsistance et la présence numérique des créateurs.
Le cœur du travail de Doria tourne autour des limites éthiques et des processus décisionnels des systèmes automatisés. Le fait qu'elle soit devenue un sujet du problème même sur lequel elle éduque le public a attiré une attention significative sur le pouvoir et les pièges potentiels de la gouvernance des plateformes. La suspension de ses comptes, en particulier le profil de l'animal qui ne contenait aucun contenu, soulève des questions sur les déclencheurs et la précision des algorithmes d'application de Meta.
Cet événement sert d'exemple très médiatisé des défis auxquels sont confrontés les créateurs numériques à une époque où les politiques des plateformes sont de plus en plus appliquées par l'IA. Pour une influenceuse dont la marque repose sur l'explication des nuances de la technologie, se retrouver prise dans un filet d'application automatisé représente un revers professionnel et personnel important. D'après un reportage de g1.