En un caso que resalta la compleja relación entre la inteligencia artificial y la supervisión humana, la destacada influencer de ética en IA Catharina Doria ha tenido dos de sus cuentas de redes sociales suspendidas por Meta. Las suspensiones, que ocurrieron en las últimas semanas, se llevaron a cabo bajo la justificación de que sus cuentas violaban las pautas comunitarias de la empresa.
Doria había construido una base de seguidores sustancial de casi 600 mil seguidores en Instagram y otras plataformas creando videos cortos educativos. Su contenido se centraba en la alfabetización digital práctica, enseñando a su audiencia a distinguir entre imágenes reales y aquellas generadas por IA. También brindaba orientación a los padres sobre los riesgos de publicar fotos de sus hijos en línea y concientizaba sobre otros problemas críticos de tecnología.
La situación tomó un giro particularmente irónico con la suspensión de una cuenta recién creada. A finales de marzo, Doria adoptó un perro rescatado llamado Miss Petunia y, a petición de sus seguidores, creó un perfil dedicado en Instagram para el animal, @misspetuniathechi. Según Doria, esta cuenta fue suspendida por los sistemas automatizados de Meta inmediatamente después de su creación, antes de que ella hubiera publicado siquiera una foto, escrito una biografía o subido una foto de perfil.
La propia Doria ha señalado la naturaleza tragicómica del evento. «Parece tragicómico que sea experta en ética de IA y una IA pueda destruir mi vida. Una influencer de ética en IA es suspendida por IA», declaró en una entrevista. El incidente subraya el potencial de los sistemas de moderación automatizados para cometer errores consecuentes sin revisión humana, impactando directamente el sustento y la presencia digital de los creadores.
El núcleo del trabajo de Doria gira en torno a los límites éticos y los procesos de toma de decisiones de los sistemas automatizados. El hecho de que se haya convertido en sujeto del mismo tema sobre el que educa al público ha atraído una atención significativa al poder y los posibles peligros de la gobernanza de plataformas. La suspensión de sus cuentas, especialmente el perfil de la mascota que no contenía contenido, plantea preguntas sobre los desencadenantes y la precisión de los algoritmos de aplicación de Meta.
Este evento sirve como un ejemplo de alto perfil de los desafíos que enfrentan los creadores digitales en una era donde las políticas de las plataformas son cada vez más aplicadas por IA. Para una influencer cuya marca se basa en explicar los matices de la tecnología, quedar atrapada en una red automatizada de aplicación representa un revés profesional y personal significativo. Basado en reportajes de g1.