Em um caso que destaca a complexa relação entre inteligência artificial e supervisão humana, a proeminente influenciadora de ética em IA Catharina Doria teve duas de suas contas de mídia social suspensas pela Meta. As suspensões, que ocorreram nas últimas semanas, foram realizadas sob a justificativa de que suas contas violavam as diretrizes da comunidade da empresa.
Doria havia construído uma base substancial de seguidores de quase 600 mil no Instagram e outras plataformas criando vídeos curtos educativos. Seu conteúdo focava em alfabetização digital prática, ensinando seu público a distinguir entre imagens reais e aquelas geradas por IA. Ela também fornecia orientação aos pais sobre os riscos de postar fotos de seus filhos online e conscientizava sobre outras questões críticas de tecnologia.
A situação tomou um rumo particularmente irônico com a suspensão de uma conta recém-criada. No final de março, Doria adotou um cão resgatado chamado Miss Petunia e, a pedido de seus seguidores, criou um perfil dedicado no Instagram para o animal, @misspetuniathechi. Segundo Doria, esta conta foi suspensa pelos sistemas automatizados da Meta imediatamente após sua criação, antes mesmo de ela ter postado uma única foto, escrito uma biografia ou enviado uma foto de perfil.
A própria Doria destacou a natureza tragicômica do evento. "Parece tragicômico que eu seja especialista em ética de IA e uma IA possa destruir minha vida. Uma influenciadora de ética em IA é suspensa pela IA", disse ela em uma entrevista. O incidente ressalta o potencial dos sistemas de moderação automatizados para cometer erros consequentes sem revisão humana, impactando diretamente o sustento e a presença digital dos criadores.
O cerne do trabalho de Doria gira em torno dos limites éticos e processos de tomada de decisão dos sistemas automatizados. O fato de ela ter se tornado sujeito do mesmo assunto sobre o qual educa o público atraiu atenção significativa para o poder e as potenciais armadilhas da governança de plataformas. A suspensão de suas contas, especialmente o perfil do animal de estimação que não continha conteúdo, levanta questões sobre os gatilhos e a precisão dos algoritmos de aplicação da Meta.
Este evento serve como um exemplo de alto perfil dos desafios enfrentados por criadores digitais em uma era onde as políticas das plataformas são cada vez mais aplicadas por IA. Para uma influenciadora cuja marca é construída sobre explicar as nuances da tecnologia, ser pega em uma rede automatizada de aplicação representa um revés profissional e pessoal significativo. Baseado em reportagens do g1.