In een zaak die de complexe relatie tussen kunstmatige intelligentie en menselijk toezicht benadrukt, heeft prominente AI-ethiek influencer Catharina Doria twee van haar sociale media-accounts laten opschorten door Meta. De opschortingen, die in de afgelopen weken plaatsvonden, werden uitgevoerd onder de rechtvaardiging dat haar accounts de communityrichtlijnen van het bedrijf zouden hebben overtreden.
Doria had een aanzienlijke aanhang van bijna 600.000 volgers op Instagram en andere platforms opgebouwd door het maken van korte, educatieve video's. Haar inhoud was gericht op praktische digitale geletterdheid, waarbij ze haar publiek leerde hoe ze echte afbeeldingen konden onderscheiden van door AI gegenereerde. Ze gaf ook advies aan ouders over de risico's van het online plaatsen van foto's van hun kinderen en maakte bewustzijn over andere kritieke technologiekwesties.
De situatie kreeg een bijzonder ironische wending met de opschorting van een nieuw aangemaakt account. Eind maart adopteerde Doria een geredde hond genaamd Miss Petunia en creëerde op verzoek van haar volgers een speciaal Instagram-profiel voor het dier, @misspetuniathechi. Volgens Doria werd dit account onmiddellijk na aanmaak opgeschort door de geautomatiseerde systemen van Meta, nog voordat ze een enkele foto had geplaatst, een biografie had geschreven of een profielfoto had geüpload.
Doria zelf heeft gewezen op het tragikomische karakter van de gebeurtenis. "Het lijkt tragikomisch dat ik een expert ben in AI-ethiek en een AI mijn leven kan verwoesten. Een AI-ethiek influencer wordt verbannen door AI," verklaarde ze in een interview. Het incident onderstreept het potentieel voor geautomatiseerde moderatiesystemen om fouten te maken met ingrijpende gevolgen, zonder menselijke controle, die direct de levensonderhoud en digitale aanwezigheid van makers beïnvloeden.
De kern van Doria's werk draait om de ethische grenzen en besluitvormingsprocessen van geautomatiseerde systemen. Het feit dat ze het onderwerp is geworden van precies het probleem waarover ze het publiek voorlicht, heeft veel aandacht getrokken voor de macht en potentiële valkuilen van platformbeheer. De opschorting van haar accounts, vooral het huisdierenprofiel dat geen inhoud bevatte, roept vragen op over de triggers en nauwkeurigheid van Meta's handhavingsalgoritmen.
Deze gebeurtenis dient als een spraakmakend voorbeeld van de uitdagingen waarmee digitale makers worden geconfronteerd in een tijdperk waarin platformbeleid steeds vaker door AI wordt gehandhaafd. Voor een influencer wiens merk is gebouwd op het uitleggen van de nuances van technologie, vertegenwoordigt het gevangen worden in een geautomatiseerd handhavingsnet een aanzienlijke professionele en persoonlijke tegenslag. Gebaseerd op berichtgeving van g1.