W sprawie, która podkreśla złożoną relację między sztuczną inteligencją a ludzkim nadzorem, prominentna influencerka ds. etyki AI Catharina Doria miała zawieszone dwa swoje konta w mediach społecznościowych przez Meta. Zawieszenia, które miały miejsce w ostatnich tygodniach, zostały przeprowadzone pod pretekstem, że jej konta naruszały wytyczne społeczności firmy.
Doria zbudowała znaczną publiczność liczącą prawie 600 000 obserwujących na Instagramie i innych platformach, tworząc krótkie filmy edukacyjne. Jej treści koncentrowały się na praktycznej cyfrowej umiejętności, ucząc odbiorców, jak odróżniać prawdziwe obrazy od tych generowanych przez AI. Udzielała również porad rodzicom na temat ryzyka związanego z publikowaniem zdjęć ich dzieci w internecie oraz podnosiła świadomość na temat innych krytycznych kwestii technologicznych.
Sytuacja przybrała szczególnie ironiczny obrót wraz z zawieszeniem nowo utworzonego konta. Pod koniec marca Doria adoptowała uratowanego psa o imieniu Miss Petunia i na prośbę swoich obserwujących utworzyła dedykowany profil na Instagramie dla zwierzęcia, @misspetuniathechi. Według Dorii, to konto zostało zawieszone przez zautomatyzowane systemy Meta natychmiast po jego utworzeniu, zanim jeszcze opublikowała jakiekolwiek zdjęcie, napisała biografię lub przesłała zdjęcie profilowe.
Sama Doria zwróciła uwagę na tragikomiczny charakter tego wydarzenia. „Wydaje się to tragikomiczne, że jestem ekspertką ds. etyki AI, a AI może zniszczyć moje życie. Influencerka ds. etyki AI jest blokowana przez AI” – stwierdziła w wywiadzie. Incydent podkreśla potencjał zautomatyzowanych systemów moderacji do popełniania poważnych błędów bez ludzkiego przeglądu, bezpośrednio wpływając na źródła utrzymania i cyfrową obecność twórców.
Sedno pracy Dorii obraca się wokół etycznych granic i procesów decyzyjnych zautomatyzowanych systemów. Fakt, że stała się podmiotem dokładnie tego problemu, o którym edukuje opinię publiczną, przyciągnął znaczną uwagę do władzy i potencjalnych pułapek zarządzania platformami. Zawieszenie jej kont, zwłaszcza profilu zwierzęcia, który nie zawierał żadnych treści, rodzi pytania o wyzwalacze i dokładność algorytmów egzekwowania Meta.
To wydarzenie stanowi głośny przykład wyzwań, przed którymi stoją cyfrowi twórcy w erze, w której polityki platform są coraz częściej egzekwowane przez AI. Dla influencerki, której marka opiera się na wyjaśnianiu niuansów technologii, złapanie w automatyczną sieć egzekwowania stanowi znaczący zawodowy i osobisty cios. Na podstawie raportu z g1.