In einem Fall, der die komplexe Beziehung zwischen künstlicher Intelligenz und menschlicher Aufsicht hervorhebt, wurden die beiden Social-Media-Konten der prominenten KI-Ethik-Influencerin Catharina Doria von Meta gesperrt. Die Sperrungen ereigneten sich in den letzten Wochen und wurden mit der Begründung durchgeführt, dass ihre Konten gegen die Gemeinschaftsrichtlinien des Unternehmens verstoßen hätten.
Doria hatte sich eine beträchtliche Anhängerschaft von fast 600.000 Followern auf Instagram und anderen Plattformen aufgebaut, indem sie kurze, lehrreiche Videos erstellte. Ihr Inhalt konzentrierte sich auf praktische digitale Kompetenz und lehrte ihr Publikum, wie man echte Bilder von KI-generierten unterscheidet. Sie gab auch Eltern Ratschläge zu den Risiken, Fotos ihrer Kinder online zu stellen, und machte auf andere wichtige Technologiethemen aufmerksam.
Die Situation nahm eine besonders ironische Wendung mit der Sperrung eines neu erstellten Kontos. Ende März adoptierte Doria einen Hund namens Miss Petunia aus dem Tierheim und erstellte auf Wunsch ihrer Follower ein eigenes Instagram-Profil für das Tier, @misspetuniathechi. Laut Doria wurde dieses Konto sofort nach seiner Erstellung von Metas automatischen Systemen gesperrt, bevor sie überhaupt ein Foto gepostet, eine Biografie geschrieben oder ein Profilbild hochgeladen hatte.
Doria selbst wies auf die tragikomische Natur des Ereignisses hin. „Es scheint tragikomisch, dass ich eine Expertin für KI-Ethik bin und eine KI mein Leben zerstören kann. Eine KI-Ethik-Influencerin wird von KI gesperrt“, erklärte sie in einem Interview. Der Vorfall unterstreicht das Potenzial automatisierter Moderationssysteme, folgenschwere Fehler ohne menschliche Überprüfung zu machen, die sich direkt auf die Lebensgrundlage und die digitale Präsenz von Erstellern auswirken.
Der Kern von Dorias Arbeit dreht sich um die ethischen Grenzen und Entscheidungsprozesse automatisierter Systeme. Die Tatsache, dass sie selbst zum Gegenstand genau des Problems geworden ist, über das sie die Öffentlichkeit aufklärt, hat große Aufmerksamkeit auf die Macht und die potenziellen Fallstricke der Plattform-Governance gelenkt. Die Sperrung ihrer Konten, insbesondere des Tierprofils, das keine Inhalte enthielt, wirft Fragen zu den Auslösern und der Genauigkeit von Metas Durchsetzungsalgorithmen auf.
Dieses Ereignis dient als prominentes Beispiel für die Herausforderungen, denen sich digitale Ersteller in einer Ära gegenübersehen, in der Plattformrichtlinien zunehmend von KI durchgesetzt werden. Für eine Influencerin, deren Marke darauf aufbaut, die Nuancen der Technologie zu erklären, ist es ein erheblicher beruflicher und persönlicher Rückschlag, in einem automatisierten Durchsetzungsnetz gefangen zu werden. Basierend auf einem Bericht von g1.