Immer mehr Inhalte in sozialen Netzwerken stammen nicht von Menschenhand – und doch fehlt oft ein klarer Hinweis darauf. Wie das Nachrichtenportal Euractiv unter Berufung auf eine Untersuchung der NGO AI Forensics berichtet, verstoßen die Plattformen TikTok und Instagram möglicherweise gegen zentrale Transparenzvorgaben des Digital Services Act der EU. Die Recherche zeigt: KI-generierte Videos und Bilder werden auf beiden Plattformen nur selten korrekt gekennzeichnet – trotz gesetzlicher und eigener Vorgaben.
Die Untersuchung von AI Forensics, einer europaweit tätigen Organisation mit Schwerpunkt auf digitaler Aufklärung, analysierte über 13 Hashtags – darunter #trump, #zelensky, #health und #pope – in Spanien, Deutschland und Polen. Dabei zeigte sich: Rund ein Viertel der untersuchten TikTok-Videos war KI-generiert. Auffällig war dabei nicht nur die Menge, sondern auch die fehlende oder unzureichende Kennzeichnung.
Vier Fünftel der Inhalte als KI kategorisiert
So etwa bei einem Instagram-Reel, das angebliche Interviews iranischer Bürger nach einem fiktiven Regimewechsel zeigte. Zwar war der Beitrag mit dem Hashtag „#ai“ versehen und als Satire betitelt, doch das von Meta vorgeschriebene Label zur Kennzeichnung synthetischer Inhalte fehlte – ein klarer Verstoß gegen die eigenen Richtlinien. Ähnliche Verstöße wurden auch auf TikTok festgestellt, wo etwa mit KI erzeugte Ärzte fragwürdige Gesundheitstipps bewarben.
Besonders problematisch: Laut AI Forensics waren über 80 Prozent der identifizierten Inhalte fotorealistisch – also visuell kaum von echten Aufnahmen zu unterscheiden. Diese Täuschungspotenziale könnten gravierende gesellschaftliche Folgen haben, warnen die Forscher.
TikTok im Fokus der Behörden
Beide Plattformen fallen unter den seit Februar 2024 in Kraft befindlichen Digital Services Act (DSA), der große Plattformen verpflichtet, gezielt gegen Risiken wie Desinformation und Manipulation vorzugehen. Die EU-Kommission hatte bereits im April ein offizielles Verfahren gegen Meta eingeleitet – unter anderem wegen unzureichender Transparenz bei politischer Werbung. Auch TikTok steht wegen seines Umgangs mit wahlbezogenen Inhalten, etwa im Kontext russischer Desinformationskampagnen, im Fokus der Behörden.
Hinzu kommen laufende Prüfungen wegen potenzieller Verstöße gegen den Schutz Minderjähriger. Beide Unternehmen hatten sich zuvor dem freiwilligen EU-Verhaltenskodex gegen Desinformation angeschlossen – einem Instrument, das inzwischen eng mit den DSA-Vorgaben verknüpft ist.
Für AI Forensics ist klar: Die systematische Kennzeichnung von KI-generierten Inhalten ist kein „Nice-to-have“, sondern eine zentrale Voraussetzung für den Schutz demokratischer Prozesse und gesellschaftlicher Integrität. Dass sich die Plattformen sowohl über gesetzliche Vorgaben als auch ihre eigenen Standards hinwegsetzen, sei nicht nur rechtlich, sondern auch moralisch problematisch.
amx