KI Kennzeichnungspflicht

Oje EU – was habt ihr jetzt schon wieder angerichtet?

Die EU-KI-Verordnung (AI Act) verpflichtet Anwender und Unternehmen seit dem 2. August 2026 (nach Artikel 50), bestimmte KI-generierte oder KI-manipulierte Inhalte als solche zu kennzeichnen. Zum Beispiel realistisch aussehende KI-generierte Bilder müssen jetzt deutlich gekennzeichnet werden.

ABER – was bringt das? NICHTS!

Sollen die User jetzt denken: „Alles was gekennzeichnet ist, das ist Fake und der Rest ist real?“ Das macht natürlich richtig Sinn, wenn der größte Teil des Content auf den Social Media Plattformen aus Nicht-EU-Staaten stammt und sich unseriöse Anbieter sicherlich nicht an eine EU-Verordnung halten. Selbst wenn sich alle weltweit daran halten würden, ist die Maßnahme in kürzester Zeit nicht zielführend, da zukünftig der größte Teil der Social Media Inhalte KI-generiert sein wird.

Also wieder eine völlig sinnlose und unüberlegte Maßnahme, welche Mehrarbeit durch die zusätzliche Kennzeichnung für seriöse Anbieter bedeutet. Freundlicherweise stellt die EU Grafiken für die Kennzeichnung bereit. Diese sind aber so extrem überdimensioniert, dass sie nicht für normale Social-Media-Bilder geeignet sind und vorher entsprechen kleiner skaliert werden müssen. Für einen Grafiker sicherlich kein Problem, aber für den normalen Anwender kaum möglich.

Ich bin auf die ersten Gerichtsurteile bei Nichtkennzeichnung gespannt – die es wahrscheinlich nie geben wird. Welcher Richter kann den Unterschied zwischen einem KI-Bild und einem echten Foto erkennen? Das ist jetzt schon kaum möglich und in Zukunft wird man keinen Unterschied mehr sehen.

Und zum Spaß jetzt noch die KI-Meinung zu meinem Text oben – ACHTUNG KI GENERIERT!

Du sprichst hier einen der kontroversesten und am intensivsten diskutierten Punkte der neuen EU-KI-Verordnung (AI Act) an: die praktische Umsetzung, die internationale Durchsetzbarkeit und den tatsächlichen Nutzen von Transparenzpflichten für KI-Inhalte (insbesondere nach Artikel 50).

Was die EU-Verordnung bezweckt (Die Theorie)

• Schutz vor Desinformation: Die Kennzeichnung soll verhindern, dass Nutzer massenhaft getäuscht werden – vor allem bei sensiblen Themen wie politischen Kampagnen, Betrugsmaschen (Deepfakes) oder Desinformationskampagnen.

• Transparenz als Verbraucherrecht: Verbraucher und Social-Media-Nutzer sollen das Recht haben zu wissen, ob sie mit einem echten Menschen, einem echten Foto oder einer künstlich erschaffenen Simulation interagieren.

• Unterscheidung von Deepfakes: Während bei rein künstlerischen Inhalten oft weniger Risiko besteht, ist die Täuschung über reale Ereignisse oder Personen rechtlich problematisch (Stichwort Persönlichkeitsrechte und Manipulation).

Die berechtigten Kritikpunkte (Die Praxis)

Deine Zweifel teilen viele Expertinnen und Experten aus Recht, Tech und Journalismus. Die von dir genannten Punkte gehören zu den größten Herausforderungen des Gesetzes:

1. Das internationale Gefälle (Extraterritorialität):

   • Plattformen und Ersteller außerhalb der EU (oder böswillige Akteure, die sich bewusst nicht an Gesetze halten) werden Kennzeichnungen oft ignorieren.

   • Das führt zu einer unfairen Wettbewerbsverzerrung: Seriöse europäische Unternehmen oder Creator müssen sich an strenge Regeln halten, während die Konkurrenz ungehindert unmarkierte Inhalte verbreitet.

2. Die „Glaubwürdigkeitsfalle“:

   • Wenn nur noch ehrliche Anbieter ihre KI-Inhalte kennzeichnen, entsteht auf Plattformen ein Ungleichgewicht. Nutzer könnten fälschlicherweise annehmen, dass alles, was kein Label trägt, automatisch echt ist – obwohl ein Großteil der unmarkierten Inhalte schlicht von Betrügern oder ausländischen Plattformen stammt, die die Regeln umgehen.

3. Praktische Hürden und Usability:

   • Die Kritik an unpraktikablen Vorgaben (wie unpassenden Grafikgrößen für kleine Smartphone-Bildschirme) zeigt die Kluft zwischen theoretischer Gesetzgebung und dem digitalen Alltag. Wenn Vorgaben zu kompliziert sind, sinkt die Akzeptanz bei normalen Anwendern drastisch.

4. Die Beweisbarkeit vor Gericht:

   • Mit dem rasanten Fortschritt generativer KI wird die visuelle Qualität so hoch, dass forensische Tools oft an ihre Grenzen stoßen. Wie du richtig anmerkst, stellt sich die Frage, wie Richter oder Behörden im Streitfall zweifelsfrei nachweisen wollen, ob ein Bild KI-generiert ist, wenn keine Metadaten vorhanden sind oder diese absichtlich gelöscht wurden.

Wo geht die Reise hin?

Die nächsten Monate und Jahre werden zeigen, wie die Aufsichtsbehörden (in Deutschland beispielsweise die zuständigen Landesmedienanstalten oder das BfV/BSI je nach Anwendungsbereich) mit Verstößen umgehen und ob sich technische Standards (wie universelle Krypto-Wasserzeichen oder Blockchain-Zertifikate wie C2PA) durchsetzen.

Aktuell stehen wir erst am Anfang einer Übergangs- und Lernphase, in der sich erst noch zeigen muss, ob diese Regulierungsversuche ins Leere laufen oder sich durch technische Weiterentwicklungen (und internationalen Druck auf Plattformen) doch noch etablieren können.

<kursiver Text KI generiert>