Ein „AI"-Icon für (fast) alles: Was der neue EU Verhaltenskodex zur Transparenz von KI-generierten Inhalten für Bildungseinrichtungen bedeutet
Eine Sphinx, die mit ausgebreiteten Schwingen über den Eiffelturm fliegt, muss nicht als KI gekennzeichnet werden. Ein fotorealistisches Porträt einer Pflegekraft, die es nie gegeben hat, dagegen schon.
Mit diesem Gegensatzpaar lässt sich ganz gut zusammenfassen, worum es beim neuen Code of Practice on Transparency of AI-Generated Content geht, den die Europäische Kommission am 10. Juni 2026 veröffentlicht hat. Er konkretisiert die Transparenzpflichten aus Artikel 50 der KI-Verordnung, die ab dem 2. August 2026 gelten – und er betrifft auch Bildungsanbieter unmittelbar. Denn wer KI-Avatare in Vorlesungen einsetzt, Studienpodcasts mit synthetischen Stimmen vertont oder fotorealistische Bilder für Lernmaterial generiert, produziert aus Sicht der Verordnung genau die Inhalte, um die es hier geht.
Ich versuche im Folgenden, die wichtigsten Punkte einzuordnen – erst einmal grundsätzlich, dann konkret für die vier Formate, die wohl am häufigsten im Bildungskontext eingesetzt werden: Texte, Bilder, Videos und Podcasts. Und am Ende zeige ich, wie man als Hochschule oder Bildungseinrichtung jetzt sinnvoll vorgehen sollte, ohne in Aktionismus zu verfallen.
Worum es eigentlich geht
Der EU Artificial Intelligence Act verfolgt bei der Transparenz ein simples Ziel: Menschen sollen erkennen können, ob sie es mit echten oder mit künstlich erzeugten Inhalten zu tun haben. Das klingt unspektakulär, ist aber angesichts von KI-Stimmen, die von echten kaum zu unterscheiden sind, und Avataren, die aussehen wie eine gefilmte Dozentin, eine durchaus relevante Frage geworden.
Artikel 50 unterscheidet dabei zwei Welten:
Auf der einen Seite stehen die Anbieter von KI-Systemen. Sie müssen ihre Ausgaben maschinenlesbar markieren – also mit unsichtbaren Signaturen und Wasserzeichen versehen, die eine Maschine später auslesen kann. Das ist die unsichtbare Ebene, und sie wird in der Praxis vor allem über den Industriestandard C2PA und eingebettete Wasserzeichen umgesetzt. Für uns ist diese Ebene relevant, wo Bildungseinrichtungen selbst als Anbieter auftreten (etwa bei der Entwicklung von KI-Tutoren oder anderen Assistenzsystemen), in den meisten Fällen aber Sache der großen Modellanbieter.
Auf der anderen Seite stehen die Betreiber – und das ist der Begriff, der es in sich hat. Betreiber ist jede Organisation, die ein KI-System beruflich einsetzt… also z.B. einen KI-Tutor einsetzt, einen Coding-Assistenten oder eine KI-gestützte Prüfungsplattform. Betreiber müssen bestimmte Inhalte (nämlich Deepfakes) sichtbar bzw. hörbar kennzeichnen, sodass ein Mensch die KI-Herkunft unmittelbar erkennt. Und das ist brisant.
Der Deepfake-Begriff ist viel breiter gefasst, als man denkt
Die meisten denken bei „Deepfake" nämlich an gefälschte Promi-Videos oder manipulierte Politikeraussagen. Die Verordnung meint aber etwas viel Breiteres. Ein Deepfake ist jeder KI-erzeugte oder -manipulierte Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlich als echt erscheinen könnte.
Das Entscheidende steckt im Wort „ähnelt". Es muss keine reale, existierende Person nachgebildet werden. Es reicht, dass der Inhalt etwas zeigt, das real existieren könnte. Ein frei erfundenes, aber fotorealistisches Gesicht fällt damit ebenso unter die Kennzeichnungspflicht wie ein synthetisches Model, das nie gelebt hat. Genau deshalb titelte WBS.LEGAL zur Veröffentlichung, dass „bald fast jedes KI-Bild als Deepfake gekennzeichnet werden muss" – zugespitzt, aber im Kern zutreffend.
Die Grenze verläuft bei der Frage, ob die Darstellung die wahrgenommene Echtheit berührt. Und hier helfen die zwei Beispiele aus dem Entwurf, die ich am Anfang erwähnt habe: Die fliegende Sphinx über dem Eiffelturm und die Mäuse, die in menschlicher Sprache über Käsesorten streiten, sind sofort als Fiktion erkennbar – keine Kennzeichnung nötig. Das fotorealistische Porträt eines Menschen, den es nie gab, ist es nicht – Kennzeichnung nötig. Entwarnung gibt es immerhin für die kleine Bildkosmetik: Licht- und Farbkorrekturen verändern die Authentizität in der Regel nicht und bleiben kennzeichnungsfrei.
Für Bildungsanbieter heißt das konkret: Die schematische Grafik des Blutkreislaufs im Studienheft ist unproblematisch. Das fotorealistische Bild einer Ärztin im Patientengespräch, das per KI für dasselbe Heft erzeugt wurde, ist wiederum ein kennzeichnungspflichtiger Deepfake. Es lohnt sich also, beim Generieren von Bildmaterial kurz innezuhalten und sich zu fragen: Könnte ein Betrachter das für echt halten?
Aber die Kennzeichnung von KI-Inhalten beschränkt sich nicht nur auf Bildmaterial, sondern inkludiert auch Texte. Schauen wir uns also - wie angekündigt - die vier relevanten Formate einzeln an.
1. Texte: Die redaktionelle Kontrolle wird (wieder) essentiell
Beginnen wir mit der guten Nachricht, denn Text ist das Format, bei dem Bildungseinrichtungen am besten dastehen. KI-generierte Texte sind per Definition keine Deepfakes. Eine eigene Kennzeichnungspflicht entsteht nur, wenn ein Text veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren – also bei Inhalten zu gesellschaftlich relevanten Themen wie Gesundheit, Umwelt, Verbraucherschutz oder Politik.
Ob Lehrmaterial darunterfällt, lässt sich allerdings nicht pauschal verneinen: Gerade Fächer wie Gesundheit, Umwelt oder Politik berühren durchaus Themen von öffentlichem Interesse, Lehrmaterial ist seinem Wesen nach informierend, und bei großen, teils offen zugänglichen Lernangeboten verschwimmt die Grenze zur „Öffentlichkeit". Die bequeme Annahme, Studienhefte seien schon per se nicht erfasst, sollte man sich also nicht zu eigen machen.
Auf diese Abgrenzung kommt es am Ende aber gar nicht an, denn es greift eine ausdrückliche Ausnahme: Texte, die einer echten menschlichen Überprüfung und redaktionellen Kontrolle unterzogen wurden und für die eine verantwortliche Person einsteht, sind von der Pflicht ausgenommen – unabhängig davon, ob man sie als Inhalt von öffentlichem Interesse einordnet.
Genau das ist das Modell, das seriöse Bildungsanbieter ohnehin verfolgen. Wo sämtliches Lernmaterial vor der Veröffentlichung eine redaktionelle Prüfung durchläuft (als ein „Human in the Loop") ist dieser Ansatz nicht nur Qualitätssicherung, sondern die rechtliche Grundlage dafür, dass die Texte kennzeichnungsfrei bleiben.
Und genau weil die Ausnahme der tragende Anker ist, sollte sie wasserdicht sein. Eine bloße Rechtschreibprüfung oder ein flüchtiges Drüberschauen nämlich genügen ausdrücklich nicht. Verlangt wird eine echte inhaltliche Auseinandersetzung durch eine verantwortliche Person. Praktisch bedeutet das zweierlei:
Die redaktionelle Verantwortung muss einer benannten Funktion oder Person zugeordnet sein, und
die Redaktionsprozesse müssen dokumentiert sein. Nicht jede einzelne Prüfung – aber der Prozess als solcher. Wer das sauber aufsetzt, hat beim Thema Text wenig zu befürchten.
Den freiwilligen Hinweis, dass KI im Entstehungsprozess mitgewirkt hat, kann man trotzdem setzen. Er schadet nicht, schafft Vertrauen und dokumentiert nebenbei die redaktionelle Prüfung.
2. Bilder: Der Bildtyp entscheidet
Bei Bildern habe ich den Kern oben schon beschrieben: Es kommt auf den Bildtyp an. Erkennbar künstliche Darstellungen – Schemazeichnungen, Diagramme, Infografiken, stilisierte Illustrationen – sind keine Deepfakes und brauchen keine gesetzliche Kennzeichnung. Hier reicht die bewährte freiwillige Quellenangabe.
Fotorealistische Bilder von Personen, realen Orten oder Ereignissen dagegen sind kennzeichnungspflichtig. Das Label – idealerweise das EU-Icon „AI GENERATED" bzw. „AI MODIFIED" – wird sichtbar ins Bild eingebettet, sodass es auch bei Screenshots, Downloads und Weitergabe erhalten bleibt. Eine bloße Bildunterschrift genügt nicht, denn die verschwindet, sobald jemand das Bild herauskopiert.
Gerade bei der Verbreitung über Social Media kommt erschwerend hinzu, dass viele Plattformen eigene KI-Kennzeichnungsmechanismen haben, die zusätzlich zu aktivieren sind. Wer also für Instagram ein fotorealistisches „Studentin lernt im Café"-Motiv generiert, kennzeichnet das Bild selbst und nutzt die Plattformfunktion.
Ein Punkt, der in der Praxis unterschätzt wird: Die Kennzeichnungspflicht trifft den Betreiber, nicht das Tool. Es hilft also nicht, darauf zu verweisen, dass Midjourney oder Flux „ja selbst ein Wasserzeichen setzen". Das unsichtbare Wasserzeichen erfüllt die Anbieterpflicht zur maschinenlesbaren Markierung – die sichtbare Kennzeichnung für den Menschen muss der Betreiber selbst anbringen. Ob dies durch die Anbieter der Bildersoftware in Zukunft automatisch angeboten wird, muss man sehen (Gemini z.B. nutzt schon jetzt immer ein sichtbares Icon).
Und: die Pflicht trifft nicht nur die Abteilungen, die sich mit der Entwicklung von Lernmaterial beschäftigen. Gerade Marketing- und Presseabteilungen dürften aufstöhnen, denn die Nutzung von KI-generierter Bildern als günstige Alternative zu Stockphotos oder aufwendiger Live-Shootings ist zwar theoretisch weiterhin möglich… aber das KI-Icon dürfte den Einsatz in Broschüren, Flyern und anderem Werbematerial deutlich unattraktiver machen.
Reitende Gnome? Erkennbar nicht real, nicht kennzeichnungspflichtig.
Donald Trump bei einem ehrlichen Job? Das wiederum bedarf einer Kennzeichnung.
3. Videos und Avatare: Das Ende der 3-Sekunden-Einblendung
Avatar-Vorlesungen sind der klarste Anwendungsfall überhaupt. Ein Avatar, der einer realen Lehrkraft nachgebildet ist, erfüllt die Deepfake-Definition zweifelsfrei. Aber auch ein fotorealistischer Kunstavatar ohne reales Vorbild ist erfasst – schließlich erscheint er Betrachtenden als echte Videoaufnahme eines Menschen. Nur erkennbar stilisierte oder Cartoon-Figuren fallen heraus.
Für die Platzierung verlangt der Code mehr als einen kurzen Hinweis am Anfang. Das Label muss zu Beginn des Videos erscheinen, in regelmäßigen Abständen wiederholt werden und mindestens nach Unterbrechungen wieder auftauchen – empfohlen wird die durchgehende Anzeige. Der Grund ist einleuchtend: Menschen steigen mitten in Videos ein, springen vor und zurück, erstellen Screenshots oder schneiden Clips heraus. Eine Kennzeichnung, die nur in Sekunde eins zu sehen war, läuft dann ins Leere.
Für viele Bildungsanbieter bedeutet das eine konkrete Umstellung: Die bisher verbreitete Praxis, einen Hinweis für ein paar Sekunden im Intro und Outro einzublenden, genügt ab August nicht mehr. Der praktikabelste und rechtssicherste Standard ist eine dezente, durchgehende Einblendung des Icons in einer Ecke des Videobildes. Bei einer real gefilmten Vorlesung, die per KI in eine andere Sprache übersetzt und lippensynchronisiert wurde, lautet das passende Label „AI MODIFIED" statt „AI GENERATED".
Wird der Avatar oder die Stimme einer realen Person nachgebildet, kommt noch eine zweite Pflicht hinzu, die nichts mit der KI-Verordnung zu tun hat: das Recht am eigenen Bild und an der eigenen Stimme. Hier braucht es die dokumentierte Einwilligung der betroffenen Person.
4. Podcasts und KI-Stimmen: Klare Audiohinweise
Bei Audioinhalten ohne Bildschirm – dem klassischen Podcast – verlagert sich die Kennzeichnung in die Tonspur. Erforderlich ist ein kurzer, gut verständlicher gesprochener Hinweis zu Beginn, etwa: „Dieser Podcast wurde mit künstlicher Intelligenz erstellt; die Stimmen sind KI-generiert." Bei längeren Formaten wird dieser Hinweis in angemessenen Abständen wiederholt, mindestens nach Unterbrechungen. Der Entwurf nennt hier eine pragmatische Faustregel: Bei sehr kurzen Audios genügt der Hinweis am Anfang, bei längeren Tonspuren muss er wiederkehren.
Sobald ein Bildschirm im Spiel ist – und das ist bei Lernpodcasts im Online-Campus oder in einer App fast immer der Fall – kommt zusätzlich eine sichtbare Kennzeichnung dazu: das Icon im Player oder auf dem Cover plus ein Hinweis im Begleittext. Realistische KI-Stimmen sind dabei vorsorglich wie Deepfakes zu behandeln, unabhängig davon, ob es sich um eine rein synthetische Stimme oder den Klon einer echten Stimme handelt.
Eine sinnvolle Ausnahme gibt es für sehr kurze Schnipsel – etwa einzelne Aussprachebeispiele in einem Sprachkurs. Hier würde ein Hinweis vor jedem einzelnen Wort die Nutzbarkeit zerstören; es genügt ein kontextueller Hinweis in der Lerneinheit.
Was bei Nichtbeachtung droht
Damit klar ist, warum das kein Thema für die lange Bank ist: Verstöße gegen die Transparenzpflichten können mit Bußgeldern von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden – je nachdem, welcher Betrag höher ist. Hinzu kommt ein wettbewerbsrechtliches Risiko, denn fehlende Kennzeichnung lässt sich als unlauteres Marktverhalten abmahnen. Die Durchsetzungskompetenzen greifen ab dem 2. Dezember 2026, die materielle Pflicht schon ab dem 2. August 2026.
Eine kleine, aber wichtige Entwarnung gibt es: Eine Rückwirkung ist nicht vorgesehen. Inhalte, die vor dem 2. August 2026 veröffentlicht wurden, müssen nicht nachträglich gekennzeichnet werden. Erst bei wesentlicher Überarbeitung oder Neuveröffentlichung greifen die neuen Regeln. Den kompletten Altbestand umzuetikettieren, ist also nicht nötig.
Wie Bildungseinrichtungen jetzt vorgehen sollten
Die ehrliche Einordnung lautet: Für Hochschulen und Bildungsanbieter ist das alles gut machbar – vorausgesetzt, man fängt jetzt an und nicht erst Ende Juli. Aus meiner Sicht sind es im Wesentlichen fünf Schritte.
Bestandsaufnahme machen. Wo entstehen überhaupt kennzeichnungspflichtige Inhalte? In aller Regel sind das Avatar-Videos, KI-Podcasts und fotorealistische Bilder. Texte und Chat-Antworten sind meist unkritisch. Diese Landkarte ist die Grundlage für alles Weitere.
Die redaktionelle Verantwortung formalisieren. Das ist der wirksamste und “billigste” Hebel, weil er die gesamte Kennzeichnungsfreiheit der Texte absichert. Pro Einrichtung muss benannt werden, wer die redaktionelle Verantwortung trägt, außerdem wird der Redaktionsprozess knapp dokumentiert. Anschließend wird in Lernmaterial die verantwortliche Stelle eindeutig benannt (falls dies nicht sowieso schon die Praxis ist).
Die Produktionsprozesse umstellen. Die Medienzentren brauchen fertige Vorlagen – ein Video-Overlay, einen Cover-Badge, einen Bild-Stempel in den Icon-Varianten – und einen festen Prüfschritt „Kennzeichnung gesetzt?" im Workflow. Wenn das Icon einmal als Standardelement in den Produktionsvorlagen steckt, kostet die Umsetzung im Alltag praktisch keine Zeit mehr. Besonders konkret wird der Handlungsbedarf beim Video: weg von der 3-Sekunden-Einblendung, hin zur durchgehenden Kennzeichnung. Die EU bietet hierfür übrigens ein Set an Icons, die standardisiert eingesetzt werden können
Die technische Ebene bei den eigenen Systemen prüfen. Wer eigene KI-Systeme betreibt, sollte klären und dokumentieren, welche maschinenlesbaren Markierungen die angebundenen Modelle setzen, und sicherstellen, dass diese beim Export oder Nachbearbeiten nicht verloren gehen. Für die Detektion und die Interoperabilität der Wasserzeichen sieht der Code ohnehin erst Anfang 2027 verbindliche Lösungen vor – hier besteht also etwas mehr Luft.
Über die Zeichnung des Code of Practice entscheiden. Maßgeblich sind die Anpassungen für alle Einrichtungen, die den Code of Practice unterschreiben. Der Code ist freiwillig, schafft aber Rechtssicherheit: Wer ihn zeichnet, kann sich zur Demonstration der Compliance darauf berufen... wer nicht, dem droht die EU mit “anderen Maßnahmen”. Für Einrichtungen, die ohnehin alle Maßnahmen umsetzen, ist der Mehraufwand gering und der Nachweisvorteil real. Eine bewusste Entscheidung – in die eine oder andere Richtung – sollte aber jede Organisation treffen.
Fazit
Man kann den Code of Practice als bürokratische Last lesen. Man kann ihn aber auch als das sehen, was er für seriöse Bildungsanbieter eigentlich ist: eine Formalisierung von Transparenz, die man gegenüber Lernenden ohnehin will. Wer offenlegt, dass ein Avatar oder eine Stimme KI-generiert ist, nimmt niemandem etwas weg – im Gegenteil, gerade im sensiblen Bildungskontext ist Ehrlichkeit über die Herkunft von Inhalten ein Vertrauensanker.
Die eigentliche Arbeit liegt weniger im Anbringen eines kleinen Icons als in den Prozessen dahinter: in benannter Verantwortung, dokumentierten Abläufen und angepassten Produktionsketten. Wer das in den nächsten Wochen aufsetzt, wird den 2. August entspannt erleben.
Und die fliegende Sphinx über dem Eiffelturm? Die darf weiter unbeschriftet bleiben. Immerhin etwas.
