Art. 50 AI Act: KI-Figuren und synthetische Inhalte kennzeichnen

Art. 50 betrifft KI-Systeme, die kein hohes Risiko tragen, bei denen Menschen aber getäuscht werden könnten: Gespräche mit einer Maschine, die wie ein Mensch wirkt, und Medien, die echt aussehen, aber erzeugt sind. Die Verordnung antwortet darauf nicht mit Verboten, sondern mit Transparenz. Wer weiß, dass er mit KI spricht oder ein erzeugtes Video sieht, kann das Gesagte einordnen.

Die Pflichten gelten nach der Grundregel des Art. 113 ab dem 2. August 2026. Sie stehen neben anderen Pflichten: Ist ein System zugleich hochriskant, gelten die Anforderungen aus Kapitel III zusätzlich (Art. 50 Abs. 6). Ein Verstoß gegen Art. 50 kann nach Art. 99 Abs. 4 mit Geldbußen bis zu 15 Mio. Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden; für KMU gilt der niedrigere Betrag.

Art. 50 verteilt die Pflichten bewusst auf Anbieter und Betreiber: Wer ein System baut, muss Kennzeichnung technisch ermöglichen; wer es einsetzt, muss in bestimmten Fällen offenlegen.

Art. 3 Nr. 60 definiert Deepfake als einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde. Entscheidend sind also zwei Merkmale: Ähnlichkeit mit etwas Wirklichem und die Eignung, für echt gehalten zu werden.

Für die Weiterbildung ist das relevant, sobald ein digitaler Zwilling einer echten Person spricht — etwa ein Avatar, der aus Fotos und Stimmaufnahmen einer Dozentin entsteht und neue Sätze sagt, die sie nie gesprochen hat. Ein solches Video ähnelt einer wirklichen Person und könnte für eine echte Aufnahme gehalten werden. Der Betreiber muss nach Art. 50 Abs. 4 offenlegen, dass der Inhalt künstlich erzeugt ist. Eine erkennbar gezeichnete Lernfigur, die niemandem ähnelt, ist dagegen kein Deepfake; für sie kann aber Abs. 1 gelten, wenn sie mit Kursteilnehmern interagiert.

Art. 50 Abs. 5 verlangt, dass die Information klar und eindeutig ist, spätestens zum Zeitpunkt der ersten Interaktion oder Begegnung erfolgt und den Anforderungen an Barrierefreiheit entspricht. Ein versteckter Satz in den Nutzungsbedingungen genügt dem kaum. Bewährt sind sichtbare Hinweise direkt am Inhalt, die auch für Screenreader lesbar sind.

Für die maschinenlesbare Markierung nach Abs. 2 nennt die Verordnung keine bestimmte Technik; sie verlangt Lösungen, die soweit technisch möglich wirksam, interoperabel, belastbar und zuverlässig sind. Das KI-Büro der Kommission soll nach Abs. 7 Verhaltenskodizes für Erkennung und Kennzeichnung fördern; die Kommission kann Durchführungsrechtsakte erlassen. Wer Inhalte erzeugt, sollte diese Entwicklung beobachten.

Bildungsanbieter sind oft beides: Betreiber fremder Systeme und — wenn sie eigene KI-Werkzeuge unter eigenem Namen anbieten — selbst Anbieter. Zuerst ist zu klären, welche Rolle bei welchem Werkzeug besteht. Danach lassen sich die Pflichten zuordnen: technische Markierung beim Anbieter, sichtbare Offenlegung beim Betreiber.

Unabhängig von der Rechtspflicht lohnt Kennzeichnung didaktisch. Kursteilnehmer, die wissen, dass ein Avatar erzeugt ist, bewerten seine Aussagen realistischer und fragen eher nach. Eine Kennzeichnung, die zusätzlich auf die Quellen und die fachliche Prüfung verweist, stärkt das Vertrauen in den Kurs.

Die Kommission hat im Herbst 2025 Änderungen an der KI-Verordnung vorgeschlagen, die auch Übergangsfristen für die Markierung nach Abs. 2 betreffen könnten. Maßgeblich ist der im Amtsblatt veröffentlichte Text.

Dieser Beitrag erklärt die Rechtslage allgemein und ist keine Rechtsberatung. Für den Einzelfall gilt der amtliche Normtext in der aktuellen Fassung; bei Zweifeln helfen anwaltliche Beratung, der Datenschutzbeauftragte oder die zuständige Aufsichtsbehörde.