IT-Recht aktuell

FAQ zur Kennzeichnungspflicht im Zusammenhang mit KI (Art. 50 KI-VO)

Inhaltsverzeichnis

Worum geht es?

Wer KI einsetzt und unter die europäische KI-Verordnung fällt, muss die Transparenzpflichten des Art. 50 KI-VO einhalten. Die Transparenzpflichten beinhalten die Pflicht bestimmte KI-Inhalte zu kennzeichnen bzw. betroffene natürliche Personen über die KI-Verwendung zu informieren.

Welchen Zweck verfolgen die Transparenzpflichten?

Der Zweck besteht darin, das Risiko von Identitätsbetrug, Täuschung, Fehlinformation, Manipulation und Betrug zu verringern. Das Vertrauen in Informationssysteme soll gestärkt werden.

Gibt es eine Leitlinie der EU-Kommission, an der ich mich orientieren kann?

Ja, seit dem 12.11.2026 gibt es auch eine deutschsprachige „Leitlinie für die Umsetzung der Transparenzpflichten für bestimmte KI-Systeme gemäß Art. 50 der Verordnung (EU)/2024/1689) (KI-Verordnung“. Wichtig: Es handelt sich um eine Orientierungshilfe, d.h. die Leitlinien sind im Streitfall Auslegungshilfe, binden Gerichte und Behörden jedoch nicht.

Gelten die Transparenzpflichten schon?

Ja, die Transparenzpflichten gelten sei dem 02. August 2026 (Art. 113 KI-VO). Nur Anbieter von KI-Systemen, die bereits vor dem 02. August 2026 in Verkehr gebracht wurden, haben bis 02. Dezember 2026 die maschinenlesbare Kennzeichnung im Sinne von Art. 50 Abs. 2 KI-VO umzusetzen. Der digitale „Omnibus“ hat an dieser Frist nichts geändert.

Muss ich ältere KI-Inhalte nachträglich kennzeichnen?

Deepfakes, d.h. Bild-, Video- und Audioinhalte, die mit KI generiert oder manipuliert wurden und die wirklichen Personen, Gegenständen, Objekten oder Ereignissen ähneln und für den Betrachter fälschlicherweise als echt erscheinen, müssen nicht nachträglich gekennzeichnet werden.

KI-Texte, die vor dem 02. August 2026 erzeugt, jedoch erst nach dem 02. August 2026 veröffentlicht werden, müssen gekennzeichnet werden. Dies gilt nur nicht, wenn eine der Ausnahmen des Art. 50 Abs. 4 KI-VO greift. KI-generierte Texte, die vor dem 02. August 2026 erzeugt und veröffentlicht wurden, müssen nicht gekennzeichnet werden.

Gibt es Erleichterungen für Einzelunternehmen oder kleine Unternehmen?

Nein, die Transparenz- und Kennzeichnungspflichten gelten für alle Unternehmen, die in den Anwendungsbereich der KI-VO fallen. Es gibt keine Erleichterungen für Einzelunternehmen.

Welche Transparenz- und Kennzeichnungspflichten gibt es?

Die KI-VO enthält vier Transparenzpflichten, die für verschiedene KI-Systeme oder deren Ausgaben gelten. Betroffen sind folgende Sachverhalte:

1. Unmittelbare Interaktion
KI-Systeme, die unmittelbar mit einem Menschen interagieren, Art. 50 Abs. 1 KI-VO. Beispiele: KI-basierter Kunden-Chatbot
Ausnahme: Wenn offensichtlich ist, dass mit einem KI-System interagiert wird oder das System gesetzlich zur Aufdeckung, Verhütung, Ermittlung, Verfolgung von Straftaten zugelassen ist (Ausnahme von der Ausnahme: KI-Systeme, die der Öffentlichkeit zur Verfügung stehen, um Straftaten anzuzeigen).

2. Deepfakes
KI-Systeme, die synthetische Bild-, Video-, Audio- oder Textinhalte erzeugen oder manipulieren (Art. 50 Abs. 2 KI-VO).
Ausnahme: Wenn das KI-System nur unterstützende Funktion für die Standardbearbeitung ausführt, die Eingabedaten oder deren Semantik nicht wesentlich verändert oder das KI-System im Bereich der Strafverfolgung zugelassen ist.

3. Emotionserkennung / Biometrie
KI-Systeme zur (erlaubten) Emotionserkennung (bspw. Müdigkeitserkennung bei einem Piloten) oder biometrische Kategorisierung. Ausnahme: Strafverfolgung

4. KI-generierte Texte von öffentlichem Interesse
KI-generierte Texte, die der Information der Öffentlichkeit dienen und von öffentlichem Interesse sind, Art. 50 Abs. 4 KI-VO.

Wer ist Anbieter und welche Pflichten treffen den Anbieter?

Anbieter ist, wer ein KI-System (KI-Anwendung mit Benutzeroberfläche) oder ein KI-Modell mit allgemeinem Verwendungszweck (algorithmischer Kern ohne Benutzeroberfläche für breiten Anwendungszweck) entwickelt oder entwickeln lässt und es unter eigenem Namen / eigener Marke in Betrieb nimmt oder in Verkehr bringt (auch kostenlos), Art. 3 Nr. 3 KI-VO.
Typische Beispiele: OpenAI; Mistral; Anthropic; eine Behörde, die intern ein KI-System hat entwickeln lassen und für den Eigengebrauch unter eigenem Namen in Betrieb nimmt.

Anbieter von KI-Systemen müssen sicherstellen, dass KI-Systeme, die unmittelbar mit Menschen interagieren (Chatbot, Voicebot, etc.) so entwickelt werden, dass der Nutzer darüber informiert wird mit KI zu interagieren (Ausnahme: Dies ist offensichtlich (bspw. bei einem Roboter); Strafverfolgung), Art. 50 Abs. 1 KI-VO.

Anbieter von KI-Systemen (auch GPAI), die KI-generierte Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen die Ausgabe in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert kennzeichnen, Art. 50 Abs. 2 KI-VO.

Wer ist Betreiber und welche Pflichten treffen den Betreiber?

Betreiber ist, wer ein fremdes KI-System im beruflichen Kontext in eigener Verantwortung verwendet, Art. 3 Nr. 4 KI-VO. Beispiele: Medienunternehmen, dessen Redakteure ein KI-System verwenden, um die Texterstellung zu unterstützen.

Betreiber von erlaubten Emotionserkennungssystemen oder eines Systems zur biometrischen Kategorisierung müssen betroffene Personen informieren. Art. 50 Abs. 3 KI-VO. Ausnahme: Strafverfolgung.

Betreiber von KI-Systemen, die Deepfakes erstellen, müssen dies offenlegen, Art. 50 Abs. 4 KI-VO. Ausnahme: Strafverfolgung.

Betreiber von KI-Systemen, die Texte erzeugen oder manipulieren, müssen dies offenlegen. Dies gilt allerdings nur bei Texten, die dazu dienen die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
Ausnahme: Wenn die Inhalte menschlich überprüft oder redaktionell kontrolliert wurden und ein Mensch oder ein Unternehmen die redaktionelle Verantwortung übernimmt.

Sind einzelne Mitarbeiter eines Unternehmens Betreiber?

Nein, nutzen Mitarbeiter KI-Systeme bei ihrer Tätigkeit, sind sie keine eigenständigen Betreiber (Leitlinie EU-Kommission Rn. 14).

Ist ein Unternehmen, das eine Werbeagentur mit der Produktion von Werbung beauftragt, ohne Entscheidungen zu treffen und Kontrolle darüber auszuüben, ob und wie KI im Produktionsprozess einsetzt, Betreiber eines KI-Systems?

Nein, das auftraggebende Unternehmen ist in diesem Fall nicht Betreiber (Leitlinie der EU-Kommission, Rn. 14). ABER: Gemäß § 8 Abs. 2 UWG muss sich ein Unternehmen die Zuwiderhandlungen seiner Mitarbeiter oder Beauftragten zurechnen lassen, d.h. Unterlassungs- und Beseitigungsansprüche aus dem UWG sind auch gegen den Inhaber des Unternehmens begründet. Kennzeichnet eine beauftragte Agentur also nicht, kann der Auftraggeber ggfs. abgemahnt werden.

Kann man auch gleichzeitig als Anbieter und Betreiber gelten?

Ja, entwickelt ein Unternehmen ein internes generatives KI-System und verwendet es für die Erzeugung von Deepfakes, gilt es sowohl als Anbieter als auch als Betreiber. Es muss den Output maschinenlesbar kennzeichnen (Art. 50 Abs. 2 KI-VO) als auch transparent über die Eigenschaft als Deepfake informieren (Art. 50 Abs. 4 KI-VO).

Wenn ich fremde KI-Inhalte ausschließlich weiterverwende, muss ich dann kennzeichnen?

Nein, die Pflichten zur Kennzeichnung treffen den Anbieter und / oder Betreiber von KI, seine Mitarbeiter, ggfs. die von ihm beauftragten Dienstleister. Eine Kennzeichnungspflicht kann sich aber auch aus anderen Normen (bspw. dem UWG) ergeben.

Ich binde einen Drittanbieter-Chatbot als Kundensupport ein. Wen trifft welche Pflicht?

Es kommt bei der Beantwortung dieser Frage auch die technische Gestaltung an:

1. Ich nutze ein fertiges Widget eines Anbieters unter dessen Marke:
Ich bin nicht Anbieter, aber Betreiber.

2. Ich nutze ein fertiges Widget eines Dritten unter eigenem Namen / eigener Marke in einem Hochrisikobereich (Anhang I, Anhang III):
Ich werde zum Anbieter mit allen Pflichten, Art. 26 Abs. 1 lit. a) KI-VO.

3. Ich nutze ein fremdes Sprachmodell, entwickle aber meinen eigenen Chatbot (KI-System):
Ich bin Anbieter des Chatbots (KI-Systems).

Wie und wann muss der Hinweis bei interagierenden KI-Systemen erfolgen?

Der Hinweis muss spätestens zum Zeitpunkt der ersten Interaktion erfolgen. Der Hinweis muss eindeutig, verständlich und barrierefrei sein.

Was ist ein Deepfakes?

Deepfakes sind durch KI-erzeugte oder manipulierte Bild-, Ton-, und Videoinhalte, die wirklichen Personen, Gegenständen, Orten, Einrichtungen, Ereignissen ähneln und einem Menschen fälschlicherweise als echt oder wahrheitsgemäß erscheinen. Umfasst sind nicht nur Personen, die es wirklich gibt, sondern auch fiktive Personen (realistische Avatare). Der Begriff ist nach Auffassung der EU-Kommission weit zu verstehen. Erfasst werden auch Darstellungen, die plausibel existieren können. Bei der Beurteilung, ob der KI-generierte Inhalte fälschlicherweise als echt oder wahrheitsgemäß erscheint, ist der Einsatzkontext zu berücksichtigen.

Führt jede KI-Bearbeitung eines Inhaltes zu einem Deepfake?

Nein, entscheidend ist ob die Bearbeitung für die Echtheit oder den Wahrheitsgehalt wesentlich ist. Geringfügige Änderungen (technischer oder ästhetischer Art, bspw. Optimierung von Kontrast, Helligkeit, Entfernung von Bildfehlern oder störender Passanten im Hintergrund, Reduzierung von Rauschen in Tonaufnahmen, Hintergrundbearbeitungen (pixeln)) lösen in der Regel keine Kennzeichnungspflicht aus.

Wann müssen KI-generierte Produktbilder gekennzeichnet werden?

Die Rechtslage ist derzeit noch unklar, die EU-Kommission legt den Begriff Deepfake in der Leitlinie jedoch weit aus. Je eher es bei dem beworbenen Produktbild um ein konkretes Einzelstück geht, das der Käufer erwartet, desto eher dürfte von einer Kennzeichnungspflicht ausgegangen werden. Fraglich bleibt die Kennzeichnungspflicht bei Massenware, da der Käufer wohl nicht damit rechnet, dass er das konkret abgebildete Produkt erwirbt.

Ein echtes Produkt (bspw. PKW) wird in einer Werbung vor einem mit KI-erzeugten Hintergrund gezeigt. Muss der Hintergrund als Deepfake gekennzeichnet werden?

Nein, laut Leitfaden der EU-Kommission (Rn. 116) liegt kein kennzeichnungspflichtiges Deepfake vor. Dies allerdings nur, solange die Werbung nicht geeignet ist, das Publikum über die tatsächliche Darstellung des Produkts, seine Merkmale und seine Verwendung in die Irre zu führen. In diesem Fall läge zudem ggfs. ein UWG-Verstoß vor.

Muss ich KI-generierte Werbetexte kennzeichnen?

Nein, bei gewöhnlichen Werbetexten oder Produktbeschreibungen muss nicht gekennzeichnet werden. Blogbeiträge können kennzeichnungspflichtig sein, wenn über Themen berichten, die von öffentlichem Interesse sind und keine redaktionelle Kontrolle / Verantwortung übernommen wird.

Muss ich Pressemitteilungen mit Produktwarnungen kennzeichnen?

Ja, wenn keine redaktionelle Kontrolle übernommen wird, da Produktwarnungen von öffentlichem Interesse sind.

Wann genau entfällt die Pflicht zur Kennzeichnung KI-generierter Texte?

Die Pflicht entfällt, wenn
a) der Text einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen UND
b) ein Mensch oder eine juristische Person die redaktionelle Verantwortung trägt.

Die Prüfung muss „Hand und Fuß“ haben. Automatisiertes Gegenlesen genügt ebenso wenig wie die Freigabe per Klick ohne inhaltliche Befassung (Leitfaden EU-Kommission, Rn. 134-135).

Wo platziere ich die Kennzeichnung?

Leser sollen den Hinweis bereits vor ihrer Lektüre wahrnehmen, d.h. Hinweise am Ende des Textes, im Impressum, in den AGB oder Hinweise mit Mouse-Over-Effekten etc. genügen nicht.

Gibt es fertige Labels, die empfohlen werden? 

Ja, die EU-Kommission hat einige Labels entworfen. Die Nutzung ist aber freiwillig. Es können auch selbst generierte Labels genutzt werden. Wichtig ist nur, dass diese unmissverständlich sind.

Welche Sanktionen drohen bei Verstößen gegen die Transparenz- und Kennzeichnungspflichten?

Verstöße gegen die Transparenzpflichten aus Art. 50 KI-VO können mit bis zu 15 Millionen Euro der 3 % des weltweiten Jahreskonzernumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist, geahndet werden, Art. 50 Abs. 4 lit. g) KI-VO.

 


Benötigen Sie Beratung im Bereich der KI-Verordnung?
Dann kontaktieren Sie mich unter 0221 – 200 517 6.

Gerne stehe ich Ihnen beratend zur Verfügung.


« Alle Artikel anzeigen