Sie fragen sich, ob und wie Sie KI-generierte Inhalte kennzeichnen müssen? Wir zeigen Ihnen, welche Kennzeichnungspflichten Sie einhalten müssen.
Die KI-Verordnung (→ Art. 50 KI-Verordnung der EU (KI-VO) 2024/1689) soll klare Regeln für die transparente Nutzung von KI schaffen. Der Teil, der die Kennzeichnungspflicht betrifft, gilt unmittelbar ab dem 2. August 2026. Grundsätzlich teilt die KI-VO den Einsatz von KI-Systemen in verschiedene Risikokategorien ein (verbotene KI, Hochrisiko-KI, sowie KI mit geringem Risiko und KI mit freiwilligen Standards).
Für die Nutzer von KI gibt es besondere Transparenzpflichten. Es muss also jeweils geprüft werden, ob der KI-generierte Inhalt einer Pflicht zur Kennzeichnung unterliegt. Hier gelten für die unterschiedlichen Inhalte unterschiedliche Vorgaben.
KI-generierte Bilder
Gemäß Art. 50 Abs. 4 KI-VO sind Betreiber von KI-Systemen verpflichtet, eine entsprechende Kennzeichnung vorzunehmen, wenn sie Bild-, Ton- oder Videoinhalte erzeugen oder manipulieren, die als „Deepfake“ einzustufen sind. Dazu definiert Art. 3 Nr. 60 KI-VO „Deepfake“ als einen durch KI erzeugten oder manipulierten Inhalt, der echten Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde. Unternehmen, die solche Inhalte verwenden, gelten im Sinne der Verordnung als „Betreiber“. Zur Abgrenzung und weiteren Erläuterung hat die Wettbewerbszentrale einen Leitfaden zur Kennzeichnungspflicht KI-generierter Inhalte erstellt, welcher auch anhand von Beispielen eine Einordnung erleichtern soll. Den Link zum Leitfaden der Wettbewerbszentrale finden Sie hier.
Kennzeichnung muss „in klarer und eindeutiger Weise erfolgen“
Besteht eine Kennzeichnungspflicht, muss sie nach Art. 50 Abs. 5 S. 1 KI-VO „in klarer und eindeutiger Weise“ erfolgen. Ob die Kennzeichnung als klar und eindeutig einzuordnen ist, richtet sich nach dem Adressatenkreis, an welchen sich der Inhalt richtet. Zusätzlich müssen die Informationen gemäß Art. 50 Abs. 5 KI-VO die geltenden Barrierefreiheitsanforderungen erfüllen. Außerdem sollte die Kennzeichnung in Deutschland in deutscher Sprache erfolgen.
KI-generierte Texte
Für KI-generierte Texte gilt eine Kennzeichnungspflicht nur bei öffentlichkeitsrelevanten Inhalten. Zudem entfällt sie, wenn eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt. Werbetexte sind daher in der Regel nicht kennzeichnungspflichtig, sofern geschulte Mitarbeitende die Endkontrolle ausüben. Die Kennzeichnung muss in jedem Fall klar, verständlich und barrierefrei erfolgen. Ein optisch wahrnehmbarer Hinweis vor dem Text gilt laut der → Wettbewerbszentrale als ausreichend.
Chatbots und KI-Avatare
Bei der Verwendung von Chatbots oder auch KI-Avataren, die Sie beispielsweise zur Beantwortung von Fragen oder Weiterleitung von Anliegen einsetzen, ist klar und rechtzeitig darauf hinzuweisen, dass die Chattenden mit einer KI und nicht mit einem Menschen sprechen (Art. 50 Abs. 1 KI-VO). Das sollte direkt zu Beginn der Interaktion erfolgen. Ein Hinweis wie „KI-unterstützt“ genügt dabei jedoch nicht, da er keine eindeutige Abgrenzung zur menschlichen Bearbeitung ermöglicht. Hier wäre laut der Wettbewerbszentrale ein deutlicher Hinweis, wie z.B.: „Sie chatten hier mit einem KI-Assistenten.“ erforderlich. Die Pflicht betrifft die Anbieter von Chatbots.
Bei Interaktionen mit einem KI-Avatar gilt ebenfalls, dass die Kundschaft bereits am Anfang darüber informiert werden, dass sie mit einem KI-System interagiert. Ausnahmsweise benötigt ein Avatar keine Kennzeichnung, wenn es sich offensichtlich um einen Avatar handelt, der keinen menschlichen Eindruck vermittelt.
