EU-Symbole sollen KI-generierte Inhalte leichter erkennbar machen

Die EU stellt kostenlos nutzbare Symbole für bestimmte KI-generierte oder manipulierte Inhalte bereit. Sie sollen die Erfüllung der Transparenzpflichten des AI Act unterstützen. Ihre Verwendung ist freiwillig und begründet allein noch keine Rechtskonformität.

Die EU-Symbole zur Kennzeichnung KI-generierter Inhalte richten sich an Urheber, Verlage und andere Betreiber generativer KI-Systeme. Sie sind Bestandteil von Abschnitt 2 des Verhaltenskodex zur Markierung und Kennzeichnung KI-generierter Inhalte. Alle dürfen sie kostenlos und ohne Nennung der Europäischen Kommission oder des KI-Amts verwenden.

Welche Inhalte von der Offenlegung erfasst werden

Die Symbole unterstützen Betreiber bei der Umsetzung von Artikel 50 Absatz 4 des AI Act, der KI-Verordnung der EU. Die Vorschrift erfasst KI-generierte oder manipulierte Bilder, Tonaufnahmen und Videos, die vorhandenen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlich echt oder wahr erscheinen könnten.

Hinzu kommen KI-generierte oder manipulierte Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden. Die Offenlegungspflicht greift bei solchen Texten, wenn keine menschliche Prüfung oder redaktionelle Kontrolle stattgefunden hat und keine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt.

Nicht sämtliche KI-generierten Inhalte müssen gekennzeichnet werden. Für erkennbar künstlerische, kreative, satirische, fiktionale oder vergleichbare Werke gelten begrenzte Transparenzpflichten: Die Offenlegung muss angemessen erfolgen, darf aber die Darstellung oder den Genuss des Werkes nicht beeinträchtigen.

Keine Offenlegungspflicht besteht, wenn der Einsatz entsprechender Inhalte gesetzlich zur Erkennung, Verhinderung, Untersuchung oder Verfolgung von Straftaten erlaubt ist. Bei Texten entfällt sie außerdem nach menschlicher Prüfung oder redaktioneller Kontrolle, sofern eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Drei Kennzeichnungen in vier Varianten

Das Angebot umfasst ein Basissymbol sowie Kennzeichnungen für vollständig KI-generierte und teilweise durch KI veränderte Inhalte. Das Basissymbol eignet sich unter anderem, wenn KI an der Erstellung eines erfassten Inhalts beteiligt war oder eine eigene Textkennzeichnung beziehungsweise eine zusätzliche interaktive Informationsebene eingesetzt wird.

Die Kennzeichnung für vollständig KI-generierte Inhalte ist für Material ohne von Menschen erstellte Bestandteile oder menschliche redaktionelle Kontrolle vorgesehen; ausgenommen davon ist die Eingabe an das KI-System. Die Kennzeichnung für teilweise veränderte Inhalte gilt für zuvor von Menschen geschaffenes Material, das mithilfe von KI bearbeitet wurde.

Jedes Symbol steht in Schwarz, Weiß sowie in beiden Farben mit jeweils 50 Prozent Transparenz zur Verfügung. Die Dateien werden im SVG- und PNG-Format angeboten. Nach Angaben auf der Informationsseite der Europäischen Kommission floss eine Nutzerprüfung in die Gestaltung ein. Die Erkennbarkeit verbesserte sich dabei, wenn das Basissymbol durch eine Textkennzeichnung ergänzt wurde.

Vorgaben für Sichtbarkeit und Barrierefreiheit

Das Symbol soll spätestens beim ersten Kontakt einer Person mit dem Inhalt klar wahrnehmbar und unterscheidbar sein. Es soll an einer Stelle ohne verdeckende Elemente erscheinen und grundsätzlich direkt in den Inhalt eingebettet werden. Ausnahmen gelten für kreative Werke oder gleichwertige Lösungen wie eine Einblendung der Benutzeroberfläche. Auch nach dem erneuten Teilen oder Herunterladen soll die Kennzeichnung sichtbar bleiben.

Für eine barrierearme Darstellung empfiehlt die EU eine gut erkennbare Größe sowie verständliche Begleittexte ohne Fachsprache und verwirrende Abkürzungen. Wenn möglich, sollen Alternativtexte oder ARIA-Kennzeichnungen, also spezielle Hinweise für Bildschirmleseprogramme, unterstützender Technik mitteilen, dass ein Inhalt KI-generiert oder manipuliert ist. Zeitlich begrenzte Hinweise sollen lange genug sichtbar bleiben. Zusätzliche interaktive Informationen müssen ebenfalls zugänglich und mit unterstützender Technik bedienbar sein.

Symbole ersetzen keine rechtliche Prüfung

Die Nutzung der EU-Symbole bleibt freiwillig, die einschlägigen Kennzeichnungspflichten des AI Act sind es nicht. Das Anbringen eines Symbols weist für sich genommen keine Rechtskonformität nach. Betreiber müssen selbst sicherstellen, dass ihre Offenlegung den Anforderungen von Artikel 50 entspricht.

Unterzeichner des Verhaltenskodex müssen dessen Maßnahmen ordnungsgemäß umsetzen und die dort festgelegten Platzierungsvorgaben beachten. Verwenden Nichtunterzeichner die frei verfügbaren Symbole, lässt sich daraus keine Zugehörigkeit zum Verhaltenskodex ableiten.