EU stellt Icon-Set für Kennzeichnung KI-generierter Inhalte nach AI Act bereit

Die EU hat ein frei nutzbares Icon-Set für die Kennzeichnung bestimmter KI-generierter Inhalte veröffentlicht. Die Symbole sollen Anbietern bei den Transparenzpflichten des AI Act helfen und betreffen vor allem Deepfakes sowie veröffentlichte Texte zu Themen von öffentlichem Interesse.

Die Europäische Kommission beschreibt auf digital-strategy.ec.europa.eu, dass Ersteller, Publisher und andere Betreiber generativer KI-Systeme die Symbole verwenden können. Das Set ist laut der Kommission ein integraler Teil von Abschnitt 2 des Code of Practice on marking and labelling of AI-generated content. Die Kennzeichnung unterstützt die Einhaltung von Artikel 50 Absatz 4 des AI Act.

Pflicht für Deepfakes und Texte

Die Offenlegungspflicht erfasst laut Kommission nur bestimmte Inhalte. Dazu zählen Deepfakes, also KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die bestehenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähneln. Hinzu kommen KI-generierte oder manipulierte Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden, wenn keine menschliche Prüfung oder redaktionelle Kontrolle stattfand und keine redaktionelle Verantwortung übernommen wurde.

Ausnahmen nennt die Kommission ebenfalls. Für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke gelten die Transparenzpflichten nur in angemessener Form. Keine Offenlegung ist vorgesehen, wenn der Einsatz gesetzlich zur Aufdeckung, Verhinderung, Ermittlung oder Verfolgung von Straftaten erlaubt ist. Bei Texten entfällt die Pflicht auch dann, wenn eine menschliche Prüfung oder redaktionelle Kontrolle erfolgt ist.

Vier Varianten des Symbols

Das Icon-Set umfasst 4 Varianten: schwarz, weiß, schwarz mit 50 Prozent Transparenz und weiß mit 50 Prozent Transparenz. Die Dateien stehen als ZIP-Pakete in SVG- und PNG-Formaten bereit. Laut Kommission wurden die Symbole einem Nutzertest unterzogen. Dabei verbesserte sich die Verständlichkeit „across all measures“, wenn das Basissymbol mit einer Textkennzeichnung wie „modified“ kombiniert wurde.

Anzeige auch mit zweiter Ebene

Die Kommission sieht das Basissymbol für Fälle vor, in denen KI an der Erstellung von Deepfake-Inhalten oder veröffentlichten Texten beteiligt war. Es kann auch mit einer eigenen Textkennzeichnung oder einer interaktiven zweiten Ebene ergänzt werden. Die Symbole sind frei verfügbar und sollen laut Kommission natürlichen Personen helfen, künstlich erzeugte oder manipulierte Inhalte „in a clear and distinguishable manner“ zu erkennen.