Rhein-Main Universitäten (RMU)

Anbieter von Systemen, die bereits vor dem 2. August 2026 auf dem Markt waren, haben eine Übergangsfrist bis 2. Dezember, um die neuen Anforderungen zu erfüllen. Spätestens seit Anthropics Bekanntmachung eines neuen Wasserzeichens für KI-generierte Textinhalte (siehe Box) befindet sich die Branche erneut in Aufruhr und auf der Suche nach neuen technischen Lösungen. Eine Studie wirft derweil eine grundlegendere Frage auf: Schwächt die Sichtbarmachung der Nutzung generativer KI ausgerechnet jene kreative menschliche Eigenleistung, die durch die Transparenz besser erkennbar werden soll?

Mensch, Maschine – wessen Werk?

Bisherige Untersuchungen haben sich vor allem damit beschäftigt, wie verpflichtende KI-Hinweise die Bewertung durch ein Publikum verändern. Ein Forschungsteam unter Leitung von Professorin Ekaterina Jussupow von der TU Darmstadt und Beteiligung von Prof. Kevin Bauer von der Goethe-Universität richtet den Blick auf die Produzierenden selbst: Wie verändert sich die kreative Zusammenarbeit zwischen Mensch und Maschine, wenn Menschen von vornherein wissen, dass der Einsatz generativer KI offengelegt wird? Die Studie „The Indirect Disclosure Effect: How Disclosing Generative AI Use Impacts Human Creative Collaboration with AI“ betrachtet die Thematik nun also aus einer anderen Perspektive.

Ausgehend von Erving Goffmans Konzept des Impression Management gehen die Forschenden davon aus, dass Kreative bei einer angekündigten Offenlegung befürchten könnten, das Publikum werde ihren eigenen Anteil am Ergebnis unterschätzen. Nicht erst das tatsächliche Label verändert demnach die Wahrnehmung des fertigen Produkts durch den Rezipienten. Die Erwartung dieses Labels kann auf der produzierenden Seite beeinflussen, wie viel menschliche Kreativität überhaupt einfließt. Diesen Mechanismus bezeichnen die AutorInnen als „indirect disclosure effect“ – indirekten Offenlegungseffekt.

Für ihre Untersuchung führten sie zwei miteinander verknüpfte Mixed-Methods-Experimente durch. Die Teilnehmenden erstellten mithilfe eines Text-zu-Bild-Generators Bilder unter unterschiedlichen Offenlegungsbedingungen. Entscheidend war, ob sie davon ausgehen mussten, dass die LeserInnen über ihren Einsatz generativer KI informiert werden würde. Darüber hinaus interessierte die Forschenden, ob es einen Unterschied macht, ob die Teilnehmenden mit einer Bewertung durch Laien oder durch ExpertInnen rechneten.

Es zeigt sich ein bemerkenswerter Effekt: Rechnen die Kreativen damit, dass ein Laienpublikum von ihrem KI-Einsatz erfahren wird, ziehen sie sich stärker aus dem kreativen Prozess zurück und überlassen der generativen KI mehr Gestaltungsspielraum. Ihre Prompts enthielten im Experiment 31,9 Prozent weniger Wörter; zugleich sank der von ihnen selbst angegebene Aufwand um 13,9 Prozent. Als wesentlichen Grund dafür identifizieren die Forschenden die Sorge der Teilnehmenden, das Publikum werde ihren eigenen kreativen Anteil am Ergebnis ohnehin nicht ausreichend erkennen.

Nach Einschätzung der Forschenden ist nicht allein die Art der späteren Kennzeichnung entscheidend, sondern vielmehr die Erwartung der Kreativen, dass das Publikum ihre menschliche Leistung nicht angemessen erkennen oder würdigen wird. Interessanterweise verschwand der Effekt weitgehend, wenn die Teilnehmenden davon ausgingen, dass ihr Werk von einem fachkundigen Publikum beurteilt würde: Bei einer Expertenjury waren die beobachteten Effekte nur noch gering und statistisch nicht signifikant.

Die Veränderung des kreativen Prozesses schlägt sich auch im Ergebnis nieder. Die unter erwarteter Offenlegung entstandenen Bilder wurden zwar als neuartiger, zugleich aber als weniger visuell ansprechend bewertet. Die Kennzeichnung beeinflusst damit nicht nur, wie ein Publikum ein KI-unterstütztes Werk beurteilt (was in anderen Studien untersucht wurde). Sie kann bereits verändern, welches Werk überhaupt entsteht.

Damit macht die Studie auf ein besonderes Spannungsfeld aufmerksam: Transparenzregeln sollen menschliche Urheberschaft und Verantwortlichkeit nachvollziehbarer machen. Hinter der Kennzeichnung „KI-generiert“ können sich sehr unterschiedliche Formen der Mensch-KI-Zusammenarbeit verbergen – vom nahezu vollständig automatisiert erzeugten Bild bis zu einem Werk, an dessen Konzeption und Ausgestaltung ein Mensch intensiv beteiligt war, aufgrund von Rechtslage und Auslegungsmechanismen jedoch nichtsdestotrotz das Prädikat „KI-generiert“ erhält.

Die AutorInnen warnen deshalb vor einem paradoxen Effekt: Wird der Einsatz generativer KI lediglich durch ein einfaches Label offengelegt, könnte die Regulierung unbeabsichtigt jene menschliche kreative Eigenleistung schwächen, die sie eigentlich sichtbar machen und schützen möchte – und zwar noch bevor das Publikum das Label überhaupt zu Gesicht bekommt.

Mit der vorliegenden Studie bündeln die TU Darmstadt und die Goethe-Universität Frankfurt – beide Teil der Rhein-Main-Universitäten (RMU) – ihre Forschungsstärken im RMU-Profilbereich Data. Die RMU-Allianz, der neben TU und Goethe-Universität die Johannes Gutenberg-Universität Mainz angehört, bewirbt sich in der Exzellenzstrategie von Bund und Ländern um den Status als Exzellenzverbund.

Hintergrund

Der EU AI Transparency Act: So reagieren Anthropic und OpenAI

Am 10. August 2026, acht Tage nach Inkrafttreten der neuen Transparenzpflichten, stellte Anthropic, das US-amerikanische Unternehmen hinter dem KI-Assistenten Claude, seine technische Antwort auf die neue Gesetzeslage vor: Von Claude erzeugte Texte erhalten bei den bereits unterstützten Modellen (es gilt eine Übergangsperiode bis Anfang Dezember 2026 – siehe Box) ein unsichtbares, direkt in den Text eingebettetes Wasserzeichen. Für Dateiformate wie .svg, .png oder .jpg setzt das Unternehmen zusätzlich auf digital signierte Herkunftsmetadaten, die fest in den Eigenschaften der Datei verankert sind. Dieser Weg ist nicht neu.

OpenAI, Betreiber von ChatGPT, hatte am 11. Juni 2026 Einzelheiten seiner mehrstufigen Provenienz-Architektur veröffentlicht. Dazu gehören C2PA-Metadaten – sogenannte Content Credentials, die einem digitalen Inhalt maschinenlesbare Herkunftsinformationen mitgeben – SynthID-Wasserzeichen für Bilder, die eine für Menschen unsichtbare Markierung direkt in den KI-generierten Inhalt einbettet und Zuschneiden, Filter oder Kompression eher überstehen als reine Metadaten, sowie ein öffentlich zugängliches Verifikationstool, für dezidierte Suchen nach C2PA-Metadaten und dem OpenAI-SynthID-Wasserzeichen. C2PA-Metadaten setzt das Unternehmen bereits seit 2024 für mit DALL-E 3 erzeugte Bilder ein. Dabei erzeugt das Text-zu-Bild-Modell den Inhalt, während C2PA bzw. neuere Provenienz- und Wasserzeichensysteme dessen KI-Ursprung technisch nachvollziehbar machen sollen.

Anthropic hat bislang nur begrenzte technische Details seines Text-Wasserzeichens veröffentlicht. Das Unternehmen beschreibt es als ein kaum wahrnehmbares Muster, das unmittelbar bei der Texterzeugung entsteht. Vereinfacht lässt sich die statistische Signatur als eine Art digitale Brotkrumenspur vorstellen: Für Menschen bleibt sie unsichtbar, Maschinen können sie erkennen. Weil die Markierung Teil des Textes selbst ist, wandert sie beim Kopieren und Einfügen mit und kann auch leichtere Bearbeitungen überstehen. Die Nutzung eines Verifikationstools wie das von OpenAI erlaubt es der Maschine, die digital hinterlassenen Brotkrumen für den Menschen wieder sichtbar zu machen.

Allerdings hat das Verfahren Grenzen – ab wann entscheidet das jeweilige Verifikationsverfahren, dass ein Inhalt „KI-generiert“ wurde? Entwickler weisen darauf hin, dass ein menschlich verfasster Text weiterhin Spuren des Wasserzeichens tragen kann auch wenn Claude lediglich für Überarbeitungen, Formatierungen oder Übersetzungen eingesetzt wurde. Umgekehrt nimmt die Erkennbarkeit eines Wasserzeichens ab, wenn ein Text stark redigiert oder umgeschrieben, mit anderen Textpassagen kombiniert oder erheblich gekürzt wird.

Der EU-Verhaltenskodex zur Transparenz von KI-generierten Inhalten

Seit dem 2. August 2026 gelten die Transparenzpflichten nach Artikel 50 der europäischen KI-Verordnung (AI-Act). Der Verhaltenskodex zur Transparenz von KI-generierten Inhalten ist dabei keine eigenständige EU-Richtlinie und auch nicht selbst die Rechtsgrundlage der Kennzeichnungspflicht. Vielmehr handelt es sich um ein freiwilliges Instrument, das Anbietern und Betreibern generativer KI-Systeme dabei helfen soll, die verbindlichen Anforderungen des AI-Act zu erfüllen und deren Einhaltung nachzuweisen.

Die EU-Kommission und der europäische KI-Ausschuss haben den Kodex als geeignetes freiwilliges Instrument zur Erfüllung dieser Transparenzpflichten anerkannt.

Im Zentrum steht Artikel 50 Absatz 2 des AI Act. Danach müssen Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, sicherstellen, dass deren Ausgaben in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die eingesetzten technischen Lösungen sollen – soweit technisch möglich – wirksam, interoperabel, belastbar und zuverlässig sein.

Von dieser Pflicht ausgenommen sind unter anderem KI-Systeme, soweit sie lediglich eine unterstützende Funktion bei einer Standardbearbeitung übernehmen oder die vom Nutzer bereitgestellten Ausgangsdaten beziehungsweise deren Bedeutung nicht wesentlich verändern. Damit trägt der Gesetzgeber beispielsweise der Tatsache Rechnung, dass der Einsatz von KI für bestimmte redaktionelle Hilfsfunktionen nicht mit einer eigenständigen KI-Erzeugung gleichzusetzen ist.

Für bestimmte Anbieter von Systemen, die bereits vor dem 2. August 2026 auf dem Markt waren und synthetische Inhalte erzeugen, gilt eine Übergangsfrist bis zum 2. Dezember 2026, um die Anforderungen aus Artikel 50 Absatz 2 umzusetzen.

Text: Leonie Schultens (Goethe-Universität Frankfurt)