KI-generierte Inhalte richtig kennzeichnen: Symbol, Platzierung und Ausnahmen

Betreiber ist, wer ein KI-System in eigener Verantwortung beruflich verwendet (Art. 3 Nr. 4). Die Kennzeichnungspflicht besteht für Betreiber in drei Fällen:

• bei Deepfakes (Art. 50 Abs. 4), 

• bei veröffentlichten Texten zu Angelegenheiten von öffentlichem Interesse (Art. 50 Abs. 4),

• beim Einsatz von Emotionserkennung oder biometrischer Kategorisierung (Art. 50 Abs. 3). Dies betrifft Sie nur, wenn Sie solche Systeme einsetzen. Bei den unten genannten IONOS-Produkten ist dies nicht der Fall.

Bei folgenden IONOS Produkten und Features sind Sie Betreiber:

• KI App und Site Builder
• KI Telefonassistent
• KI Chat-Assistent
• MyWebsite Now KI-Unterstützung

Ein Verstoß gegen die Transparenzpflichten kann gemäß Art. 99 Abs. 4 Buchstabe g KI-Verordnung Bußgelder von bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes nach sich ziehen. Maßgeblich ist der jeweils höhere Betrag; für kleine und mittlere Unternehmen gilt jeweils der niedrigere der beiden Werte.

Deepfakes in Bildern, Videos und Audiodateien

Veröffentlichen Sie künstlich erzeugte oder manipulierte Bilder sowie Ton- oder Videoinhalte, die realen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlich als echt erscheinen könnten, müssen Sie offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.

Entscheidend ist nicht, ob eine bestimmte, identifizierbare Person abgebildet ist. Es genügt, dass die dargestellte Person, der Ort oder das Objekt real existieren könnte. Ein fotorealistisches Bild einer frei erfundenen Mitarbeiterin ist deshalb ein Deepfake. Nicht erfasst sind Darstellungen, die erkennbar unmöglich sind, sowie Cartoons, Zeichnungen und Illustrationen ohne Täuschungspotenzial.

Fotorealismus ist ein starkes Indiz, aber nicht allein entscheidend. Maßgeblich ist, ob der Inhalt im vorhersehbaren Verwendungskontext über seine Echtheit täuschen kann. Auf eine Täuschungsabsicht kommt es nicht an – die Bewertung erfolgt objektiv.

In diesen Beispielfällen ist eine Kennzeichnung erforderlich:

• ein KI-manipuliertes Bild einer Szene mit zwei realen Profifußballern vor einem Gebäude, das einem Fußballstadion ähnelt
• ein KI-erzeugtes Video einer Person, die einem Politiker ähnelt und eine Rede vor Publikum hält
• ein KI-erzeugtes Audio, in dem die Stimmen der regelmäßigen Moderatoren eines Podcasts geklont werden
• ein Video mit einem realistischen synthetischen Avatar der Geschäftsführung, das den Mitarbeitenden zum Jahresergebnis gratuliert
• ein KI-erzeugtes Produktbild in Werbung oder auf einer Verpackung, das über das tatsächliche Aussehen, die Eigenschaften oder die Verwendung des Produkts täuschen kann – etwa weil das Produkt attraktiver oder anders wirkt als in der Realität

Kleine Bildbearbeitungen

KI-gestützte Farbkorrektur, das Verlängern eines Hintergrunds, der Austausch eines Hintergrunds aus rein ästhetischen Gründen, das Arrangieren vorhandener Produkte oder das Skalieren von Bildern in Produktwerbung und Verpackungsgestaltung verändern die Wahrnehmung der Echtheit in der Regel nicht wesentlich und lösen daher keine Kennzeichnungspflicht aus.

Journalistische Bilder

Bei journalistischen Bildern kann eine erhebliche KI-Bearbeitung von Hintergrunddetails, die über die üblichen technischen und redaktionellen Praktiken hinausgeht, die Wahrnehmung der Echtheit sehr wohl beeinträchtigen.

Kunst und Satire

Bei offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder vergleichbaren Werken gelten abgemilderte Pflichten. Die Kennzeichnung muss dann nur so erfolgen, dass sie die Darstellung oder den Genuss des Werks nicht beeinträchtigt.

KI-Texte zu Angelegenheiten von öffentlichem Interesse

Veröffentlichen Sie KI-generierte oder KI-veränderte Texte, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen Sie offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde.

Die Pflicht greift nur, wenn alle drei Merkmale zusammen erfüllt sind:

• Der Text ist veröffentlicht. Er ist für eine unbestimmte, größere Zahl untereinander nicht verbundener Leserinnen und Leser zugänglich – gleichgültig, ob kostenlos oder gegen Bezahlung, etwa im Abonnement. Nicht veröffentlicht sind private oder geschäftliche Einzelkorrespondenz sowie organisationsinterne Texte, etwa Beiträge im Intranet.

• Der Text informiert die Öffentlichkeit. Er vermittelt Wissen, Meinungen oder Fakten. Kurze Texte, die inhaltlich nichts davon vermitteln, fallen nicht darunter.
• Es geht um eine Angelegenheit von öffentlichem Interesse. Gemeint sind Themen, die für die Gesellschaft insgesamt relevant sind – lokal, national, europäisch oder international – und einer öffentlichen Debatte oder Kontrolle würdig sind. Die Leitlinien nennen z. B. Politik, Justiz, Umweltschutz, Verbrauchersicherheit sowie wirtschaftliche Entwicklungen, die Gegenstand öffentlicher Debatte sein können. Was als öffentliches Interesse gilt, kann sich über die Zeit und je nach Kontext verändern.

Produkttexte, Kategorietexte, Landingpages, Werbeanzeigen, Antworten auf Kundenbewertungen und Social-Media-Posts über Ihr eigenes Angebot sind in der Regel keine Texte zu Angelegenheiten von öffentlichem Interesse. Hier besteht keine Kennzeichnungspflicht nach Art. 50.

Die Ausnahme: menschliche Überprüfung und redaktionelle Verantwortung

Die Kennzeichnungspflicht für Texte entfällt, wenn zwei Bedingungen zusammen erfüllt sind:

• Der Text wurde einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen, und
• eine natürliche oder juristische Person trägt die redaktionelle Verantwortung für die Veröffentlichung.

Die Anforderungen an die Prüfung sind höher, als es zunächst klingt:

• Erforderlich ist eine inhaltliche Prüfung durch eine Person mit einschlägigem Wissen und fachlichem Urteilsvermögen zum Thema. Ein Abgleich der Fakten gehört zum Mindestmaß.
• Nicht ausreichend sind oberflächliche, rein formale oder verfahrensmäßige Kontrollen wie Rechtschreib- und Grammatikprüfung, das bloße Vorhandensein einer Redaktionsrichtlinie, automatisierte Prüfschritte oder eine flüchtige Freigabe ohne inhaltliche Befassung.
• Jeder substanzielle KI-Eingriff nach der Freigabe lässt die Ausnahme entfallen. Wer einen freigegebenen Text anschließend von einem KI-Tool umschreiben, ergänzen oder neu formulieren lässt, muss ihn wieder kennzeichnen. Achten Sie darauf bei automatisierten SEO- oder Textoptimierungsfunktionen.

Redaktionelle Verantwortung bedeutet, die letztverantwortliche rechtliche Verantwortung für die Veröffentlichung zu tragen – einschließlich der Prüfung selbst. Das kann eine einzelne Person, ein Redaktionsteam oder das veröffentlichende Unternehmen sein. Machen Sie diese Stelle leicht auffindbar öffentlich zugänglich: Identität und Kontaktmöglichkeit, wobei auch eine Funktionsbezeichnung genügt. Geeignete Orte sind Impressum, Nutzungsbedingungen oder andere rechtliche Hinweise auf Ihrer Website.
 

Am einfachsten verwenden Sie die offiziellen EU-Symbole. Sie zeigen das Akronym „AI", sind kostenlos und in drei Varianten verfügbar:

Bilder und Videos

• Bilder: Platzieren Sie das Symbol an einer Stelle ohne überlagernde Elemente. Zum Beispiel oben rechts oder unmittelbar in der Bildunterschrift. Fügen Sie darüber hinaus eine barrierefreie Beschreibung in den ALT-Text des Bildes ein.
• Videos: Blenden Sie das Symbol zu Beginn des Videos ein. Zeigen Sie es darüber hinaus möglichst in regelmäßigen Abständen oder während des gesamten Videos, mindestens aber nach Unterbrechungen wie z. B. Werbepausen. Grund: Zuschauende steigen zu unterschiedlichen Zeitpunkten ein, und aus Videos werden Screenshots und Clips. Empfohlen wird, das Symbol durchgehend oder mindestens während des KI-erzeugten Abschnitts anzuzeigen.
• Interne, geschlossene Nutzung (z. B. Mitarbeiterschulung):  Wird ein Deepfake ausschließlich im Rahmen eines geschlossenen internen beruflichen Kontexts verwendet, kann der Hinweis in der Benutzeroberfläche, in der physischen Umgebung oder über ein anderes geeignetes Medium platziert werden. Der Hinweis muss jedoch leicht zugänglich sein.
• Bei visuellen Deepfakes dürfen hörbare Hinweise nur ergänzend eingesetzt werden. Sie sind stets von einer visuellen Kennzeichnung zu begleiten.
• Social-Media-Thumbnails: Platzieren Sie das Symbol als Overlay im Bild bzw. Video. Eine Platzierung in der Caption selbst ist nicht ausreichend.

Audio-Deepfakes

• Setzen Sie einen kurzen gesprochenen Hinweis in klarer, einfacher Sprache an den Anfang des Deepfakes selbst – in der Sprache des Inhalts oder auf Englisch. Wo es passt, ergänzen Sie, ob der Inhalt KI-erzeugt oder KI-verändert ist.
• Alternativ ist eine andere akustische Form zulässig, etwa ein wiedererkennbarer Signalton („Earcon"). Das setzt aber voraus, dass Sie ihn durch Aufklärung begleiten – etwa durch Hinweise oder wiederholte Erläuterungen –, solange es keine einheitliche EU-Lösung gibt.
• Bei langen oder live gesendeten Aufnahmen wiederholen Sie den Hinweis in regelmäßigen Abständen, mindestens nach Unterbrechungen wie Werbung. Auch das hat einen praktischen Grund: Aus langen Aufnahmen werden Ausschnitte.
• Steht ein Bildschirm zur Verfügung – etwa im Auto oder auf dem Smartphone –, müssen Sie zusätzlich zur Ansage eine visuelle Kennzeichnung anbieten.

Texte zu öffentlichem Interesse

• Platzieren Sie die Kennzeichnung über oder am Anfang des Textes, in der Nähe der Überschrift oder im Kolophon (Vorspann) am Textbeginn. Wichtig ist, dass die Platzierung klar, konsistent und für Lesende unterscheidbar ist.
• Ist nur ein Teil des Textes KI-erzeugt oder KI-verändert, dürfen Sie auch nur diesen Teil kennzeichnen.
• Bei sehr kurzen Ausgaben – einzelnen Wörtern oder kurzen Phrasen –, bei denen eine Kennzeichnung direkt am Text die Lesbarkeit oder Bedienbarkeit beeinträchtigen würde, bleibt die Kennzeichnung Pflicht. Sie darf dann in die Bedienoberfläche verlagert werden: als Indikator unmittelbar neben der Ausgabe, oder als Hinweis am Beginn der Nutzungssitzung bzw. bei der ersten Interaktion.

Wird über Ihre Website ein KI-Chatbot oder ein KI-Assistent bereitgestellt, mit dem Personen direkt interagieren, müssen die Nutzerinnen und Nutzer erkennen können, dass sie mit einer KI und nicht mit einem Menschen kommunizieren (Art. 50 Abs. 1) – sofern das nicht ohnehin offensichtlich ist. Ein einfacher Hinweis beim Start des Chats genügt in der Regel. Diese Funktion muss Ihnen der Anbieter der KI-Systeme bereitstellen.