Künstliche Intelligenz ist längst im Arbeitsalltag vieler Unternehmen angekommen. Texte werden mit KI-Unterstützung erstellt, Bilder generiert, Videos bearbeitet und Chatbots in Websites integriert.
EU AI Act ab 2. August 2026
Mit dem EU AI Act gelten ab dem 2. August 2026 neue Transparenzpflichten für bestimmte KI-Systeme und KI-generierte Inhalte. Häufig ist dabei von einer neuen „KI-Kennzeichnungspflicht“ die Rede.
Doch müssen Unternehmen künftig wirklich jeden mit ChatGPT erstellten Social-Media-Beitrag kennzeichnen? Braucht jedes KI-generierte Bild einen sichtbaren Hinweis? Und was gilt für Chatbots auf Unternehmenswebsites?
Die Antwort lautet: Es kommt auf die konkrete Anwendung an. Eine allgemeine Kennzeichnungspflicht für sämtliche Inhalte, bei deren Erstellung künstliche Intelligenz verwendet wurde, sieht der EU AI Act nicht vor.
Was ist die KI-Kennzeichnungspflicht?
Die sogenannte KI-Kennzeichnungspflicht ist Teil der Transparenzvorschriften des europäischen AI Acts. Sie soll für Nutzer erkennbar machen, wann sie mit einem KI-System interagieren oder mit Inhalten konfrontiert werden, die künstlich erzeugt beziehungsweise manipuliert wurden.
Die Vorgaben richten sich je nach Anwendungsfall an unterschiedliche Verantwortliche. Unterschieden wird insbesondere zwischen:
- Anbietern, die KI-Systeme entwickeln oder bereitstellen,
- und Betreibern, die solche Systeme beruflich oder geschäftlich einsetzen.
Welche Pflichten ein Unternehmen treffen, hängt daher nicht nur vom verwendeten Tool ab. Entscheidend ist auch, wie und wofür die künstliche Intelligenz eingesetzt wird.
Ab wann gelten die neuen Transparenzpflichten?
Die maßgeblichen Transparenzpflichten nach Artikel 50 des EU AI Acts gelten ab dem 2. August 2026.
Unternehmen sollten sich daher bereits jetzt einen Überblick darüber verschaffen, welche KI-Anwendungen im Betrieb verwendet werden. Dazu gehören nicht nur ChatGPT und andere Textgeneratoren, sondern beispielsweise auch:
- Chatbots auf Websites,
- KI-generierte Bilder und Videos,
- KI-Avatare,
- automatisiert erzeugte Audioinhalte,
- Sprachgeneratoren,
- Systeme zur Erkennung von Emotionen,
- und Anwendungen, die reale Inhalte gezielt verändern.
Müssen alle KI-generierten Texte gekennzeichnet werden?
Nein. Der EU AI Act schreibt nicht vor, dass jeder Text, der vollständig oder teilweise mit einem KI-Tool erstellt wurde, sichtbar als KI-Inhalt gekennzeichnet werden muss.
Für klassische Unternehmensinhalte wie:
- Website-Texte,
- Produktbeschreibungen,
- Newsletter,
- Werbeanzeigen,
- Social-Media-Postings,
- oder Blogartikel
besteht nicht automatisch allein deshalb eine sichtbare Kennzeichnungspflicht, weil bei der Erstellung ein KI-Tool verwendet wurde.
Besondere Regeln gelten jedoch für KI-generierte oder KI-manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
Eine Ausnahme kann bestehen, wenn der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.
Für Unternehmen bedeutet das: Es macht einen Unterschied, ob KI lediglich als Hilfsmittel bei der Erstellung eines redaktionell geprüften Marketingtextes eingesetzt wird oder ob Inhalte automatisiert und ohne ausreichende menschliche Kontrolle veröffentlicht werden.
Was gilt für KI-generierte Bilder, Videos und Audiodateien?
Besondere Vorsicht ist bei realistisch wirkenden Bildern, Audioaufnahmen und Videos geboten, die durch künstliche Intelligenz erzeugt oder manipuliert wurden.
Handelt es sich um sogenannte Deepfakes, muss offengelegt werden, dass die Inhalte künstlich erzeugt oder verändert wurden.
Als Deepfakes gelten insbesondere KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlicherweise als echt oder wahrheitsgemäß erscheinen könnten.
Beispiele können sein:
- ein KI-generiertes Video, in dem eine reale Person scheinbar eine Aussage tätigt,
- eine künstlich erzeugte Stimme, die wie eine bestimmte Person klingt,
- ein realistisches Foto eines Ereignisses, das tatsächlich nie stattgefunden hat,
- oder ein manipuliertes Bild, das einen falschen Eindruck von einer realen Situation vermittelt.
Bei offensichtlich künstlerischen, satirischen, fiktionalen oder vergleichbaren Werken kann die Offenlegung in einer Weise erfolgen, die die Darstellung oder den Genuss des Werkes nicht unangemessen beeinträchtigt. Dennoch muss weiterhin erkennbar sein, dass der Inhalt künstlich erzeugt oder verändert wurde.
Müssen KI-generierte Werbebilder gekennzeichnet werden?
Auch hier gibt es keine pauschale Antwort.
Nicht jedes KI-generierte Symbolbild ist automatisch ein kennzeichnungspflichtiger Deepfake. Entscheidend ist unter anderem, ob der Inhalt authentisch wirkt und bei den Betrachtern der falsche Eindruck entstehen kann, eine dargestellte Person, Situation oder ein Ereignis sei real.
Ein klar erkennbar illustratives oder abstraktes KI-Motiv ist anders zu beurteilen als ein täuschend echtes Foto einer realen Person oder eines vermeintlich tatsächlich stattgefundenen Ereignisses.
Unternehmen sollten daher besonders bei fotorealistischen Darstellungen prüfen:
- Werden reale Personen nachgebildet?
- Könnte der Eindruck entstehen, die dargestellte Situation habe tatsächlich stattgefunden?
- Wird ein echtes Produkt oder Ergebnis dargestellt, obwohl das Motiv künstlich erzeugt wurde?
- Könnten Kunden über wesentliche Eigenschaften eines Angebots getäuscht werden?
Unabhängig vom AI Act sind außerdem bestehende Vorschriften zu irreführender Werbung, Persönlichkeitsrechten, Datenschutz und Urheberrecht zu beachten.
Was gilt für Chatbots auf Websites?
Unternehmen, die einen KI-gestützten Chatbot auf ihrer Website einsetzen, müssen grundsätzlich sicherstellen, dass Nutzer darüber informiert werden, dass sie mit einem KI-System kommunizieren.
Eine zusätzliche Information kann entfallen, wenn für eine durchschnittlich informierte und aufmerksame Person aufgrund der Umstände und des Nutzungskontexts offensichtlich ist, dass sie mit künstlicher Intelligenz interagiert.
In der Praxis ist dennoch eine klare und verständliche Kennzeichnung empfehlenswert. Ein möglicher Hinweis wäre beispielsweise:
„Dieser Chat wird von einem KI-gestützten Assistenzsystem geführt.“
Der Hinweis sollte spätestens zu Beginn der Interaktion deutlich erkennbar sein. Eine versteckte Information ausschließlich in den Datenschutzbestimmungen dürfte den Zweck einer unmittelbaren Transparenzinformation regelmäßig nicht erfüllen.
Maschinelle Kennzeichnung durch die Anbieter
Der EU AI Act verpflichtet Anbieter bestimmter generativer KI-Systeme außerdem dazu, deren Ausgaben in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert erkennbar zu machen.
Diese technische Kennzeichnung soll wirksam, zuverlässig, robust und interoperabel sein. Sie kann beispielsweise durch Metadaten, Wasserzeichen oder andere technische Verfahren umgesetzt werden.
Diese Verpflichtung richtet sich in erster Linie an die Anbieter der KI-Systeme. Unternehmen, die KI-generierte Inhalte veröffentlichen, sollten vorhandene Kennzeichnungen jedoch nicht ohne Grund entfernen oder unbrauchbar machen.
Was gilt für Systeme zur Emotionserkennung?
Werden Systeme zur Emotionserkennung oder biometrischen Kategorisierung eingesetzt, müssen die davon betroffenen Personen grundsätzlich über den Betrieb des Systems informiert werden.
Solche Anwendungen können beispielsweise versuchen, aus Gesichtsausdrücken, Stimme, Verhalten oder anderen biometrischen Merkmalen bestimmte Emotionen oder Kategorien abzuleiten.
Für typische Marketing- und Websiteprojekte ist diese Regel zwar weniger häufig relevant. Unternehmen sollten dennoch genau prüfen, welche Funktionen in Analyse-, Recruiting-, Sicherheits- oder Kundenservice-Systemen tatsächlich eingesetzt werden.
Muss „Erstellt mit ChatGPT“ unter jedem Beitrag stehen?
Eine generelle Verpflichtung zu Formulierungen wie „Erstellt mit ChatGPT“, „KI-generiert“ oder „Dieser Text wurde von einer KI geschrieben“ besteht nicht für jeden gewöhnlichen Unternehmensbeitrag.
Maßgeblich ist nicht allein, ob ein KI-Tool verwendet wurde. Entscheidend sind unter anderem:
- die Art des Inhalts,
- der Verwendungszweck,
- das Risiko einer Täuschung,
- der Grad der menschlichen Bearbeitung,
- die redaktionelle Kontrolle,
- und die Frage, ob einer der ausdrücklich geregelten Anwendungsfälle vorliegt.
Ein Unternehmen kann KI beispielsweise für Ideen, Gliederungen, Formulierungsvorschläge oder sprachliche Überarbeitungen einsetzen und das Ergebnis anschließend fachlich und redaktionell prüfen. Dies ist anders zu bewerten als eine vollautomatische Veröffentlichung ungeprüfter Inhalte.
Wie kann eine korrekte KI-Kennzeichnung aussehen?
Der EU AI Act schreibt nicht für jeden Anwendungsfall einen einheitlichen Wortlaut vor. Der Hinweis muss jedoch klar, eindeutig und für die betroffene Person wahrnehmbar sein.
Je nach Inhalt können beispielsweise folgende Formulierungen verwendet werden:
- „Dieses Bild wurde mithilfe künstlicher Intelligenz erstellt.“
- „Diese Darstellung wurde mit KI generiert und zeigt keine reale Situation.“
- „Das Video enthält KI-generierte oder KI-manipulierte Inhalte.“
- „Die dargestellte Stimme wurde künstlich erzeugt.“
- „Sie kommunizieren mit einem KI-gestützten Assistenten.“
Die Kennzeichnung sollte dort angebracht werden, wo der Inhalt betrachtet oder die Interaktion begonnen wird. Sie sollte nicht erst nach mehreren Klicks oder ausschließlich in schwer auffindbaren Rechtstexten erscheinen.
Was Unternehmen jetzt konkret tun sollten
Unternehmen müssen nicht vorsorglich jeden Text und jedes Bild mit einem KI-Hinweis versehen. Sie sollten jedoch strukturiert erfassen, wo künstliche Intelligenz eingesetzt wird und welche Transparenzpflichten daraus entstehen können.
- Verwendete KI-Systeme erfassen
Erstellen Sie eine Übersicht über alle KI-Tools, die im Unternehmen eingesetzt werden. Berücksichtigen Sie dabei auch Funktionen, die in bestehende Software integriert sind.
- Anwendungen nach ihrem Zweck unterscheiden
Dokumentieren Sie, ob die KI für interne Aufgaben, zur Inhaltserstellung, im Kundenkontakt, zur Bild- oder Videoproduktion oder für automatisierte Entscheidungen eingesetzt wird.
- Menschliche Kontrolle festlegen
Definieren Sie, welche Personen KI-generierte Inhalte vor der Veröffentlichung auf sachliche Richtigkeit, Tonalität, Markenrichtlinien und mögliche Rechtsverletzungen prüfen.
- Chatbots transparent gestalten
Prüfen Sie, ob bei KI-gestützten Assistenten klar erkennbar ist, dass Nutzer mit einem KI-System kommunizieren.
- Realistische KI-Inhalte besonders prüfen
Bei KI-generierten Fotos, Stimmen oder Videos sollte vor der Veröffentlichung geprüft werden, ob der Inhalt als echt missverstanden werden könnte und eine Kennzeichnung erforderlich ist.
- Interne Richtlinien erstellen
Legen Sie fest, welche Tools verwendet werden dürfen, welche Informationen nicht eingegeben werden sollen, wann eine Kennzeichnung erfolgt und wer die Veröffentlichung freigibt.
- Bestehende Inhalte überprüfen
Kontrollieren Sie bereits vorbereitete Kampagnen, Websiteelemente, Chatbots sowie Bild- und Videoinhalte, die auch nach dem 2. August 2026 eingesetzt werden sollen.
KI-Kompetenz ist bereits heute ein Thema
Neben der Kennzeichnungspflicht enthält der EU AI Act auch Vorgaben zur sogenannten KI-Kompetenz. Unternehmen, die KI-Systeme anbieten oder einsetzen, sollen Maßnahmen treffen, damit die damit befassten Personen über ausreichende Kenntnisse und Fähigkeiten verfügen.
Mitarbeitende sollten daher nicht nur wissen, wie ein KI-Tool bedient wird. Sie müssen auch einschätzen können:
- wo Fehler und Halluzinationen entstehen können,
- welche Inhalte überprüft werden müssen,
- welche Daten nicht eingegeben werden dürfen,
- wann Transparenz erforderlich ist,
- und wer für das veröffentlichte Ergebnis verantwortlich bleibt.
KI ersetzt somit nicht die menschliche Verantwortung. Gerade bei öffentlich verwendeten Inhalten bleibt eine fachliche und redaktionelle Prüfung unverzichtbar.
Fazit: Keine pauschale Kennzeichnung, aber klare Transparenzpflichten
Die neue KI-Kennzeichnungspflicht bedeutet nicht, dass ab August 2026 jeder mithilfe von ChatGPT erstellte Text automatisch als KI-Inhalt markiert werden muss.
Die Transparenzpflichten betreffen klar definierte Anwendungsfälle. Dazu gehören insbesondere:
- die direkte Interaktion mit KI-Systemen,
- Deepfakes,
- bestimmte KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse,
- sowie Systeme zur Emotionserkennung oder biometrischen Kategorisierung.
Für Unternehmen besteht die wichtigste Aufgabe darin, ihre eingesetzten KI-Anwendungen zu kennen, Verantwortlichkeiten festzulegen und risikoreiche Inhalte vor der Veröffentlichung genau zu prüfen.
Wer künstliche Intelligenz transparent, verantwortungsvoll und mit menschlicher Qualitätskontrolle einsetzt, schafft nicht nur rechtliche Sicherheit, sondern stärkt auch das Vertrauen seiner Kunden.
Ist Ihre Website auf die neuen KI-Vorgaben vorbereitet?
Sie setzen einen KI-Chatbot ein, verwenden KI-generierte Inhalte oder möchten künstliche Intelligenz sinnvoll in Ihre Website und Ihr Online-Marketing integrieren?
Die Digitalagentur aus Linz unterstützt Sie bei der technischen und transparenten Umsetzung moderner KI-Anwendungen – von der Website über Content und Online-Marketing bis zur nutzerfreundlichen Einbindung digitaler Assistenzsysteme.
Jetzt unverbindlich Kontakt aufnehmen.
