KI-Kennzeichnungspflicht: Was Unternehmen und Creator jetzt nach dem EU AI Act wissen müssen

Meta Title: KI-Kennzeichnungspflicht 2026 » Was Unternehmen & Creator wissen müssen Meta Description: KI-Kennzeichnungspflicht nach dem EU AI Act: Erfahre, wann Unternehmen und Creator KI-Inhalte kennzeichnen müssen und was seit August 2026 gilt. Fokus-Schlagwort: KI-Kennzeichnungspflicht Weitere Keywords: KI Kennzeichnung, EU AI Act, KI Act Kennzeichnungspflicht, KI Inhalte kennzeichnen, KI Bilder kennzeichnen, KI Videos kennzeichnen, KI Audio kennzeichnen, KI Texte kennzeichnen, Artikel 50 AI Act, Deepfake Kennzeichnung, KI Transparenzpflicht Empfohlener Slug: ki-kennzeichnungspflicht-eu-ai-act

KI-Kennzeichnungspflicht: Was sich 2026 für Unternehmen und Creator ändert

Künstliche Intelligenz ist längst im Alltag von Unternehmen, Agenturen, Selbstständigen und Content Creatorn angekommen. Texte werden mit KI erstellt, Bilder generiert, Videos automatisiert produziert und Stimmen künstlich erzeugt. Gleichzeitig wird es immer schwieriger zu erkennen, ob ein Inhalt tatsächlich von einem Menschen stammt oder mit künstlicher Intelligenz erstellt beziehungsweise verändert wurde.

Genau hier setzt der EU AI Act an. Mit Artikel 50 führt die Europäische Union konkrete Transparenzpflichten für bestimmte KI-Systeme und KI-generierte Inhalte ein. Diese Regeln gelten seit dem 2. August 2026. Betroffen sind unter anderem Anbieter und Betreiber generativer KI-Systeme, aber auch Unternehmen und professionelle Creator, die KI im Rahmen ihrer geschäftlichen oder beruflichen Tätigkeit einsetzen.

Dabei bedeutet die neue Regelung nicht, dass jeder mit KI erstellte Satz automatisch mit einem großen "KI-generiert"-Hinweis versehen werden muss.

Entscheidend ist vielmehr:

• Welche Art von KI wird eingesetzt?

• Wer stellt das KI-System bereit?

• Wer nutzt das System?

• Welche Art von Inhalt wird erzeugt oder verändert?

• Wird der Inhalt öffentlich veröffentlicht?

• Handelt es sich beispielsweise um einen Deepfake?

• Geht es bei einem Text um eine Angelegenheit von öffentlichem Interesse?

• Hat ein Mensch den Inhalt überprüft oder redaktionell bearbeitet?

Dieser Artikel erklärt die KI-Kennzeichnungspflicht nach dem EU AI Act verständlich und praxisnah.

Die sogenannte KI-Kennzeichnungspflicht ist Teil der Transparenzanforderungen des EU AI Act. Ziel ist es, Menschen besser darüber zu informieren, wann sie mit künstlicher Intelligenz interagieren oder KI-generierten beziehungsweise manipulierten Inhalten ausgesetzt sind. Artikel 50 unterscheidet dabei verschiedene Situationen.

Unter anderem geht es um:

1. die Kennzeichnung von KI-generierten oder manipulierten Inhalten,

2. die Erkennbarkeit von Deepfakes,

3. die Information bei direkten Interaktionen mit KI-Systemen,

4. bestimmte KI-generierte Texte zu Themen von öffentlichem Interesse,

5. die Information über bestimmte Systeme zur Emotionserkennung oder biometrischen Kategorisierung.

Die Europäische Kommission hat hierzu im Juli 2026 spezielle Leitlinien veröffentlicht. Die Transparenzpflichten nach Artikel 50 gelten seit dem 2. August 2026. Für Unternehmen und Creator bedeutet das vor allem: KI-Nutzung sollte nicht mehr ausschließlich als interne Produktionsfrage betrachtet werden. Bei bestimmten Anwendungen wird Transparenz gegenüber Nutzern und Öffentlichkeit zu einer rechtlichen Anforderung.

Generative KI kann inzwischen Bilder, Videos, Stimmen und Texte erzeugen, die von klassischen menschlichen Inhalten teilweise nur noch schwer zu unterscheiden sind. Das schafft neue Möglichkeiten, aber auch neue Risiken. Beispielsweise könnte ein KI-generiertes Video den Eindruck erwecken, dass eine reale Person etwas gesagt oder getan hat, obwohl dies nie passiert ist.

Ähnliches gilt für:

• künstlich erzeugte Stimmen,

• manipulierte Fotos,

• realistisch generierte Videos,

• gefälschte Interviews,

• synthetische Nachrichteninhalte,

• manipulierte Social-Media-Beiträge

Die EU-Kommission nennt unter anderem Täuschung, Manipulation, Betrug, Identitätsnachahmung und Fehlinformationen als Risiken, denen die Transparenzregeln entgegenwirken sollen.

Die Kennzeichnung soll deshalb eine einfache Frage beantworten:

Kann eine Person erkennen, dass dieser Inhalt künstlich erzeugt oder verändert wurde?

Die Transparenzpflichten aus Artikel 50 des EU AI Act gelten seit dem 2. August 2026. Damit ist die Regelung inzwischen relevant für Unternehmen und professionelle Nutzer, die in den Anwendungsbereich fallen.

Eine wichtige Übergangsregel betrifft bestimmte KI-Systeme, die bereits vor dem 2. August 2026 auf den Markt gebracht wurden. Für die Kennzeichnungs- und Erkennungspflicht nach Artikel 50 Absatz 2 gibt es in diesem speziellen Fall eine begrenzte Übergangsfrist bis zum 2. Dezember 2026.

Wichtig ist außerdem:

KI-Inhalte, die bereits vor dem 2. August 2026 erstellt wurden, müssen grundsätzlich nicht rückwirkend gekennzeichnet werden. Die Europäische Kommission empfiehlt jedoch, eine Kennzeichnung älterer Inhalte nach Möglichkeit vorzunehmen.

Die Regelungen richten sich nicht ausschließlich an große Konzerne.

Relevant können unter anderem sein:

• Unternehmen,

• Agenturen,

• Marketingabteilungen,

• Social-Media-Teams,

• Publisher,

• Medienunternehmen,

• professionelle Content Creator,

• Influencer,

• Freelancer,

• Werbeagenturen,

• Softwareanbieter,

• Betreiber von KI-Anwendungen

Dabei ist eine wichtige Unterscheidung notwendig. Der AI Act unterscheidet unter anderem zwischen Anbietern und Betreibern beziehungsweise Nutzern von KI-Systemen. Ein Unternehmen, das eine KI-Anwendung entwickelt und bereitstellt, hat andere Pflichten als ein Unternehmen, das ein bestehendes KI-System für seine eigenen Inhalte verwendet.

Auch ein professioneller Creator kann als Betreiber eines KI-Systems betrachtet werden, wenn KI im Rahmen einer beruflichen oder wirtschaftlichen Tätigkeit eingesetzt wird. Eine rein private Nutzung fällt dagegen grundsätzlich nicht in den Anwendungsbereich des AI Act.

Diese Frage ist besonders wichtig, weil viele Creator mittlerweile mit KI arbeiten.

Die Antwort lautet:

Nicht jeder KI-generierte Inhalt muss automatisch auf dieselbe Weise gekennzeichnet werden. Entscheidend ist der konkrete Anwendungsfall. Besonders relevant sind beispielsweise KI-generierte oder manipulierte Bilder, Videos und Audiodateien, die als Deepfake einzustufen sind.

Deepfakes werden im AI Act grundsätzlich als KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte definiert, die realen Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähneln und dadurch fälschlicherweise als authentisch oder wahr erscheinen könnten.

Ein Deepfake ist nicht einfach jedes KI-Bild. Das ist ein wichtiger Unterschied. Ein vollständig künstlich erzeugtes Fantasy-Bild eines Roboters ist beispielsweise etwas anderes als ein KI-generiertes Video, in dem eine reale Person scheinbar eine Aussage macht, die sie niemals getroffen hat.

Für die Einordnung spielen unter anderem folgende Faktoren eine Rolle:

• Wie ähnlich ist der Inhalt einer realen Person oder einem realen Ereignis?

• Welche Botschaft vermittelt der Inhalt?

• In welchem Kontext wird er veröffentlicht?

• Welche Zielgruppe sieht den Inhalt?

• Könnte das Publikum den Inhalt für authentisch oder wahr halten?

Die EU-Kommission weist ausdrücklich darauf hin, dass der Kontext und die Erwartungen des Publikums bei der Beurteilung relevant sein können.

Stell dir vor, ein Creator erstellt mit einer KI ein realistisches Video eines bekannten Politikers.

Die Person scheint darin zu sagen:

"Ich unterstütze ab sofort dieses Unternehmen."

Die Aussage wurde allerdings niemals gemacht. Ein solches Szenario kann unter die Deepfake-Transparenzpflichten fallen. Der entscheidende Punkt ist nicht, dass "KI verwendet wurde", sondern dass ein künstlich erzeugter oder manipulierter Inhalt den Eindruck erwecken kann, eine reale Person habe tatsächlich etwas gesagt oder getan.

In solchen Fällen muss die Offenlegung für die betroffene Person klar, unterscheidbar und wahrnehmbar erfolgen. Eine ausschließlich technische Markierung im Hintergrund reicht für die Offenlegung gegenüber dem Publikum nicht aus.

Bei Deepfakes reicht es nicht aus, sich ausschließlich auf eine unsichtbare technische Kennzeichnung zu verlassen. Die Offenlegung muss für Menschen erkennbar sein.

Die EU-Kommission nennt beispielsweise:

• sichtbare Hinweise,

• hörbare Hinweise,

• klar erkennbare Kennzeichnungen

Die Kennzeichnung muss spätestens bei der ersten Exposition gegenüber dem Inhalt erfolgen.

Ein Creator könnte beispielsweise einen deutlich sichtbaren Hinweis wie:

"KI-generierter bzw. KI-manipulierter Inhalt"

verwenden. Bei einem Video kann dieser Hinweis beispielsweise am Anfang eingeblendet werden. Wichtig: Das konkrete Design sollte zum jeweiligen Inhalt und Veröffentlichungsmedium passen.

Das lässt sich nicht pauschal mit Ja beantworten. Die Kennzeichnung muss grundsätzlich so gestaltet sein, dass Menschen sie wahrnehmen und verstehen können. Ein winziges Symbol irgendwo am unteren Bildschirmrand kann problematisch sein, wenn es faktisch nicht wahrnehmbar ist.

Die EU-Kommission stellt ausdrücklich klar, dass die Offenlegung bei Deepfakes verständlich und wahrnehmbar sein muss und nicht davon abhängen darf, dass Nutzer spezielle technische Werkzeuge einsetzen.

Für Unternehmen bedeutet das:

Transparenz sollte nicht nur technisch vorhanden, sondern auch für Menschen verständlich sein.

Bei Bildern muss zwischen unterschiedlichen Einsatzarten unterschieden werden.

Ein Unternehmen kann beispielsweise KI verwenden, um:

• einen Social-Media-Hintergrund zu erstellen,

• ein Konzeptbild zu generieren,

• eine Illustration zu produzieren,

• ein Produkt-Mockup zu entwickeln,

• eine Werbegrafik zu erstellen,

• eine realistische Person zu generieren

Nicht jeder dieser Fälle ist automatisch ein Deepfake. Besonders relevant wird die Regelung, wenn ein Bild eine reale Person oder ein reales Ereignis täuschend realistisch nachahmt.

Beispiel:

Unproblematischer Kontext:

KI-generierte Illustration eines futuristischen Büros.

Anderer Kontext:

Realistisch manipuliertes Foto, das den Eindruck vermittelt, eine reale Person sei an einem bestimmten Ort gewesen.

Hier muss die konkrete Situation geprüft werden.

Videos sind besonders relevant, weil generative KI inzwischen komplette Szenen erzeugen kann.

Typische Beispiele sind:

• KI-Avatare,

• virtuelle Influencer,

• synthetische Nachrichtensprecher,

• KI-generierte Interviews,

• Face-Swapping,

• Voice-Cloning,

• realistische Fake-Videos,

• künstliche Produktvideos

Bei einem Video, das eindeutig fiktional oder künstlerisch ist, kann die Situation anders aussehen als bei einem Video, das eine reale Person oder ein reales Ereignis täuschend echt nachahmt.

Bei künstlerischen, kreativen, satirischen oder fiktionalen Werken sieht der AI Act deshalb besondere Regelungen vor. Die Offenlegung soll in diesen Fällen angemessen erfolgen, ohne die Darstellung oder das Erlebnis des Werks unnötig zu beeinträchtigen.

Auch synthetische Audioinhalte fallen grundsätzlich in den Bereich der Transparenzregeln. Besonders relevant ist das sogenannte Voice Cloning.

Beispiel:

Ein Creator erzeugt mit einer KI eine Stimme, die klingt wie eine bekannte Person. Anschließend wird damit ein Werbevideo erstellt, in dem die Person scheinbar für ein Produkt wirbt. Hier kann die Kombination aus realer Person und künstlich erzeugter Stimme eine besonders hohe Täuschungsgefahr erzeugen.

Unternehmen sollten deshalb bei Voice-Cloning-Projekten besonders sorgfältig prüfen:

• Wessen Stimme wird verwendet?

• Ist die Person real?

• Wird eine tatsächliche Aussage simuliert?

• Wird der Inhalt öffentlich veröffentlicht?

• Ist die künstliche Herkunft für Zuschauer erkennbar?

Hier wird es besonders interessant. Denn der AI Act verlangt nicht pauschal, dass jeder KI-generierte Blogartikel, jede Produktbeschreibung oder jeder Social-Media-Post als KI-generiert gekennzeichnet werden muss. Artikel 50 Absatz 4 betrifft insbesondere KI-generierte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.

Dazu können beispielsweise Bereiche gehören wie:

• Politik,

• demokratische Prozesse,

• öffentliche Verwaltung,

• Justiz,

• Grundrechte,

• öffentliche Sicherheit,

• öffentliche Gesundheit

Die EU-Kommission nennt für diese Pflicht außerdem das Kriterium, dass keine entsprechende menschliche Überprüfung oder redaktionelle Kontrolle stattgefunden hat.

Ein Unternehmen verwendet ChatGPT oder ein anderes KI-System, um einen Blogartikel über ein neues Smartphone zu schreiben. Der Artikel wird anschließend von einem Mitarbeiter geprüft und redaktionell bearbeitet. Das ist nicht automatisch gleichbedeutend mit einer verpflichtenden öffentlichen KI-Kennzeichnung nach Artikel 50 Absatz 4.

Denn entscheidend ist der konkrete Anwendungsbereich der Vorschrift.

Anders kann es aussehen, wenn ein KI-System einen Text über eine politische Wahl erzeugt und dieser Text veröffentlicht wird, um die Öffentlichkeit zu informieren. Wenn die Voraussetzungen von Artikel 50 Absatz 4 erfüllt sind und keine entsprechende menschliche Überprüfung oder redaktionelle Kontrolle erfolgt ist, kann eine eindeutige Kennzeichnung erforderlich sein.

Das zeigt:

KI-Text = nicht automatisch Kennzeichnungspflicht. Der Kontext ist entscheidend.

Ein wichtiger Punkt für Unternehmen und Publisher ist die Frage, wann ein Mensch einen KI-generierten Text tatsächlich redaktionell überprüft hat.

Eine reine automatische Veröffentlichung ohne menschliche Kontrolle ist etwas anderes als ein Workflow, bei dem ein Redakteur:

• Fakten überprüft,

• Aussagen korrigiert,

• Quellen kontrolliert,

• Inhalte ergänzt,

• Formulierungen verändert,

• den Text fachlich bewertet,

• die Veröffentlichung freigibt

Gerade bei sensiblen Themen sollte deshalb ein dokumentierter redaktioneller Prozess etabliert werden. Das hilft nicht nur bei der Qualität, sondern kann auch für die Nachweisbarkeit von Compliance relevant sein.

Nicht pauschal. Das ist einer der häufigsten Irrtümer rund um die neue Regelung. Der EU AI Act führt keine allgemeine Pflicht ein, unter jeden KI-unterstützten Blogartikel einen Hinweis wie "Dieser Text wurde mit KI erstellt" zu setzen.

Entscheidend ist vielmehr, ob der konkrete Inhalt in den Anwendungsbereich der Transparenzpflichten fällt.

Für viele Unternehmen bedeutet das:

KI als Schreibassistent einsetzen ≠ automatisch Kennzeichnungspflicht. Trotzdem kann eine freiwillige Transparenzstrategie sinnvoll sein.

Beispielsweise könnte ein Unternehmen in seinen redaktionellen Richtlinien festlegen:

"Unsere Inhalte können teilweise mit Unterstützung künstlicher Intelligenz erstellt werden und werden vor der Veröffentlichung redaktionell geprüft."

Das ist allerdings eine freiwillige Kommunikationsentscheidung und nicht mit einer pauschalen gesetzlichen Kennzeichnungspflicht gleichzusetzen.

Ein besonders wichtiger Bestandteil des AI Act ist die technische Kennzeichnung. Anbieter generativer KI-Systeme müssen sicherstellen, dass bestimmte KI-generierte oder manipulierte Inhalte mit wirksamen, zuverlässigen, robusten und interoperablen maschinenlesbaren Markierungen versehen werden, soweit dies nach den Vorgaben erforderlich ist.

Das Ziel:

Software soll erkennen können, dass ein Inhalt künstlich erzeugt oder manipuliert wurde. Diese technische Kennzeichnung kann beispielsweise in Metadaten oder anderen technischen Verfahren umgesetzt werden.

Damit entsteht eine zweite Ebene der Transparenz:

1. Menschliche Kennzeichnung

Der Nutzer sieht beispielsweise:

"KI-generiertes Video"

2. Technische Kennzeichnung

Systeme können technisch feststellen, dass der Inhalt KI-generiert oder manipuliert wurde. Beide Ebenen erfüllen unterschiedliche Funktionen.

Das ist für Creator besonders wichtig. Nehmen wir ein Deepfake-Video. Das Video enthält technisch eine maschinenlesbare Markierung.

Der Zuschauer sieht davon jedoch nichts. Das allein genügt bei der Offenlegung eines Deepfakes gegenüber Menschen nicht. Die Europäische Kommission stellt ausdrücklich klar, dass Betreiber sich nicht einfach auf die maschinenlesbare Kennzeichnung verlassen können, die vom Anbieter eingebettet wurde.

Deshalb sollten Unternehmen zwischen:

technischer Erkennung

und

sichtbarer Transparenz

unterscheiden.

Unternehmen sollten ihre bisherigen KI-Workflows überprüfen.

Eine einfache Bestandsaufnahme kann beispielsweise so aussehen:

Schritt 1: Alle KI-Anwendungen erfassen

Welche KI-Tools werden im Unternehmen eingesetzt?

Zum Beispiel:

• ChatGPT

• Microsoft Copilot

• Google Gemini

• Claude

• Bildgeneratoren

• Videogeneratoren

• Voice-Cloning-Tools

• KI-Avatare

• Übersetzungssysteme

• Automatisierungstools

Schritt 2: Einsatzbereiche dokumentieren

Danach sollte festgehalten werden, wofür KI eingesetzt wird.

Zum Beispiel:

• Blogartikel,

• Social Media,

• Werbung,

• Produktbilder,

• Videos,

• Kundenservice,

• Chatbots,

• interne Dokumente,

• Präsentationen,

• Audio,

• Marketingmaterial

Schritt 3: Anbieter und Betreiber unterscheiden

Wer stellt das KI-System bereit? Und wer nutzt es? Das ist wichtig, weil die Transparenzpflichten je nach Rolle unterschiedlich ausgestaltet sind.

Schritt 4: Risikoreiche Inhalte identifizieren

Besondere Aufmerksamkeit verdienen:

• Deepfakes,

• Voice Cloning,

• realistische Personenbilder,

• KI-Avatare,

• politische Inhalte,

• Inhalte zu öffentlichen Angelegenheiten,

• manipulierte Videos,

• synthetische Nachrichteninhalte

Schritt 5: Kennzeichnungsprozess definieren

Für relevante Inhalte sollte intern festgelegt werden:

• Wer entscheidet über die Kennzeichnung?

• Welche Formulierung wird verwendet?

• Wo erscheint der Hinweis?

• Wann muss er sichtbar sein?

• Welche technischen Markierungen werden genutzt?

• Wie wird die Prüfung dokumentiert?

Creator und Unternehmen sollten insbesondere Social-Media-Workflows überprüfen.

Ein einfacher Prozess könnte so aussehen:

KI erstellt Inhalt

↓

Mensch prüft Inhalt

↓

Ist es ein Deepfake oder fällt der Inhalt unter eine andere Transparenzpflicht?

↓

Ja → Kennzeichnung

↓

Nein → Veröffentlichung nach internen Richtlinien

Dabei sollte die Kennzeichnung nicht versteckt werden.

Beispiele für verständliche Hinweise sind:

"KI-generierter Inhalt"

"Mit KI erstellt"

"KI-generiertes Bild"

"KI-manipuliertes Video"

"Synthetische Stimme – mit KI erzeugt"

Welche Formulierung geeignet ist, hängt vom jeweiligen Inhalt und Kontext ab.

Social-Media-Plattformen entwickeln zunehmend eigene Kennzeichnungssysteme für KI-Inhalte. Das bedeutet jedoch nicht automatisch, dass ein Plattformlabel jede rechtliche Verpflichtung des Nutzers ersetzt.

Unternehmen und Creator sollten deshalb zwischen:

Plattformregeln

und

gesetzlichen Transparenzpflichten

unterscheiden. Wenn beispielsweise ein Social Network einen Inhalt automatisch als KI-generiert markiert, sollte trotzdem geprüft werden, ob nach dem AI Act eine eigene sichtbare Offenlegung erforderlich ist. Gerade bei Deepfakes ist dieser Punkt wichtig, weil die EU-Kommission eine für Menschen wahrnehmbare Offenlegung verlangt.

KI-Avatare werden für Unternehmen immer interessanter.

Sie können beispielsweise eingesetzt werden als:

• virtuelle Moderatoren,

• digitale Verkäufer,

• Support-Mitarbeiter,

• Social-Media-Persönlichkeiten,

• virtuelle Influencer,

• Schulungsfiguren

Wenn Menschen direkt mit einem KI-System interagieren, muss grundsätzlich transparent gemacht werden, dass es sich um eine KI handelt. Der AI Act nennt ausdrücklich interaktive KI-Systeme wie Chatbots, KI-Agenten und Avatare. Ein virtueller Kundenservice sollte deshalb nicht den Eindruck erwecken, dass ein echter menschlicher Mitarbeiter antwortet, wenn tatsächlich eine KI dahintersteht.

Ein Online-Shop integriert einen KI-Chatbot.

Der Besucher fragt:

"Wann kommt meine Bestellung?"

Die KI antwortet automatisch. Hier sollte der Nutzer erkennen können, dass er mit einem KI-System interagiert.

Ein einfacher Hinweis wie:

"Du chattest mit unserem KI-Assistenten."

kann die Kommunikation transparent gestalten. Der konkrete technische Lösungsweg hängt vom eingesetzten System ab.

KI wird zunehmend für Werbung eingesetzt.

Unternehmen können beispielsweise:

• Models künstlich erzeugen,

• Produktbilder generieren,

• Stimmen synthetisieren,

• Werbespots produzieren,

• Videos automatisiert erstellen,

• Personen digital verändern

Hier sollte besonders genau geprüft werden, ob ein künstlicher Inhalt den Eindruck erweckt, eine reale Person oder ein reales Ereignis authentisch abzubilden. Je realistischer und täuschender die Darstellung, desto wichtiger wird eine saubere Prüfung.

Zusätzlich können unabhängig vom AI Act weitere rechtliche Anforderungen relevant sein, beispielsweise aus dem Wettbewerbs-, Marken-, Urheber- oder Persönlichkeitsrecht.

Auch Musik und Audio werden zunehmend durch KI erzeugt.

Dabei kann es verschiedene Szenarien geben:

• vollständig KI-generierter Song,

• KI-generierte Instrumentalspur,

• künstliche Stimme,

• Voice Cloning,

• KI-Mastering,

• KI-gestützte Bearbeitung,

• menschlicher Song mit KI-Unterstützung

Nicht jede Nutzung von KI bedeutet automatisch, dass der fertige Song öffentlich als KI-Inhalt gekennzeichnet werden muss. Besonders sorgfältig sollte jedoch geprüft werden, wenn eine reale Person künstlich imitiert wird oder eine künstliche Stimme den Eindruck erweckt, tatsächlich von einer bestimmten Person zu stammen.

Grundsätzlich sollten sich kleine Unternehmen nicht davon ausgehen, dass sie automatisch von den Transparenzregeln ausgenommen sind. Der AI Act sieht zwar bei bestimmten Sanktionen und der Anwendung auf kleinere Unternehmen Verhältnismäßigkeitsaspekte vor, die Transparenzpflichten nach Artikel 50 gelten aber grundsätzlich unabhängig davon, ob ein Unternehmen zehn oder mehrere tausend Mitarbeiter beschäftigt.

Ein kleiner Online-Shop sollte daher beispielsweise genauso prüfen, ob sein KI-Chatbot transparent als KI erkennbar ist.

Der AI Act sieht für Verstöße gegen seine Vorgaben teilweise erhebliche Geldbußen vor. Bei bestimmten Verstößen können Geldbußen für Unternehmen bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes betragen, wobei bei bestimmten kleineren Unternehmen die Verhältnismäßigkeit berücksichtigt wird. Die konkrete Sanktion hängt vom jeweiligen Verstoß und den Umständen ab.

Deshalb sollte die Zahl nicht als pauschale "Strafe für fehlendes KI-Label" verstanden werden.

Entscheidend ist immer:

Welche Vorschrift wurde verletzt und wer ist dafür verantwortlich?

Eine interne KI-Richtlinie kann dabei helfen, klare Prozesse zu schaffen.

Sie könnte unter anderem folgende Punkte enthalten:

KI-Tools

Welche KI-Systeme dürfen verwendet werden?

Datenschutz

Welche Daten dürfen in KI-Systeme eingegeben werden?

Urheberrecht

Welche Inhalte dürfen verarbeitet oder veröffentlicht werden?

Kennzeichnung

Wann müssen KI-generierte Inhalte gekennzeichnet werden?

Deepfakes

Wie wird mit realistischen Personen- und Ereignisdarstellungen umgegangen?

Redaktionelle Kontrolle

Welche Inhalte müssen vor Veröffentlichung von einem Menschen geprüft werden?

Dokumentation

Wie wird die Nutzung von KI dokumentiert?

Freigabe

Wer darf KI-generierte Inhalte veröffentlichen?

Auch als Creator lässt sich der eigene Workflow relativ einfach überprüfen.

KI-Kennzeichnung Checkliste

☐ Verwende ich KI für Bilder? ☐ Verwende ich KI für Videos? ☐ Nutze ich synthetische Stimmen?

☐ Erzeuge ich realistische Personen? ☐ Manipuliere ich reale Personen? ☐ Erzeuge ich Deepfakes?

☐ Verwende ich KI-Avatare? ☐ Nutze ich KI für politische oder gesellschaftlich relevante Inhalte? ☐ Wird mein KI-System direkt mit Zuschauern oder Kunden interagieren?

☐ Prüfe ich KI-generierte Inhalte vor Veröffentlichung? ☐ Unterstützt mein KI-Tool maschinenlesbare Kennzeichnungen? ☐ Habe ich einen festen Prozess für Kennzeichnungen?

Wer diese Fragen einmal sauber durchgeht, bekommt bereits ein gutes Bild davon, wo im eigenen Workflow Handlungsbedarf bestehen kann.

Irrtum 1: Jeder KI-Text muss gekennzeichnet werden

Nein. Der AI Act schreibt nicht pauschal vor, dass jeder mit KI erstellte Text öffentlich als KI-generiert gekennzeichnet werden muss. Besonders relevant ist unter anderem die Regelung für KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse, wenn die weiteren Voraussetzungen erfüllt sind.

Irrtum 2: Jedes KI-Bild ist ein Deepfake

Nein. Ein Deepfake setzt bestimmte Voraussetzungen voraus. Nicht jedes künstlich erzeugte Bild stellt automatisch einen Deepfake dar.

Irrtum 3: Ein unsichtbares Metadatum reicht immer

Nein. Bei Deepfakes müssen Betreiber eine für Menschen wahrnehmbare Offenlegung sicherstellen. Eine rein maschinenlesbare Markierung reicht hierfür nicht aus.

Irrtum 4: Private Nutzung ist genauso geregelt wie geschäftliche Nutzung

Nein. Der AI Act unterscheidet zwischen persönlicher und beruflicher Nutzung. Eine natürliche Person, die KI ausschließlich privat verwendet, fällt grundsätzlich nicht als Betreiber unter diese Regelungen. Bei regelmäßiger wirtschaftlicher oder beruflicher Nutzung kann die Situation anders aussehen.

Irrtum 5: Alte KI-Inhalte müssen alle nachträglich gekennzeichnet werden

Nein. Inhalte, die vor dem 2. August 2026 erstellt wurden, müssen grundsätzlich nicht rückwirkend gekennzeichnet werden. Die EU-Kommission empfiehlt eine Kennzeichnung älterer Inhalte jedoch, wenn dies möglich ist.

Die KI-Kennzeichnungspflicht bedeutet nicht, dass Unternehmen oder Creator künstliche Intelligenz nicht mehr verwenden dürfen.

Im Gegenteil:

KI bleibt ein wichtiges Werkzeug für:

• Content-Produktion,

• Marketing,

• Softwareentwicklung,

• Kundenservice,

• Recherche,

• Bildgenerierung,

• Videoproduktion,

• Automatisierung,

• Übersetzungen,

• Produktentwicklung

Der Schwerpunkt liegt auf Transparenz. Menschen sollen besser erkennen können, wann sie mit KI interagieren oder mit bestimmten KI-generierten beziehungsweise manipulierten Inhalten konfrontiert werden. Die Europäische Kommission beschreibt die Regeln ausdrücklich als Maßnahmen gegen Täuschung und Manipulation sowie zur Förderung eines vertrauenswürdigeren Informationsumfelds.

Für Unternehmen empfiehlt sich deshalb ein strukturierter KI-Check.

1. KI-Inventar erstellen

Alle verwendeten KI-Systeme dokumentieren.

2. Content-Workflows prüfen

Feststellen, wo KI Inhalte erzeugt oder verändert.

3. Deepfake-Risiken identifizieren

Besonders bei Bildern, Videos und Audio mit realen Personen.

4. Chatbots und KI-Agenten überprüfen

Sicherstellen, dass Nutzer erkennen können, wenn sie mit einer KI interagieren.

5. Redaktionelle Prozesse definieren

Festlegen, wann ein Mensch Inhalte überprüfen muss.

6. Kennzeichnung standardisieren

Einheitliche Formulierungen und Prozesse definieren.

7. Technische Markierungen berücksichtigen

Prüfen, welche maschinenlesbaren Kennzeichnungen die eingesetzten KI-Systeme unterstützen.

8. Mitarbeiter sensibilisieren

Marketing, Social Media, Kommunikation und IT sollten wissen, wann Transparenzpflichten relevant werden können.

9. Veröffentlichungsprozess dokumentieren

Gerade bei sensiblen Inhalten sollte nachvollziehbar sein, wer einen Inhalt geprüft und freigegeben hat.

Zusätzlich zu den gesetzlichen Anforderungen gibt es einen Verhaltenskodex zur Transparenz von KI-generierten Inhalten. Dieser wurde im Rahmen eines von der EU unterstützten Multi-Stakeholder-Prozesses entwickelt.

Wichtig ist dabei die Unterscheidung:

Der Verhaltenskodex ist freiwillig. Die Transparenzpflichten aus Artikel 50 sind dagegen gesetzlich verbindlich. Die Europäische Kommission und der KI-Ausschuss haben den Code als geeignetes freiwilliges Instrument bestätigt, mit dem Anbieter und Betreiber die Einhaltung bestimmter Transparenzpflichten unterstützen beziehungsweise nachweisen können.

Für Unternehmen kann es deshalb sinnvoll sein, sich mit dem Code auseinanderzusetzen, auch wenn eine Teilnahme nicht automatisch gesetzlich vorgeschrieben ist.

Die Europäische Kommission stellt verschiedene optionale Symbole für die Kennzeichnung von KI-generierten Inhalten zur Verfügung. Diese sollen eine einheitlichere und verständlichere Kennzeichnung unterstützen. Für Unternehmen bedeutet das allerdings nicht, dass ausschließlich ein bestimmtes Symbol verwendet werden darf.

Viel wichtiger ist, dass die Kennzeichnung die jeweiligen Transparenzanforderungen erfüllt.