AI Act 2026: Was Unternehmen jetzt zu KI-Kompetenz, Kennzeichnung und Voicebots wissen müssen

Warum der AI Act 2026 praktisch relevant ist

Der AI Act gilt nicht mit einem einzigen Stichtag für alle Pflichten. Bestimmte Verbote und die Regeln zur KI-Kompetenz gelten bereits seit dem 2. Februar 2025. Die Transparenzpflichten nach Artikel 50 sind seit dem 2. August 2026 anwendbar. Für bestimmte Hochrisiko-Regeln wurden durch den Digital Omnibus spätere Anwendungszeitpunkte festgelegt.

Für Unternehmen bedeutet das: Nicht jede Nutzung von KI löst dieselben Pflichten aus. Entscheidend sind unter anderem die Rolle des Unternehmens, das eingesetzte System, der konkrete Zweck und die Frage, ob Menschen direkt mit einem KI-System oder mit künstlich erzeugten Inhalten in Kontakt kommen.

KI-Kompetenz nach Artikel 4: Maßnahmen statt Einheitskurs

Artikel 4 verlangt von Anbietern und Betreibern von KI-Systemen Maßnahmen zur Förderung einer ausreichenden KI-Kompetenz der Personen, die in ihrem Auftrag mit dem Betrieb oder der Nutzung von KI-Systemen befasst sind. Dabei sind unter anderem technische Kenntnisse, Erfahrung, Ausbildung, Schulung, Nutzungskontext und die betroffenen Personengruppen zu berücksichtigen.

Der AI Act schreibt dabei keinen einheitlichen Kurs, keine feste Schulungsdauer und kein bestimmtes Zertifikat für alle Beschäftigten vor. Entscheidend ist, dass die Maßnahmen zum jeweiligen Einsatz und zur Rolle der Beteiligten passen.

In der Praxis sollte die Qualifizierung zum jeweiligen Einsatz passen:

• Mitarbeitende, die KI für Entwürfe und Recherche nutzen, brauchen andere Schwerpunkte als Personen, die Ergebnisse fachlich freigeben.
• In HR, Recruiting und anderen sensiblen Bereichen sind Folgen für betroffene Personen und die Grenzen automatisierter Bewertungen besonders wichtig.
• Im Kundenservice müssen Mitarbeitende wissen, wann ein Voicebot an Menschen übergeben wird und wie fehlerhafte Auskünfte korrigiert werden.
• Führungskräfte und Verantwortliche sollten Risiken, Freigaben und Eskalationswege verstehen, nicht nur einzelne Funktionen eines Tools.

Eine allgemeine Schulung kann ein Einstieg sein. Belastbarer wird sie, wenn sie mit einem KI-Inventar, konkreten Anwendungsfällen und wiederkehrenden Prüfungen verbunden wird.

Was Unternehmen aus Artikel 4 praktisch ableiten sollten

Der AI Act schreibt keine bestimmte interne Governance-Struktur vor. Unternehmen können aber aus Artikel 4 und dem jeweiligen Einsatzkontext einen nachvollziehbaren Prozess ableiten:

1. Erfassen Sie, welche KI-Systeme eingesetzt werden und wer sie nutzt.
2. Ordnen Sie Zweck, Daten, betroffene Personen und mögliche Folgen zu.
3. Definieren Sie je Anwendungsfall, welches Wissen und welche Prüfung erforderlich sind.
4. Legen Sie fest, wer Ergebnisse freigibt, korrigiert oder eine Nutzung stoppt.
5. Halten Sie Schulungen, Leitlinien und wichtige Freigaben intern nachvollziehbar fest.

Transparenz und Kennzeichnung nach Artikel 50

Artikel 50 betrifft mehrere unterschiedliche Situationen. Eine pauschale Regel wie „jeder KI-Inhalt muss sichtbar gekennzeichnet werden“ ist deshalb zu weitgehend.

Direkte Interaktion mit Chatbots und Voicebots

Anbieter von KI-Systemen, die für die direkte Interaktion mit Menschen bestimmt sind, müssen das System grundsätzlich so gestalten, dass die betroffenen Personen darüber informiert werden, dass sie mit einem KI-System interagieren. Das gilt spätestens bei der ersten Interaktion, sofern der KI-Einsatz nicht ohnehin offensichtlich ist.

Für Unternehmen mit Website-Chatbot, Terminassistent oder Voicebot bedeutet das: Prüfen Sie nicht nur den Begrüßungstext. Klären Sie auch, wer Anbieter und wer Betreiber ist, wie der Hinweis technisch umgesetzt wird, wann an eine menschliche Person übergeben wird und wie Fehlerfälle behandelt werden.

Bei einem extern eingekauften Voicebot sollten diese Punkte bereits bei Auswahl, Konfiguration und Abnahme des Systems dokumentiert werden. Die konkrete rechtliche Verantwortungsverteilung hängt vom System und vom Einsatz ab.

Synthetische Inhalte und maschinenlesbare Kennzeichnung

Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen die Ausgaben grundsätzlich in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert kennzeichnen, soweit die gesetzlichen Voraussetzungen erfüllt sind. Diese technische Kennzeichnung ist nicht automatisch dasselbe wie ein sichtbarer Hinweis für Menschen.

Für entsprechende generative KI-Systeme, die bereits vor dem 2. August 2026 in Verkehr gebracht wurden, sieht der Digital Omnibus eine begrenzte Übergangsregel vor: Die notwendigen Maßnahmen zur Einhaltung von Artikel 50 Absatz 2 müssen bis zum 2. Dezember 2026 umgesetzt werden.

Diese Übergangsregel betrifft nicht pauschal sämtliche Transparenzpflichten des Artikel 50.

Deepfakes und KI-generierte Texte

Betreiber müssen bei KI-generierten oder manipulierten Bild-, Audio- und Videoinhalten, die als Deepfake einzuordnen sind, offenlegen, dass sie künstlich erzeugt oder manipuliert wurden. Für bestimmte künstlerische, kreative, satirische oder fiktionale Inhalte gelten Besonderheiten bei der Art der Offenlegung.

Bei KI-generierten oder manipulierten Texten betrifft Artikel 50 Absatz 4 insbesondere Veröffentlichungen, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen.

Eine wichtige Ausnahme besteht, wenn die Inhalte einer substanziellen menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Daraus folgt keine pauschale sichtbare Kennzeichnungspflicht für jeden mit ChatGPT, Copilot oder einem anderen System vorbereiteten Blogartikel, Newsletter oder Produkttext. Entscheidend sind Zweck, Inhalt, menschliche Prüfung und redaktionelle Verantwortung.

Voicebots in Kundenkommunikation und Telefonie

Voicebots können Anfragen annehmen, Termine vereinbaren, Informationen bereitstellen oder Gespräche vorqualifizieren. Eine natürlich klingende Stimme darf aber nicht darüber hinwegtäuschen, dass ein KI-System beteiligt ist.

• Wird zu Beginn klar informiert, dass eine KI beteiligt ist?
• Ist geklärt, ob das Unternehmen Betreiber oder zusätzlich Anbieter des Systems ist?
• Können Menschen bei komplexen, sensiblen oder strittigen Anliegen übernehmen?
• Sind Datenquellen, Gesprächsaufzeichnungen und Auswertungen geklärt?
• Sind Aussagen, Gesprächslogik und Eskalationswege fachlich freigegeben?
• Sind Datenschutz, Wettbewerbsrecht und weitere einschlägige Vorgaben separat geprüft?

Die Information über KI macht einen Anruf nicht automatisch rechtmäßig. Gerade bei Telefonakquise, Beschäftigtendaten, Recruiting oder Gesprächsaufzeichnungen ist eine zusätzliche Prüfung des konkreten Falls erforderlich.

Häufige Fehlinterpretationen

• „Artikel 4 verlangt für alle Mitarbeitenden denselben Kurs.“ Nein. Die Maßnahmen sollen zum Wissen, zur Rolle, zum Einsatzkontext und zum betroffenen Personenkreis passen.
• „Der AI Act schreibt eine bestimmte interne KI-Abteilung vor.“ Nein. Eine bestimmte Governance-Struktur ist nicht generell vorgeschrieben.
• „Jeder KI-generierte Text braucht einen sichtbaren Hinweis.“ Nein. Artikel 50 unterscheidet nach Zweck, Inhalt, Rolle und menschlicher redaktioneller Kontrolle.
• „Eine maschinenlesbare Markierung ersetzt jeden Hinweis an Menschen.“ Nein. Technische Markierung und Information gegenüber Menschen erfüllen unterschiedliche Funktionen.
• „Ein Voicebot ist mit einem Begrüßungssatz rechtlich erledigt.“ Nein. Übergabe, Daten, Freigaben, Aufzeichnungen und Fehlerfälle gehören ebenfalls in die Prüfung.

Checkliste für Unternehmen

• Ist dokumentiert, welche KI-Systeme im Unternehmen eingesetzt werden?
• Sind Anbieter- und Betreiberrolle für die relevanten Systeme geklärt?
• Sind die von Artikel 4 betroffenen Mitarbeitenden und beauftragten Personen identifiziert?
• Sind Kompetenzbedarf und Lernmaßnahmen am konkreten Einsatz ausgerichtet?
• Sind Chatbots, Voicebots und andere direkte Interaktionen erfasst?
• Sind Hinweise zu KI-Interaktionen ab dem ersten Kontakt vorgesehen?
• Sind synthetische Inhalte, Deepfakes und Texte zu Themen von öffentlichem Interesse gesondert bewertet?
• Sind maschinenlesbare Kennzeichnungen bei den eingesetzten Anbietern und relevante Übergangsfristen geprüft?
• Sind menschliche Übergabe, Freigabe und Eskalation definiert?
• Sind Datenschutz, Wettbewerbsrecht und weitere Vorgaben für den konkreten Fall geprüft?
• Werden Maßnahmen, Entscheidungen und offene Punkte nachvollziehbar dokumentiert?

Fazit: Transparenz braucht klare Zuständigkeiten

Der AI Act 2026 verlangt von Unternehmen keine pauschale Kennzeichnung jedes KI-Einsatzes und keinen einheitlichen Schulungskatalog. Er verlangt aber, dass Unternehmen die relevanten Rollen, Systeme und Einsatzkontexte verstehen und die jeweils einschlägigen Anforderungen praktisch umsetzen.

Für die Umsetzung sind deshalb drei Dinge entscheidend: passende KI-Kompetenz, klare Transparenz bei direkten Interaktionen und künstlich erzeugten Inhalten sowie belastbare Verantwortlichkeiten. Besonders bei Voicebots, Chatbots und öffentlichen KI-Inhalten sollte die Prüfung vor dem Einsatz abgeschlossen und dokumentiert sein.