EU AI Act: Was Unternehmen jetzt zur Transparenzpflicht wissen müssen

Am 2. August 2024 beginnt für den Einsatz von Künstlicher Intelligenz in Europa ein neues Kapitel. Mit diesem Datum tritt die nächste Stufe des weitreichenden EU AI Acts in Kraft und bringt konkrete Transparenzpflichten mit sich, die jeden betreffen - vom globalen Tech-Konzern bis zum Kleinunternehmen mit einem Service-Chatbot. In einer Sonderfolge seines Podcasts Kollegin KI, produziert von Podstars by OMR, beleuchtet Host Max Mundhenke die neuen Regeln. Als Soziologe und KI-Dienstleister, nicht als Jurist, wie er betont, bietet Max eine praxisnahe Einordnung. Er erklärt, was sich für dich und dein Unternehmen jetzt ändert, warum diese Vorschriften notwendig sind und wo er persönlich noch Fallstricke sieht. Die Episode ist ein kompakter Leitfaden, der dir hilft, die neuen Anforderungen zu verstehen und richtig umzusetzen.

Das Wichtigste auf einen Blick

• Neue Transparenzpflichten ab August 2024: Der EU AI Act wird stufenweise eingeführt. Die ab dem 2. August geltenden Regeln konzentrieren sich darauf, den Einsatz von KI für Nutzerinnen und Nutzer sichtbar zu machen.
• Chatbots müssen sich outen: Jede Interaktion mit einem KI-Chatbot, egal ob per Text oder Sprache, muss mit dem klaren Hinweis beginnen, dass es sich um eine KI handelt. Diese Regel gilt ohne Bestandsschutz auch für bereits bestehende Systeme.
• Kennzeichnungspflicht für Deepfakes: KI-generierte oder stark manipulierte Bilder, Videos und Audiodateien, die täuschend echt wirken, müssen deutlich als solche markiert werden. Die EU hat hierfür offizielle Icons entwickelt.
• Ausnahme für redaktionell geprüfte Inhalte: Eine wichtige und pragmatische Ausnahme betrifft KI-erstellte Texte, etwa für Marketing oder Blogposts. Solange ein Mensch den Inhalt vor der Veröffentlichung prüft und die redaktionelle Verantwortung übernimmt, ist keine Kennzeichnung erforderlich.
• Hohe Bußgelder für alle: Die Regeln gelten für jede Nutzung von KI in der EU, unabhängig von der Unternehmensgröße. Verstöße können mit Strafen von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes geahndet werden.

Der AI Act: Ein gestuftes Gesetz für mehr Transparenz

Der AI Act ist das weltweit erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz. Anstatt alle Regeln auf einmal in Kraft zu setzen, wählt die EU einen gestaffelten Ansatz. Max erklärt, dass die erste Phase bereits im Februar 2025 begann und bestimmte hochriskante Anwendungen wie Social-Scoring-Systeme durch Staaten verbot. Die nun folgende Stufe ab August 2024 legt den Fokus auf Transparenz. Das Ziel ist klar: Menschen sollen erkennen können, wann sie mit einer KI interagieren oder KI-generierte Inhalte konsumieren. Dies soll Vertrauen schaffen und vor Manipulation schützen. Max begrüßt diesen Schritt grundsätzlich, da selbst er als Experte oft nicht mehr zwischen menschlichen und maschinell erstellten Inhalten unterscheiden kann.

Neue Spielregeln für digitale Gespräche: Die Chatbot-Offenlegungspflicht

Eine der zentralsten und unmittelbarsten Änderungen ist die Pflicht zur Selbstidentifikation für Chatbots. Jeder Bot, der mit Menschen kommuniziert, muss dies von der ersten Sekunde an klarstellen. Das gilt für den Kundenservice-Bot auf einer Website genauso wie für eine KI-gesteuerte Telefon-Hotline. Max macht an seinem eigenen Projekt - 100 Bots in 100 Tagen - deutlich, welcher Aufwand dahintersteckt. Er muss nun all diese Systeme durchgehen und sicherstellen, dass sie sich als KI zu erkennen geben. Ein Bestandsschutz für ältere Systeme existiert nicht. Diese Regel soll sicherstellen, dass niemand unwissentlich in eine Konversation mit einer Maschine verwickelt wird.

Zwischen Transparenz und Chaos: Die Kennzeichnung von KI-Inhalten

Die zweite große Pflicht betrifft die Kennzeichnung von Deepfakes - also KI-generierten oder stark veränderten Medieninhalten. Die EU stellt dafür zwei offizielle Logos zur Verfügung: eines für komplett KI-generierte Inhalte (AI-generated) und eines für KI-modifizierte (AI-modified). Hier äußert Max seine größte Sorge. Er zieht einen Vergleich zur Einführung der Werbekennzeichnungspflicht auf Instagram. Damals führte die Unsicherheit dazu, dass Creator aus Angst vor Abmahnungen fast jeden Beitrag als Werbung markierten, was das eigentliche Ziel der Transparenz untergrub und zu einem Kennzeichnungs-Chaos führte. Er befürchtet, dass eine ähnliche Entwicklung nun bei KI-Inhalten droht. Eine interessante Ausnahme gibt es für offensichtliche Fiktion. Max' humorvolles Beispiel: Ein Video, in dem Friedrich Merz die Bevölkerung für ihren Fleiß lobt, sei so offensichtlich fiktiv, dass es keiner Kennzeichnung bedürfe. Doch wo genau die Grenze verläuft, werden wohl erst Gerichte klären müssen.

Sonderfälle und Ausnahmen: Von Marketingtexten bis zur Emotionserkennung

Nicht jeder Einsatz von KI unterliegt der Kennzeichnungspflicht. Eine für den Arbeitsalltag besonders relevante Ausnahme lobt Max als pragmatisch: Texte, die mit Werkzeugen wie ChatGPT für Marketingzwecke, Blogartikel oder E-Mails erstellt werden, müssen nicht als KI-generiert markiert werden. Die Bedingung ist jedoch, dass ein Mensch den Text vor der Veröffentlichung überprüft, bearbeitet und somit die redaktionelle Verantwortung übernimmt. Dieser Human-in-the-Loop-Ansatz würdigt die Rolle von KI als Werkzeug, bei dem der Mensch die finale Kontrolle behält.

Eine weitere, spezifischere Regel betrifft Systeme zur Emotionserkennung. Werden Menschen biometrisch kategorisiert (z. B. durch die Analyse von Gesichtsausdrücken), müssen die betroffenen Personen darüber informiert werden. Zudem wurde die Einführung maschinenlesbarer Wasserzeichen zur Kennzeichnung von KI-Inhalten vorerst auf Dezember 2026 verschoben, was der Industrie mehr Zeit für die technische Umsetzung gibt.

Praktische Schritte für den 2. August

Um den neuen Anforderungen des AI Acts gerecht zu werden und hohe Strafen zu vermeiden, empfiehlt Max, jetzt konkret zu handeln. Die folgenden Schritte solltest du in deinem Unternehmen umsetzen:

1. Überprüfe deine Chatbots: Mache eine Bestandsaufnahme aller Chatbots und KI-gestützten Kommunikationssysteme, die du im Einsatz hast. Implementiere eine klare und unmissverständliche Nachricht zu Beginn jeder Interaktion, die das System als KI ausweist.
2. Kennzeichne KI-generierte Medien: Wenn du KI-generierte oder stark veränderte Bilder, Videos oder Audiodateien erstellst und veröffentlichst, nutze die von der EU bereitgestellten Labels. Max verweist auf einen Link in den Shownotes des Podcasts, wo diese zu finden sind.
3. Passe deine Redaktionsprozesse an: Stelle sicher, dass KI-generierte Texte, die du im Marketing oder in der Unternehmenskommunikation einsetzt, von einem Menschen geprüft und freigegeben werden. Dokumentiere diesen Schritt, um von der Ausnahmeregelung Gebrauch machen zu können.
4. Bleibe informiert: Der AI Act ist ein dynamisches Gesetz, das sich weiterentwickeln wird. Verfolge die Diskussionen und sei auf zukünftige Änderungen vorbereitet, wie etwa die Pflicht zu maschinenlesbaren Wasserzeichen ab Ende 2026.