KI und DSGVO: Dr. Sebastian Kraska über rechtssicheren Unternehmenseinsatz

Dürfen wir KI-Tools wie ChatGPT oder Claude im Unternehmen überhaupt nutzen? Diese Frage, so Christoph Magnussen, Host des Podcasts AI to the DNA, ist die mit Abstand häufigste, die ihm gestellt wird - und oft das grösste Hindernis auf dem Weg vom neugierigen Ausprobieren zur echten Wertschöpfung. Um diese Unsicherheit ein für alle Mal aus dem Weg zu räumen, hat er sich auf den Weg nach München gemacht. Sein Gesprächspartner ist Dr. Sebastian Kraska, Rechtsanwalt, Gründer der IITR Datenschutz GmbH und einer der führenden Experten für Datenschutzrecht in Deutschland. Gemeinsam beleuchten sie die Mythen, die rechtlichen Realitäten und die praktischen Schritte, die Unternehmen gehen müssen, um KI sicher und rechtskonform einzusetzen. Diese Folge ist ein unverzichtbarer Leitfaden für alle Entscheider:innen und Anwender:innen, die das Potenzial von KI heben wollen, ohne in rechtliche Fallstricke zu geraten.

Das Wichtigste auf einen Blick

• Datenschutz ist kein K.o.-Argument: Entgegen der weitverbreiteten Annahme verbietet die Datenschutz-Grundverordnung (DSGVO) den Einsatz von KI-Systemen nicht pauschal. Dr. Kraska betont, dass es klare Rahmenbedingungen gibt, unter denen Tools wie ChatGPT, Claude oder Microsoft Copilot rechtskonform genutzt werden können.
• Der Vertrag macht den Unterschied: Der entscheidende Faktor für den rechtssicheren Einsatz ist die Nutzung von kostenpflichtigen Business- oder Enterprise-Versionen der KI-Tools. Nur diese bieten einen Auftragsverarbeitungsvertrag (AVV) und garantieren vertraglich, dass die eingegebenen Unternehmensdaten nicht zum Training der Modelle verwendet werden.
• Schatten-IT ist das wahre Risiko: Wenn Unternehmen den Einsatz von KI aus einer pauschalen Angst heraus verbieten, weichen Mitarbeitende oft auf private, kostenlose Accounts aus. Diese unkontrollierte Nutzung, so Dr. Kraska, stellt ein weitaus grösseres Datenschutz- und Sicherheitsrisiko dar als eine offiziell eingeführte und gesteuerte Lösung.
• Der Server-Standort ist kein Allheilmittel: Das Argument, dass Daten sicher seien, weil sie in einem Rechenzentrum in Frankfurt liegen, ist laut Dr. Kraska eher psychologischer Natur. Aufgrund von Gesetzen wie dem US-Cloud-Act können US-Behörden potenziell auch auf Daten zugreifen, die auf europäischem Boden liegen, solange sie von einem US-Unternehmen verwaltet werden. Die Entscheidung für einen Anbieter ist daher immer auch eine Frage des strategischen Risikomanagements.
• Der Mensch bleibt in der Verantwortung: Nach aktueller Rechtslage soll KI menschliche Entscheidungen unterstützen, aber nicht ersetzen. Besonders bei Entscheidungen, die erhebliche Auswirkungen auf Individuen haben (z. B. im Personalwesen), muss die finale Entscheidungshoheit und damit die Haftung beim Menschen bleiben.
• Fokus auf die DSGVO, nicht auf den AI Act: Während der neue AI Act der EU für viel Aufsehen sorgt, ist seine Umsetzung komplex und teilweise bereits wieder in der Schwebe. Dr. Kraska rät mittelständischen Unternehmen, sich vorerst auf die saubere Umsetzung der bereits geltenden DSGVO zu konzentrieren. Sie enthält bereits die wesentlichen Prinzipien, um den KI-Einsatz zu steuern.

Mythos Datenschutz: Warum KI-Einsatz im Unternehmen möglich ist

Christoph eröffnet das Gespräch mit der Beobachtung, dass viele Menschen und Unternehmen sich gar nicht erst trauen, KI-Tools zu testen, weil das Argument das geht wegen Datenschutz nicht jede Initiative im Keim erstickt. Dr. Sebastian Kraska bestätigt, dass diese Haltung oft auf Halbwissen oder der Bequemlichkeit beruht, sich nicht mit neuer Technologie auseinandersetzen zu müssen. Er stellt klar, dass der ursprüngliche Sinn des Datenschutzes der Schutz des Bürgers vor staatlicher Überwachung ist - ein demokratisches Grundrecht, das man nicht leichtfertig aufgeben sollte. Im unternehmerischen Kontext geht es jedoch nicht um ein generelles Verbot, sondern um die Einhaltung klar definierter Spielregeln.

Die wichtigste Regel betrifft die Art des Vertragsverhältnisses. Wenn ein Unternehmen Daten an einen Dienstleister wie OpenAI oder Anthropic gibt, muss dies im Rahmen einer Auftragsverarbeitung geschehen. Das bedeutet: Der Dienstleister agiert als verlängerte Werkbank und darf die Daten nur auf Weisung des Unternehmens verarbeiten. Entscheidend ist, dass der Anbieter die Daten nicht für eigene Zwecke, wie das Training seiner globalen KI-Modelle, nutzen darf. Genau das sichern die Business-Tarife der grossen Anbieter zu. Wer hingegen private oder kostenlose Accounts für Firmendaten nutzt, riskiert nicht nur die unkontrollierte Weiterverwendung von Informationen, sondern handelt auch ohne die notwendige vertragliche Grundlage.

US-Anbieter, Server in Frankfurt und der Cloud Act: Was wirklich zählt

Ein häufiges Argument für die Nutzung von Microsoft-Diensten und gegen den Einsatz von Tools wie Claude oder ChatGPT ist der Server-Standort. Die Vorstellung, dass Daten in einem deutschen Rechenzentrum sicher vor dem Zugriff durch US-Behörden seien, ist jedoch ein Trugschluss, wie Dr. Kraska erklärt. Die aktuelle rechtliche Grundlage für den Datentransfer in die USA ist ein politischer Kompromiss zwischen der EU-Kommission und der US-Regierung. Ob dieser einer erneuten Prüfung vor dem Europäischen Gerichtshof standhalten wird, ist offen. Unabhängig davon können US-Gesetze wie der Cloud Act amerikanische Unternehmen dazu verpflichten, Daten herauszugeben, egal wo auf der Welt sie gespeichert sind. Die Kontrolle über die Daten liegt letztlich beim Mutterkonzern.

Die Wahl des Anbieters ist somit weniger eine Frage absoluter rechtlicher Sicherheit als vielmehr eine des strategischen Risikomanagements. Christoph und Sebastian sind sich einig, dass Europa in eine starke technologische Abhängigkeit von den USA geraten ist. Unternehmen müssen für sich bewerten, wie sie diese Abhängigkeit steuern wollen. Die Präferenz für einen europäischen Server-Standort kann dabei ein Baustein sein, ist aber keine wasserdichte Garantie. Viel wichtiger ist, die Risiken zu kennen und bewusst zu managen, anstatt sich in Scheinsicherheiten zu wiegen.

Agenten im Einsatz: Wie du autonome KI-Systeme sicher steuerst

Die Diskussion vertieft sich, als Christoph auf die nächste Technologiestufe zu sprechen kommt: autonome KI-Agenten. Systeme wie Claude Code oder Microsofts Co-Worker können nicht nur auf Anfragen reagieren, sondern selbstständig auf Kalender, E-Mails und Dokumente zugreifen, um komplexe Aufgaben zu erledigen. Stellt dies den Datenschutz vor neue Herausforderungen? Im Kern nicht, meint Dr. Kraska. Es gelten dieselben Grundprinzipien wie bisher, nur müssen sie konsequent auf die neuen Systeme angewendet werden.

Das A und O ist, dass ein KI-Agent niemals mehr Rechte haben darf als der menschliche Nutzer, der ihn steuert. Bestehende Rechte- und Rollenkonzepte müssen also technisch sauber an die KI-Systeme übergeben werden. Darüber hinaus verweist Dr. Kraska auf einen zentralen Grundsatz der DSGVO (Artikel 22), der automatisierte Einzelentscheidungen regelt. Demnach dürfen Maschinen keine Entscheidungen von erheblicher Tragweite für Menschen (z. B. eine Jobabsage) vollständig autonom treffen. Der Mensch muss die finale Kontroll- und Entscheidungsinstanz bleiben. Christoph ergänzt, dass dies auch aus praktischer Sicht sinnvoll ist: Der Mensch gibt die Absicht (Intent) vor, trifft die finale Entscheidung und trägt die Haftung. Diese drei Elemente, so seine Überzeugung, werden auch in einer hochautomatisierten Zukunft beim Menschen bleiben.

DSGVO vs. AI Act: Welches Regelwerk jetzt für dich relevant ist

Mit dem AI Act hat die EU versucht, einen umfassenden rechtlichen Rahmen für künstliche Intelligenz zu schaffen. Dr. Kraska blickt jedoch kritisch auf das mit heisser Nadel gestrickte Regelwerk. Es wurde unter grossem Zeitdruck verabschiedet und hinkt der rasanten technologischen Entwicklung bereits hinterher. Wichtige Teile der Verordnung wurden kürzlich in ihrem Inkrafttreten verschoben, was die Unsicherheit weiter erhöht. Für die meisten mittelständischen Unternehmen, so seine Einschätzung, schafft der AI Act vor allem eines: einen weiteren, kaum zu bewältigenden Berg an Compliance-Aufgaben.

Seine klare Empfehlung lautet daher: Konzentriert euch auf das, was bereits gilt und in der Praxis relevant ist - die DSGVO. Sie bietet mit ihren Prinzipien zur Datenminimierung, Zweckbindung und der Regelung automatisierter Entscheidungen ein robustes Fundament. Wer seine KI-Projekte sauber an den Vorgaben der DSGVO ausrichtet, hat die wichtigsten Hausaufgaben gemacht. Der AI Act wird vorerst vor allem für Entwickler von Hochrisiko-Systemen und für Grosskonzerne relevant bleiben.

Praktische Schritte zur KI-Einführung

Um KI sicher und erfolgreich im Unternehmen zu verankern, empfiehlt Dr. Kraska einen pragmatischen und prinzipienbasierten Ansatz. Anstatt sich in juristischen Details zu verlieren, sollten sich Unternehmen auf einige grundlegende Leitplanken konzentrieren.

1. Nutze ausschliesslich Business-Lösungen: Schliesse für alle eingesetzten KI-Tools kostenpflichtige Verträge ab, die einen Auftragsverarbeitungsvertrag (AVV) beinhalten. Stelle sicher, dass der Anbieter die Nutzung deiner Daten für das Training seiner Modelle vertraglich ausschliesst.
2. Bekämpfe die Schatten-IT proaktiv: Biete deinen Mitarbeitenden offiziell freigegebene und sichere KI-Tools an. Ein Verbot ohne Alternative führt unweigerlich zur unkontrollierten Nutzung privater Accounts und stellt das grösste Risiko dar.
3. Wende bestehende Sicherheitsstandards an: Ein KI-System ist nur ein weiteres Tool in deiner IT-Landschaft. Integriere es in dein bestehendes Rechte- und Rollenkonzept. Ein Agent darf nie mehr sehen oder tun können als der Mensch, der ihn bedient.
4. Behalte den Menschen am Steuer: Definiere klare Prozesse, bei denen KI-Systeme zuarbeiten, die finale Entscheidung bei wichtigen Vorgängen aber von einem Menschen getroffen und verantwortet wird. Dies ist nicht nur eine rechtliche Anforderung, sondern sichert auch die Qualität und Akzeptanz der Ergebnisse.
5. Dokumentiere den Einsatz transparent: Halte fest, wo und für welche Zwecke du KI-Systeme einsetzt. Dies ist eine Grundanforderung der DSGVO und schafft das nötige Vertrauen bei Mitarbeitenden und Kunden.