KI und Ambiguitätstoleranz: Sarah Rojewski über die Zukunft der Bildung

Wie schaffen wir es, Künstliche Intelligenz nicht nur als Werkzeug zu begreifen, sondern auch ihre tiefgreifenden Auswirkungen auf unsere Gesellschaft zu verstehen? In der Welt der KI klafft oft eine Lücke zwischen der praktischen Anwendung im Alltag und den großen geopolitischen und bildungspolitischen Fragen. Diese Lücke zu schließen, ist das zentrale Anliegen dieser Episode des Podcasts AI to the DNA. Host Christoph Magnussen spricht dafür mit Sarah Hojevski, einer KI-Expertin, die sich bereits seit 2016 mit intelligenten Chatbots beschäftigt. Gemeinsam beleuchten sie, warum KI-Sicherheit oft an menschlicher Psychologie scheitert, ob Europa im globalen KI-Rennen noch eine Chance hat und wieso ein radikales Schulmodell aus den USA ein Weckruf für das deutsche Bildungssystem sein sollte. Diese Folge richtet sich an alle, die über den Tellerrand der reinen Tool-Nutzung hinausschauen und verstehen wollen, welche Weichen wir jetzt für unsere Zukunft stellen müssen.

Das Wichtigste auf einen Blick

• Menschliches Verhalten als größtes KI-Sicherheitsrisiko: Sarah erklärt, dass viele Sicherheitslücken nicht durch technische Fehler, sondern durch eine Mischung aus Unwissenheit und Frustration entstehen. Mitarbeitende, deren Arbeitgeber moderne KI-Tools sperren, greifen aus Effizienzgründen oft auf unsichere, kostenlose Alternativen zurück und geben sensible Daten preis.
• Psychologie schlägt Technologie: Die größte Hürde bei der KI-Adaption ist oft nicht die Technik selbst, sondern die menschliche Psyche. Sarahs frühe Erfahrungen mit Chatbots zeigten, dass Nutzer erst lernen mussten, in ganzen Sätzen mit einer Maschine zu kommunizieren - ein Lernprozess, der sich heute wiederholt.
• Ein Weckruf für das Bildungssystem: In den USA gibt es bereits erste AI-First-Schulen, in denen KI-Tutoren den Kernunterricht übernehmen, während menschliche Lehrkräfte sich auf soziale und praktische Fähigkeiten konzentrieren. Die Schüler dieser Schulen gehören zu den landesweit besten, was die Dringlichkeit einer Bildungsreform in Deutschland unterstreicht.
• Europas prekäre Rolle im KI-Wettlauf: Sarah und Christoph diskutieren, ob Europa im globalen Wettbewerb mit den USA und China noch mithalten kann. Während die finanzielle und infrastrukturelle Abhängigkeit erdrückend scheint, könnte ein möglicher Weg in der Entwicklung spezialisierter Middle-Layer-Anwendungen liegen, um eine Nische zu besetzen.
• Vom Konsumenten zum Gestalter: Der entscheidende Wandel liegt in der Denkweise. Statt KI passiv zu konsumieren oder auf den perfekten Prompt zu hoffen, plädieren beide dafür, aktiv zu werden. Selbst kleine Programmier-Experimente können das grundlegende Verständnis für die Technologie massiv steigern und die Angst vor dem Unbekannten nehmen.

Von Chatbots zu gesellschaftlicher Transformation: Sarah Hojevskis Weg zur KI-Expertin

Lange bevor ChatGPT den Hype um KI entfachte, arbeitete Sarah Hojevski bereits an der Schnittstelle von Mensch und Maschine. Im Jahr 2016, so erzählt sie Christoph, startete sie bei Telefónica Deutschland ein Pilotprojekt für einen der ersten Chatbots im Kundenservice. Ihre Motivation war pragmatisch: Kunden sollten auf digitalen Kanälen schnell und gezielt Antworten auf ihre Fragen finden, anstatt sich durch unzählige FAQ-Seiten zu kämpfen. Damals war die Technologie noch weit von der heutigen Leistungsfähigkeit entfernt. Das Team musste die Absichten der Nutzer, die sogenannten Intents, mühsam manuell zuordnen. Ein Begriff wie Rechnung konnte alles bedeuten - von der Einsicht über den Download bis hin zur Beschwerde. Diese frühe Arbeit legte den Grundstein für Sarahs tiefes Verständnis, dass es bei KI nicht nur um Algorithmen geht, sondern fundamental um menschliches Verhalten. Eine der größten Herausforderungen war es, die Nutzer, die jahrelang darauf trainiert waren, am Telefon nur 1 oder Rechnung zu sagen, dazu zu bringen, in ganzen Sätzen mit einem Chatbot oder Voicebot zu interagieren. Dieser Lernprozess auf Nutzerseite ist ein zentraler Aspekt, der auch heute noch Relevanz hat.

Sicherheit im KI-Alltag: Zwischen Unwissenheit und unternehmerischer Verantwortung

Ein Großteil der aktuellen Sicherheitsvorfälle im KI-Bereich, so Christoph, entsteht durch die sorglose Nutzung öffentlicher Chatbots. Sarah analysiert die Gründe dafür aus einer psychologischen Perspektive. Sie sieht zwei Haupttreiber: Zum einen eine Art naive Unwissenheit, bei der Nutzer davon ausgehen, dass ein in Deutschland verfügbares Tool schon den hiesigen Datenschutzregeln wie der DSGVO entsprechen müsse. Zum anderen, und das ist der entscheidendere Punkt, eine wachsende Frustration in der Arbeitswelt. Viele Mitarbeitende sehen im privaten Umfeld, wie rasant sich die KI-Technologie entwickelt, während sie am Arbeitsplatz mit veralteten Systemen und strengen Don't-Listen konfrontiert werden. Wenn der Arbeitgeber nur eine stark eingeschränkte, kostenlose Version von Microsoft Copilot ohne Zugriff auf Firmendaten bereitstellt, ist die Versuchung groß, auf private, leistungsfähigere Tools auszuweichen und dort Unternehmensdaten einzugeben. Dieses Verhalten ist weniger Faulheit als vielmehr ein Ruf nach moderneren Arbeitsmitteln. Sarah prognostiziert, dass Unternehmen, die diese Entwicklung ignorieren, nicht nur Sicherheitsrisiken eingehen, sondern auch Gefahr laufen, talentierte Mitarbeitende zu verlieren, die in einem zukunftssicheren Umfeld arbeiten möchten.

Revolution im Klassenzimmer? Das US-Modell der AI-First-Schulen als Weckruf

Eine der größten Sorgen von Sarah betrifft das Bildungssystem, in dem Deutschland im internationalen Vergleich den Anschluss zu verlieren droht. Sie schildert ein beeindruckendes Beispiel aus den USA: sogenannte AI-First-Schulen. In diesen Einrichtungen wird der gesamte didaktische Kernstoff - von Mathematik bis Literatur - von personalisierten KI-Tutoren vermittelt. Diese KI-Systeme passen sich dem individuellen Lerntempo und Lerntyp jedes Schülers an, sei er visuell oder auditiv veranlagt. Die Schüler verbringen nur etwa zwei Stunden pro Tag mit diesem theoretischen Input. Die restliche Zeit wird für die Entwicklung praktischer und sozialer Kompetenzen genutzt: Kommunikations- und Debattierkurse, Sport, psychologische Betreuung und sogar das Erlernen von Alltagsfähigkeiten wie einem Reifenwechsel. Die Ergebnisse sind verblüffend: Die Absolventen dieser Schulen gehören zu den besten 0,2 Prozent des Landes. Christoph und Sarah sehen darin ein Modell, das die größten Schwächen des standardisierten deutschen Schulsystems aufhebt: die Angst, dumme Fragen vor der Klasse zu stellen, und der Zwang, dass alle im gleichen Tempo lernen müssen. Die Vorstellung, ein solches Modell in Deutschland zu implementieren, stößt jedoch auf immense Hürden - von datenschutzrechtlichen Bedenken in Elternbeiräten bis hin zur langsamen Bürokratie. Diese Kluft zwischen technologischer Möglichkeit und gesellschaftlicher Realität könnte eine ganze Generation im internationalen Wettbewerb zurückwerfen.

Die globale KI-Landkarte: Europas prekäre Position

Die Diskussion weitet sich auf die geopolitische Ebene aus. Sarah äußert sich skeptisch, ob Europa im KI-Rennen mit den USA und China noch eine führende Rolle einnehmen kann. Sie verweist auf die riesige Investitionskluft und die jahrzehntelange Dominanz amerikanischer Tech-Konzerne, die ein nahezu geschlossenes Ökosystem bilden. Ein realistischerer Ansatz für Europa könnte, so ihre Überlegung, darin bestehen, nicht zu versuchen, die großen Basismodelle zu konkurrieren, sondern sich auf Middle-Layer-Anwendungen zu spezialisieren. Das könnten zum Beispiel Plattformen wie LangDoc oder Automatisierungstools wie N8N sein, die auf den großen amerikanischen Modellen aufsetzen, aber spezifische, sichere Lösungen für den europäischen Markt bieten. Christoph wirft jedoch ein, dass dieser Ansatz die Abhängigkeit nicht löst und oft zu weniger performanten Produkten führt, da die direkte Arbeit mit den führenden Modellen von OpenAI, Anthropic oder Google meist die besten Ergebnisse liefert. Beide sind sich einig, dass es ohne eine massive Steigerung von Investitionen und eine Veränderung des Mindsets - weg von einer Kultur der Angst und Regulierung hin zu einer des Mutes und der Innovation - schwierig wird, eine relevante Rolle zu spielen.

Vom Tool-Touristen zum Gestalter: Warum Mindset und Grundkenntnisse entscheidend sind

Letztlich, so das Fazit des Gesprächs, hängt der Erfolg im Umgang mit KI von der individuellen Haltung ab. Christoph plädiert leidenschaftlich dafür, dass jeder Mensch zumindest einmal grundlegend versucht haben sollte zu programmieren. Nicht um Programmierer zu werden, sondern um ein fundamentales Verständnis dafür zu entwickeln, wie Daten fließen und Systeme funktionieren. Dieses Wissen hilft, die Magie hinter dem einfachen Knopf auf dem Smartphone zu verstehen und die Technologie nicht nur als Konsument, sondern als mündiger Anwender zu nutzen. Sarah ergänzt, dass es vor allem um einen Mindset-Wandel geht: Weg von der Vorstellung, der KI einfach drei Sätze hinzuwerfen und ein perfektes Ergebnis zu erwarten, hin zu einem iterativen, kollaborativen Prozess. Gute Ergebnisse erfordern, ähnlich wie beim Delegieren an einen menschlichen Mitarbeiter, eine klare Vision, Kontext und strategisches Denken. Die Freude am Lernen und am Erschaffen - das Gefühl, das Sarah beim Bau ihres ersten eigenen KI-Agenten als pures Glück beschreibt - ist der stärkste Antrieb, um in dieser neuen Ära nicht nur mitzuhalten, sondern sie aktiv mitzugestalten.

Praktische Schritte: Vom Wissen zur Anwendung

1. Entwickle dein KI-Sicherheitsbewusstsein: Bevor du ein KI-Tool nutzt, frage dich: Gebe ich hier persönliche Finanz-, Gesundheits- oder Standortdaten ein? Eine einfache Regel lautet: Alles, was du nicht auf eine öffentliche Webseite schreiben würdest, gehört auch nicht in einen kostenlosen, nicht-vertrauenswürdigen Chatbot. Nutze für sensible Daten ausschließlich bezahlte, sichere Unternehmensversionen.
2. Werde zum aktiven Lerner: Warte nicht darauf, dass dein Arbeitgeber dir alles beibringt. Die aktuelle Ära bietet eine beispiellose Fülle an kostenlosen Lernmöglichkeiten. Nutze diese, um die Grundlagen von KI zu verstehen. Das Ziel ist nicht, ein Experte zu werden, sondern die Angst vor der Technologie zu verlieren und ihre grundlegende Funktionsweise zu begreifen.
3. Baue etwas Kleines: Die beste Art zu lernen, ist durch Tun. Erstelle einen einfachen, benutzerdefinierten GPT für eine private Aufgabe, automatisiere einen kleinen Prozess mit einem Tool wie N8N oder versuche, mit Claude Code eine kleine Webseite zu erstellen. Diese praktische Erfahrung schafft ein tieferes Verständnis als jede theoretische Abhandlung und stärkt das Vertrauen in die eigenen Fähigkeiten.
4. Fördere eine positive KI-Kultur: Anstatt die Nutzung von KI aus Angst zu verbieten, sollten Unternehmen eine Kultur des Ermöglichens schaffen. Das bedeutet, klare Leitlinien zu geben, sichere und lizenzierte Tools zur Verfügung zu stellen und den Mitarbeitenden zu vertrauen. Nur so lässt sich die Entstehung einer unsicheren Schatten-KI verhindern und das volle Potenzial der Technologie heben.