KI-Risiken und digitale Souveränität: Kollegin KI Snackbox KW27

Wie nah liegen Fortschritt und Gefahr bei der Nutzung von Künstlicher Intelligenz beieinander? In einer neuen Snackbox-Episode des Podcasts Kollegin KI von Podstars by OMR beleuchtet Host Max Mundhenke die KI-News der Woche und zeigt eindrücklich die zwei Seiten der Medaille. Während die Rückkehr leistungsstarker KI-Modelle und gescheiterte Automatisierungsversuche bei Ford wichtige Lektionen über Technologie und menschliche Expertise liefern, enthüllt eine Recherche über ein neues Propaganda-Tool der AfD die düsteren Potenziale der Technologie. Diese Folge ist ein unverzichtbarer Wochenrückblick für alle, die verstehen wollen, wie KI nicht nur Arbeitsabläufe, sondern auch den gesellschaftlichen Diskurs prägt.

Das Wichtigste auf einen Blick

• Digitale Abhängigkeit: Die kurzzeitige Sperrung und nun Wiederfreigabe eines US-amerikanischen KI-Spitzenmodells von Anthropic entlarvt die massive Abhängigkeit Europas von der amerikanischen Technologiepolitik und unterstreicht die Dringlichkeit digitaler Souveränität.
• Ethik der Unsterblichkeit: Netflix nutzt KI, um die Stimme des verstorbenen Schauspielers Gene Wilder zu klonen. Obwohl rechtlich durch die Erben abgesichert, wirft der Fall grundsätzliche ethische Fragen über den Umgang mit der digitalen Identität von Verstorbenen auf.
• Mensch vor Maschine: Der Autohersteller Ford musste entlassene Qualitätsingenieure wieder einstellen, nachdem eine KI-gestützte Qualitätskontrolle scheiterte. Dies bestätigt erneut: KI ist ein Werkzeug, das menschliche Expertise ergänzt, aber nicht ersetzt.
• Propaganda as a Service: Recherchen von Correctiv decken auf, dass die AfD mit dem Alternita Studio ein KI-Tool zur automatisierten Erstellung von Social-Media-Inhalten entwickelt hat. Die Software nutzt gezielt rechte Medien als Quellen, um Propaganda zu generieren und zu verbreiten.
• Keine neutrale Technologie: Die News der Woche zeigen, dass KI ein mächtiges Werkzeug ist, dessen Wirkung maßgeblich von der Absicht seiner Nutzer abhängt. Dies erfordert eine kritische Auseinandersetzung und klare rechtliche wie ethische Rahmenbedingungen.

Die Rückkehr der US-Modelle: Ein Weckruf für Europa

Max beginnt mit einer Nachricht, die zunächst positiv klingt: Die sogenannten Frontier-Modelle von Anthropic, darunter ein Modell, das er als Fable 5 bezeichnet, sind wieder verfügbar. Diese hochleistungsfähigen Sprachmodelle waren auf Druck der US-Regierung kurzzeitig blockiert worden, da man sie als zu mächtig für den unkontrollierten weltweiten Zugriff einschätzte. Max erklärt, dass diese Episode ein alarmierendes Beispiel für die Willkür ist, der Europa in technologischen Fragen ausgesetzt ist. Ein einfacher politischer Beschluss in den USA kann den Zugang zu Schlüsseltechnologien über Nacht unterbinden. Dieser Vorfall, so seine Analyse, sollte als dringender Appell verstanden werden, die Bemühungen um digitale Souveränität in Europa massiv zu verstärken, um eine eigene, unabhängige KI-Infrastruktur aufzubauen.

Die Stimme aus dem Jenseits: Netflix und die Ethik der KI

Ein weiteres Thema ist der Einsatz von KI in der Unterhaltungsindustrie. Für eine neue Show hat Netflix die Stimme des vor zehn Jahren verstorbenen Schauspielers Gene Wilder mithilfe von KI geklont. Da die Nachlassverwalter zugestimmt haben, ist der Vorgang rechtlich einwandfrei. Max wirft jedoch die entscheidende ethische Frage auf: Ist es vertretbar, die Identitätsmerkmale einer Person, wie ihre Stimme, nach ihrem Tod für neue Zwecke zu nutzen? Er verweist auf eine frühere Diskussion im Podcast mit dem Synchronsprecher Sascha Rotermund, der die Perspektive der direkt Betroffenen beleuchtet hat. Der Fall zeigt, wie technologische Möglichkeiten gesellschaftliche Normen herausfordern und eine Debatte darüber erzwingen, wem unsere digitale Identität nach dem Tod gehört.

Wenn KI versagt: Warum Ford seine Ingenieure zurückholt

Die Episode berichtet auch über eine lehrreiche Erfahrung des Autobauers Ford. Das Unternehmen hatte Qualitätsingenieure entlassen, um die Aufgaben durch eine KI-gestützte Qualitätskontrolle zu ersetzen. Das Ergebnis: Die Produktqualität litt erheblich, woraufhin Ford die Fachkräfte zurückholte. Max sieht hier ein bekanntes Muster und zieht den Vergleich zu Klarna, die nach der Automatisierung ihres Kundenservices ebenfalls menschliche Mitarbeiter zurückholen mussten. Die Lektion daraus ist klar: KI kann menschliche Expertise nicht pauschal ersetzen, besonders in komplexen, nuancierten Aufgabenbereichen. Stattdessen verändert sich die Rolle des Menschen hin zur Überwachung, Steuerung und Zusammenarbeit mit der KI.

Propaganda auf Knopfdruck: Die AfD und ihr Automatisierungs-Tool

Den düstersten Teil der Folge widmet Max einer Enthüllung von Correctiv. Die Investigativjournalisten haben aufgedeckt, dass die AfD kurz davorsteht, ein Tool namens Alternita Studio einzuführen. Diese Software ist eine KI-gestützte Maschine zur automatisierten Erstellung politischer Inhalte für soziale Medien. Ein Journalist, der sich als AfD-Mitglied ausgab, erhielt eine Demo des Systems. Die Funktionsweise ist alarmierend: Das Tool bezieht seine Informationen gezielt aus einem Pool rechter Medien wie Tichys Einblick oder Junge Freiheit, aber auch aus dem Politik-Teil der Bild. Auf dieser Basis generiert es fertige Social-Media-Posts inklusive Text, Bild und einer Prognose zur erwarteten Reichweite. Laut Max ist dies ein Paradebeispiel für den Missbrauch von KI als Propagandainstrument, das darauf ausgelegt ist, gezielt Stimmung zu machen und den Diskurs zu vergiften. Er betont die Gefahr, die von solcher Propaganda as a Service ausgeht, und verweist auf die offenen Fragen zur Verantwortung der KI-Anbieter und den rechtlichen Grenzen im Rahmen des AI Acts oder bei Tatbeständen wie Volksverhetzung.

Denkanstöße für den Umgang mit KI

Diese Snackbox-Episode liefert nicht nur Nachrichten, sondern auch wichtige Impulse, wie Du Dich im KI-Zeitalter positionieren kannst:

1. Bleib kritisch und informiert: Der Fall des AfD-Tools zeigt, wie entscheidend Medienkompetenz ist. Hinterfrage die Quellen von Informationen, besonders wenn sie stark emotionalisierend sind. Max empfiehlt die Lektüre des zugrundeliegenden Correctiv-Artikels, um die Mechanismen moderner Propaganda zu verstehen.
2. Schätze menschliche Expertise wert: Die Erfahrung von Ford ist eine Mahnung, den Hype um KI realistisch einzuordnen. Überlege in Deinem eigenen Umfeld, wo KI menschliche Fähigkeiten sinnvoll ergänzen kann, anstatt vorschnell auf vollständige Automatisierung zu setzen.
3. Führe die ethische Debatte: Das Klonen von Gene Wilders Stimme ist mehr als eine technische Spielerei. Nutze solche Beispiele als Anlass, um mit Kolleg:innen und Freunden über die ethischen Grenzen von KI zu diskutieren. Wo ziehen wir als Gesellschaft die Linie?
4. Fordere digitale Unabhängigkeit: Die Abhängigkeit von US-Technologie ist ein strategisches Risiko für Europa. Informiere Dich über europäische KI-Initiativen und unterstütze die politische Forderung nach mehr digitaler Souveränität.