##  Pfadnavigation

1. [ Startseite ](/)
2. [ Software Testing & Qualität - Testautomatisierung, KI & Agilität ](/podcast/software-testing-qualitaet-testautomatisierung-ki-agilitaet)
3. Generative KI kritisch hinterfragen: Ethische Grenzen im Unternehmen

# Generative KI kritisch hinterfragen: Ethische Grenzen im Unternehmen

            **Podcast:**

   [Software Testing & Qualität - Testautomatisierung, KI & Agilität](/podcast/software-testing-qualitaet-testautomatisierung-ki-agilitaet)

              **Erscheinungsdatum:**

   9. Juni 2026

            **Länge:**

   00:26:13

    [         Link zur Episode (extern)   ](https://www.richard-seidl.com/de/podcast/generative-ki-ethik-softwareentwicklung)

 ![Wenn generative KI gegen die eigenen Werte verstößt - Johannes Link](https://www.botcaster.de/sites/default/files/styles/podcast_n_episode_metadata_image_1x/public/2026-08/ca771f10-64b1-42de-afa8-ae46e07bad6e.jpg.webp?itok=ED15m1iS)

###   Wenn generative KI gegen die eigenen Werte verstößt - Johannes Link

   9. Juni 2026 · [Software Testing & Qualität - Testautomatisierung, KI & Agilität](/podcast/software-testing-qualitaet-testautomatisierung-ki-agilitaet)

Im Hype um Künstliche Intelligenz gehen kritische Fragen oft unter. In der Welt der Softwareentwicklung, wo Effizienz und Automatisierung als oberste Ziele gelten, wird generative KI meist als Wundermittel gefeiert. Doch was, wenn der Preis für diese Bequemlichkeit untragbar hoch ist? In einer Episode des Podcasts *Software Testing & Qualität* stellt sich Host Richard Seidl gemeinsam mit seinem Gast Johannes Link genau dieser unbequemen Frage. Johannes, ein erfahrener Softwareentwickler und Vordenker, nimmt eine radikale Position ein: Er nutzt die aktuelle Form der hyperskalierten generativen KI aus ethischen Gründen nicht. Diese Zusammenfassung beleuchtet seine fundierte Kritik und zeigt auf, warum diese Debatte für Entwickler:innen, Tester:innen und Entscheider:innen in Unternehmen von zentraler Bedeutung ist. Es geht um die grundlegende Frage, welche Verantwortung wir als Gestalter:innen digitaler Werkzeuge tragen.

## Das Wichtigste auf einen Blick

Johannes' Analyse zeichnet ein düsteres Bild der aktuellen KI-Landschaft. Seine Argumentation lässt sich auf einige Kernpunkte verdichten, die eine neue Perspektive auf die scheinbar unaufhaltsame Technologie eröffnen:

- **Moralischer Diebstahl als Grundlage:** Die Trainingsdaten für große Sprachmodelle basieren größtenteils auf Werken, deren Urheber:innen nie um Erlaubnis gefragt wurden. Johannes bezeichnet dies als moralischen Diebstahl, unabhängig von der juristischen Grauzone.
- **Ökologische Katastrophe:** Der Energie- und Wasserverbrauch für das Training und den Betrieb von KI-Modellen ist immens. Prognosen deuten darauf hin, dass KI-Rechenzentren in den USA bald einen erheblichen Teil des gesamten Stromverbrauchs ausmachen und damit Fortschritte bei erneuerbaren Energien zunichtemachen könnten.
- **Zentralisierte Macht und Abhängigkeit:** Die Kontrolle über diese Schlüsseltechnologie liegt in den Händen weniger amerikanischer Milliardäre. Dies schafft eine gefährliche Abhängigkeit und öffnet Tür und Tor für Manipulationen, die von Profitgier oder menschenfeindlichen Ideologien angetrieben werden.
- **Fragwürdiger Nutzen:** Der tatsächliche gesellschaftliche Mehrwert steht in keinem Verhältnis zu den Kosten. Statt drängende Probleme wie den Klimakollaps oder Armut zu lösen, dient KI primär der Bequemlichkeit, Reibungsminimierung und Profitmaximierung.
- **Gesellschaftliche Kollateralschäden:** Generative KI untergräbt das Bildungssystem, indem sie Lernprozesse delegierbar macht, gefährdet das freie Internet durch massives Crawling von gemeinnützigen Projekten wie Wikipedia und führt durch die Flut an generierten Inhalten zu einem Qualitätsverfall (Model Collapse).

## Die unsichtbaren Kosten: Ökologischer Fußabdruck und Daten-Diebstahl

Ein zentraler Pfeiler von Johannes' Kritik sind die massiven, oft unsichtbaren Kosten der generativen KI. Er argumentiert, dass die Technologie auf einer fundamental unethischen Basis steht: der ungefragten Nutzung von Daten. Von Open-Source-Code über Blogartikel bis hin zu künstlerischen Werken - die Modelle wurden mit Inhalten trainiert, ohne dass die Schöpfer:innen jemals zugestimmt hätten. Dieser Mangel an Respekt vor geistigem Eigentum ist für ihn ein moralisches K.o.-Kriterium.

Hinzu kommt der immense ökologische Fußabdruck. Johannes verweist auf alarmierende Zahlen: Der Stromverbrauch von KI-Rechenzentren explodiert förmlich. In den USA könnte er von rund 4 % auf 25 % des nationalen Gesamtverbrauchs ansteigen und damit den gesamten Zuwachs an erneuerbaren Energien quasi auffressen. Auch der Wasserverbrauch zur Kühlung der Server und der Elektroschrott sind gravierende Probleme. Die für KI-Anwendungen benötigten GPUs haben eine kurze Lebensdauer von nur 1,5 bis 2 Jahren und landen danach oft als Sondermüll in Ländern des globalen Südens, wo die Rohstoffe ursprünglich unter fragwürdigen Bedingungen abgebaut wurden. Der Kreislauf aus Ausbeutung und Umweltzerstörung ist hier besonders deutlich.

## Gesellschaftliche Kollateralschäden: Bildung, freies Wissen und die Qualität des Internets

Über die ökologischen und ethischen Grundlagen hinaus sieht Johannes gravierende negative Auswirkungen auf die Gesellschaft. Besonders betroffen sei das Bildungssystem. Wenn Studierende Aufgaben wie das Schreiben von Hausarbeiten oder die Recherche an eine KI delegieren, findet der entscheidende Lernprozess - die Auseinandersetzung mit einem Thema und der Erwerb von Problemlösungskompetenz - nicht mehr statt. Dies führe zu einem schleichenden Kompetenzverlust, dessen Folgen wir bald in der Arbeitswelt spüren werden.

Gleichzeitig leidet das freie Internet. Projekte wie Wikipedia oder OpenStreetMap, die auf Freiwilligenarbeit und Spenden basieren, werden von KI-Crawlern massiv belastet, ohne dafür eine Gegenleistung zu erhalten. Die Kosten für die Infrastruktur steigen, während die Daten von kommerziellen Unternehmen zur Profitmaximierung genutzt werden. Ein weiteres Phänomen ist der sogenannte Model Collapse: Da ein immer größerer Teil der neuen Inhalte im Internet selbst KI-generiert ist, trainieren zukünftige Modelle quasi an ihrem eigenen, oft fehlerhaften Output. Dies führt zu einer Art digitaler Inzucht und einem unaufhaltsamen Qualitätsverlust der Datenbasis.

## Wem gehört die KI? Machtkonzentration und fehlende Kontrolle

Ein weiterer kritischer Punkt ist die Machtkonzentration. Johannes warnt davor, dass die Kontrolle über diese transformative Technologie in den Händen einiger weniger, nicht demokratisch legitimierter Akteure liegt - primär amerikanische Milliardäre. Diese verfolgen eigene wirtschaftliche und ideologische Interessen. Die Modelle sind keine neutralen Werkzeuge, sondern können gezielt manipuliert werden. Paradoxerweise sind größere Modelle anfälliger für gezielte Datenverschmutzung, da schon kleine Mengen manipulierter Daten ausreichen, um das Verhalten des Modells in eine bestimmte Richtung zu lenken.

Da die Modelle und ihre Trainingsdaten nicht transparent oder öffentlich kontrollierbar sind, entsteht eine gefährliche Blackbox. Wir sind vom Wohlwollen der Betreiber abhängig und können nicht nachvollziehen, welche Biases oder Manipulationen in den Modellen verankert sind. Für Johannes ist klar: Eine so mächtige Technologie dürfte nicht in privater Hand sein, sondern müsste unter öffentlicher und transparenter Kontrolle stehen.

## Gibt es einen Ausweg? Der Nutzen kleiner, spezialisierter Modelle

Trotz seiner scharfen Kritik ist Johannes kein Technologiefeind. Er unterscheidet klar zwischen den problematischen, hyperskalierten Allzweck-Modellen und einer verantwortungsvolleren Form der KI. Die Lösung sieht er in kleinen, spezialisierten Modellen, die für einen klar definierten Anwendungsfall trainiert werden. Als positives Beispiel nennt er AlphaFold, ein Modell zur Proteinfaltung, das auf einer überschaubaren, domänenspezifischen Datenbasis trainiert wurde und einen echten wissenschaftlichen Durchbruch darstellt.

Solche Modelle könnten auch von mittelgroßen Unternehmen selbst trainiert und betrieben werden, was die Abhängigkeit von den Hyperscalern reduziert. Sie sind transparenter, ressourcenschonender und ihre Ergebnisse sind stabiler und weniger anfällig für Halluzinationen. Der Fokus liegt hier auf einem konkreten, qualitativen Nutzen statt auf einer breiten, aber oberflächlichen Anwendung. Allerdings, so stellt Richard fest, fließen die Milliardeninvestitionen derzeit in die entgegengesetzte Richtung - in immer größere und intransparent-ere Modelle.

## Praktische Schritte für einen bewussten Umgang

Was kannst du als Einzelperson tun, um aus dieser Spirale auszubrechen? Johannes empfiehlt, sich nicht vom Druck der Branche mitreißen zu lassen, sondern eine bewusste, ethisch fundierte Haltung zu entwickeln. Hier sind einige konkrete Anregungen:

1. **Reflektiere deine eigenen Werte:** Ethik ist eine individuelle Entscheidung. Frage dich, ob die Nutzung dieser Technologie mit deinen persönlichen Werten vereinbar ist. Die von Johannes genannten Punkte zu Umwelt, Datennutzung und gesellschaftlichen Folgen können dir als Leitfaden dienen.
2. **Triff eine bewusste Entscheidung zur Nutzung (oder Nicht-Nutzung):** Johannes selbst hat entschieden, diese Werkzeuge nicht zu verwenden. Auch wenn das für dich nicht umsetzbar ist, kannst du deinen Gebrauch kritisch hinterfragen und reduzieren. Es geht darum, eine informierte Entscheidung zu treffen, statt dem Hype blind zu folgen.
3. **Informiere dich und diskutiere:** Sprich mit Kolleg:innen, Freund:innen und in deinem Team über die Schattenseiten von KI. Ein erhöhtes Bewusstsein in der Community ist der erste Schritt zu einem Wandel.
4. **Setze auf nachhaltige Fähigkeiten:** Lass dich nicht von der Angst treiben, den Anschluss zu verpassen. Die genauen Techniken des Prompt Engineering ändern sich mit jeder Modellgeneration. Konzentriere dich stattdessen auf grundlegende und zeitlose Fähigkeiten wie kritisches Denken, Problemlösungskompetenz und saubere Softwareentwicklung.

---

 version="1.0" encoding="UTF-8"?
      .st0 {
        fill: #010101;
      }

      .st1 {
        fill: #b0c0b3;
      }

      .st2 {
        fill: #3b3a3b;
      }

      .st3 {
        fill: #3a3a3a;
      }

      .st4 {
        fill: #5e7185;
      }

      .st5 {
        fill: #f9eddd;
      }

      .st6 {
        fill: #000100;
      }

      .st7 {
        fill: #aebeb3;
      }

      .st8 {
        fill: #fefefe;
      }

      .st9 {
        fill: #7f93a8;
      }

      .st10 {
        fill: #f8f0df;
      }

      .st11 {
        fill: #fbf0df;
      }

      .st12 {
        fill: #afbfb2;
      }

      .st13 {
        fill: #f7eedd;
      }

      .st14 {
        fill: #fdfdfd;
      }
                                                                                   Botcaster

  **Zusammengefasst von Anja Schirwinski**

Ich beschäftige mich beruflich wie privat mit Künstlicher Intelligenz - von konkreten Tools im Arbeitsalltag bis zu den größeren Fragen, die dabei aufkommen. Viele der Themen, die in Podcasts besprochen werden, begegnen mir in Projekten immer wieder. Deshalb fasse ich hier die für mich interessantesten Podcastfolgen zusammen und ordne sie aus der Praxis ein.

[Mehr über das Projekt Botcaster](/ueber-uns)

##  Themen

 - [  KI und Urheberrecht  ](/podcasts/themen/ki-urheberrecht)
- [  Softwareentwicklung mit KI  ](/podcasts/themen/softwareentwicklung-mit-ki)

**Hinweis:** *Diese Zusammenfassung wurde mit Hilfe von KI aus dem Transkript der Podcast-Episode generiert.*

Alle Inhalte auf Botcaster beruhen auf öffentlich zugänglichen Podcasts rund um Künstliche Intelligenz. Wir fassen die Episoden nach bestem Wissen zusammen, übernehmen jedoch keine Gewähr für Vollständigkeit, Aktualität oder Richtigkeit der Inhalte. Die Rechte an den Original-Podcasts und -Inhalten liegen ausschließlich bei den jeweiligen Urheber:innen.

         ## Shownotes

   Generative KI einfach nicht zu nutzen, weil sie den eigenen Werten widerspricht: das ist die Position, die Johannes Link konsequent vertritt. Mit ihm spreche ich darüber, warum er hyperskalierte Gen AI für ethisch nicht vertretbar hält und was ihn zu diesem Schluss gebracht hat. Wir reden über Trainingsdaten, die ohne Zustimmung der Urheber verwendet werden, über den massiven Energieverbrauch, über den Zerfall des freien Internets und darüber, was mit Studierenden passiert, die das Schreiben und Denken delegieren, bevor sie es je wirklich geübt haben. Johannes erklärt auch, was sich ändern müsste, damit er seine Meinung überdenken würde, und ob er diesen Wandel für realistisch hält.