Voice AI bei ElevenLabs: Zwischen Sicherheitsrisiko und B2B-Nutzen

Stell dir vor, du klonst die Stimme deines CEOs, um in einem Workshop die Gefahren von Deepfakes zu demonstrieren - und er ist alles andere als begeistert. Genau mit dieser Anekdote eröffnet Max Mundhenke, Host des Podcasts Kollegin KI von Podstars by OMR, eine faszinierende Diskussion über die rasante Entwicklung von KI-Stimmtechnologie. Was vor wenigen Jahren noch ein beunruhigender Partytrick war, ist heute ein mächtiges Werkzeug für Unternehmen. Um zu verstehen, wie dieser Wandel möglich wurde und welche Sicherheitsvorkehrungen heute greifen, hat Max Gordian Braun eingeladen, Leiter für Wachstum und Innovation bei ElevenLabs in Europa, dem Unternehmen, dessen Technologie er damals nutzte. Gemeinsam beleuchten sie, wie aus einem riskanten Experiment ein seriöses Geschäftsfeld wurde und welche ethischen und praktischen Fragen sich Unternehmen und Kreativschaffende heute stellen müssen.

Das Wichtigste auf einen Blick

• Sicherheit an erster Stelle: ElevenLabs hat eine Zero-Tolerance-Policy gegen Missbrauch. Um eine Stimme zu klonen, ist heute eine Verifizierung nötig, bei der du beweisen musst, dass es deine eigene Stimme ist oder du die Rechte daran besitzt. Das System gleicht Stimmen zudem mit einer riesigen Datenbank ab, um das unbefugte Klonen von Prominenten wie Barack Obama zu verhindern.
• Vom Creator-Tool zum B2B-Giganten: Der Fokus von ElevenLabs hat sich stark von einzelnen Nutzern hin zu großen Unternehmen verlagert. Mittlerweile arbeiten 75 Prozent der Fortune-500-Unternehmen mit der Technologie, um Kundeninteraktionen wie Support-Hotlines zu revolutionieren.
• Eine Chance für die Kreativbranche: Statt Synchronsprecher zu ersetzen, bietet die Plattform ein Lizenzmodell. Voice Actors können ihre Stimme zur Verfügung stellen und werden für deren Nutzung vergütet. Allein im letzten Jahr zahlte ElevenLabs über 11 Millionen US-Dollar an Sprecherinnen und Sprecher aus.
• Europäische Werte in der KI-Welt: Als europäisches Unternehmen legt ElevenLabs großen Wert auf Compliance und ethische Grundsätze. Modelle werden nur mit lizenzierten Daten trainiert, und die KI-Stimmen sind als erste weltweit versicherbar, was Unternehmen zusätzliche Sicherheit bei der Implementierung gibt.
• Die Überwindung von Sprachbarrieren: Einer der spannendsten Anwendungsfälle ist die Echtzeit-Übersetzung bei Telefonaten. Die Deutsche Telekom arbeitet beispielsweise daran, dass du am Telefon deine Gesprächspartner in deiner Muttersprache hörst, auch wenn sie eine andere Sprache sprechen.

Vom Schockmoment zum Sicherheitskonzept: Die Evolution des Voice Clonings

Max' Einstiegserzählung, in der er die Stimme eines CEOs mit nur wenigen Sekunden Audiomaterial aus einem YouTube-Video klonte, verdeutlicht die anfänglichen Risiken der Technologie. Gordian Braun erklärt, dass solche Aktionen heute dank strenger Sicherheitsmaßnahmen nicht mehr möglich wären. ElevenLabs hat eine Zero-Tolerance-Policy implementiert: Jeder Versuch, eine Stimme ohne explizite Erlaubnis zu klonen, führt zur sofortigen Sperrung des Accounts und wird rechtlich verfolgt. Der Prozess zum Klonen der eigenen Stimme erfordert eine mehrstufige Verifizierung. Zudem verhindert eine interne Datenbank, die Millionen von Stimmprofilen enthält, das Klonen bekannter Persönlichkeiten. Diese Entwicklung zeigt den Wandel von einem experimentellen Tool zu einer verantwortungsbewussten Plattform, die den schmalen Grat zwischen technologischer Möglichkeit und ethischer Verantwortung ernst nimmt.

Europäische DNA: Wie ElevenLabs Sicherheit und Innovation verbindet

Die Gründungsgeschichte von ElevenLabs ist tief in Europa verwurzelt. Die beiden polnischen Gründer, die für Palantir in London arbeiteten, waren frustriert von der schlechten Qualität synchronisierter Hollywood-Filme in ihrer Heimat. Ihre Vision war, die Originalstimme eines Schauspielers lippensynchron in jeder Sprache hören zu können. Aus dieser Idee entstand ein Unternehmen, das laut Gordian das Beste aus zwei Welten vereint: die schnelle Adaption und Vermarktungsstärke Amerikas mit der europäischen Voraussicht in Bezug auf Sicherheit und gesellschaftliche Auswirkungen. Dieser Ansatz zeigt sich darin, dass ElevenLabs seine Modelle nur mit lizenzierten Daten trainiert - im Gegensatz zu vielen Wettbewerbern, die Inhalte aus dem Internet scrapen. Ein Musikmodell wurde beispielsweise in Kooperation mit Plattenlabels entwickelt, die für die Nutzung ihrer Daten vergütet werden. Als erstes Unternehmen weltweit bietet ElevenLabs sogar eine Versicherung für seine KI-Modelle an, was das Vertrauen in die Technologie weiter stärkt.

Neue Geschäftsmodelle für Kreative: Eine Chance für die Synchronbranche?

Die Sorge, dass KI-Stimmen menschliche Sprecher überflüssig machen, ist groß - besonders in Deutschland mit seiner hochprofessionellen Synchronsprecher-Szene. Gordian begegnet dieser Angst mit einem klaren Gegenmodell: KI als Multiplikator, nicht als Ersatz. Sprecherinnen und Sprecher können ihre Stimmen auf der Plattform von ElevenLabs lizenzieren und an den Einnahmen beteiligt werden, wann immer ihre Stimme für Projekte genutzt wird. So kann die Stimme eines bekannten Sprechers, wie die deutsche Stimme von Bruce Willis, für unzählige Werbespots oder Unternehmensvideos eingesetzt werden, ohne dass der Sprecher physisch anwesend sein muss. Ein ehemaliger Voice Actor hat daraus bereits ein Vollzeitgeschäft entwickelt und lizenziert nun professionell Stimmen auf der Plattform. Dieses Modell schafft eine neue Einnahmequelle und demokratisiert den Zugang zu professionellen Stimmen.

Revolution im Kundenservice: Wenn der CEO persönlich ans Telefon geht

Die eindrucksvollsten Beispiele für den Einsatz von Voice-KI finden sich im Unternehmenskontext. Ein herausragender Fall ist Klarna: Der Zahlungsdienstleister nutzt eine geklonte Version der Stimme seines CEOs Sebastian Siemiatkowski für den automatisierten Kundensupport. Statt in Warteschleifen zu hängen, werden Kunden nun vom Chef persönlich betreut. Dies führte laut Gordian zu einer Reduzierung der Problemlösungszeit um 80 Prozent. Ein weiteres Beispiel ist die ukrainische Regierung, die Bürgern per KI-Agent bei administrativen Aufgaben wie der Unternehmensgründung hilft. Diese Agenten sind keine simplen Chatbots; sie sind in Sub-Agenten mit spezifischen Aufgaben und klar definierten Zugriffsrechten unterteilt, um maximale Sicherheit zu gewährleisten und Fehler zu minimieren.

Die Zukunft der Kommunikation: Emotionen, KI-Gesetze und der Turmbau zu Babel

Die Technologie entwickelt sich rasant weiter. Moderne KI-Stimmen können nicht nur sprechen, sondern auch Emotionen in der Stimme ihres Gegenübers erkennen und darauf angemessen reagieren. Ein wütender Kunde kann beispielsweise sofort an einen menschlichen Mitarbeiter weitergeleitet werden. Diese Fähigkeit wirft jedoch auch regulatorische Fragen auf, insbesondere im Hinblick auf den bald in Kraft tretenden EU AI Act, der Emotionserkennung am Arbeitsplatz verbietet. Gordian betont, dass ElevenLabs die Regularien ernst nimmt und je nach Kritikalität des Anwendungsbereichs (z. B. Gesundheitswesen) unterschiedliche Restriktionen anwendet. Die vielleicht revolutionärste Anwendung ist jedoch die Echtzeit-Übersetzung, an der die Deutsche Telekom arbeitet. Die Vision, Sprachbarrieren komplett zu überwinden und jeden Menschen auf der Welt in der eigenen Sprache zu verstehen, rückt damit in greifbare Nähe - ein wahrhaft biblisches Versprechen.

Praktische Umsetzung: Wie du KI-Stimmen sicher im Unternehmen einsetzt

Für Unternehmen, die Voice-KI implementieren möchten, gibt Gordian Braun indirekt einige wichtige Ratschläge mit auf den Weg. Es geht nicht darum, einfach einen Schalter umzulegen, sondern um einen durchdachten Prozess:

1. Arbeite mit Sub-Agenten: Statt eines allwissenden KI-Agenten solltest du ein System aus spezialisierten Sub-Agenten aufbauen. Einer kümmert sich um Rechnungsfragen, ein anderer um Kundendaten. Jeder hat nur Zugriff auf die Systeme, die er für seine Aufgabe benötigt. Das minimiert das Risiko und schafft klare Verantwortlichkeiten.
2. Definiere klare Guardrails: Lege genau fest, was ein Agent darf und was nicht. Welche Informationen darf er herausgeben? Welche Aktionen darf er ausführen? Diese Leitplanken sind entscheidend, um Missbrauch und Fehler wie das unautorisierte Versprechen von Rabatten zu verhindern.
3. Integriere den Menschen: Setze auf den Human-in-the-Loop-Ansatz. Bei kritischen Entscheidungen - etwa der Ausstellung eines Gutscheins oder einer Rückerstattung - sollte immer ein Mensch die letzte Freigabe erteilen. So kombinierst du die Effizienz der Maschine mit der Urteilskraft des Menschen.
4. Teste und optimiere kontinuierlich: Nutze die bereitgestellten Testing-Plattformen, um deine Agenten vor dem Live-Gang auf Herz und Nieren zu prüfen. Analysiere nach dem Start (mit Zustimmung der Nutzer) echte Konversationen, um die Leistung stetig zu verbessern und die Fehlerrate gegen null zu senken.

Am Ende der Episode demonstriert Max eindrücklich, wie weit die Technologie heute ist: Er verabschiedet sich mit seiner eigenen, von ElevenLabs geklonten Stimme. Das Ergebnis ist verblüffend natürlich und zeigt, dass die Zukunft der menschlichen Kommunikation bereits begonnen hat - und sie klingt erstaunlich vertraut.