Digital Fairness Act, George Clooney und KI-Trends: Snackbox KW20

Wie schnell adaptieren eigentlich Kinder neue Technologien wie KI und welche Verantwortung tragen wir als Gesellschaft, sie in dieser neuen Welt zu schützen? Mit dieser Frage, inspiriert von einem ehrenamtlichen Workshop an einer Grundschule, eröffnet Host Max Mundhenke die aktuelle Snackbox-Episode des Podcasts Kollegin KI von Podstars by OMR. Diese Folge ist ein kompakter Wochenrückblick, der die wichtigsten KI-Nachrichten zusammenfasst und dabei nicht bei der reinen Technik stehen bleibt, sondern tief in die gesellschaftlichen und menschlichen Aspekte eintaucht. Von neuen EU-Regulierungen über Hollywoods Kampf um digitale Identität bis hin zu den kuriosen Auswüchsen von KI-Nutzung in Großkonzernen - diese Zusammenfassung liefert dir die entscheidenden Einblicke, die für jeden relevant sind, der die Wechselwirkungen von KI und Mensch im Arbeits- und Lebensalltag verstehen will.

Das Wichtigste auf einen Blick

• Digitaler Jugendschutz: Die EU plant mit dem Digital Fairness Act, der 2026 kommen soll, Kinder und Jugendliche besser vor suchterzeugenden Mechanismen auf digitalen Plattformen wie Endless Scrolling und Push-Benachrichtigungen zu schützen.
• Digitale Identität in Hollywood: Prominente wie Tom Hanks und George Clooney unterstützen den Human Consent Standard, eine Initiative, die klären soll, wie die Persönlichkeitsmerkmale eines Menschen - von der Stimme bis zur Mimik - durch KI genutzt und lizenziert werden dürfen.
• SAP will KI-Agenten etablieren: Auf der Sapphire-Konferenz hat SAP seine Vision vorgestellt, mithilfe von KI-Agenten Geschäftsprozesse zu automatisieren. Der entscheidende Vorteil gegenüber anderen Anbietern ist der immense Datenschatz, über den SAP bereits verfügt.
• Menschliches Verhalten als Störfaktor: Ein Trend bei Amazon namens Token-Maxing zeigt, wie Mitarbeiter ein internes KI-Leaderboard manipulieren, indem sie sinnlos Ressourcen verbrauchen, nur um in der Rangliste aufzusteigen. Dies unterstreicht, dass der Erfolg von KI oft nicht an der Technik, sondern am Menschen scheitert.

Digitaler Schutz für Kinder: Die EU plant den Digital Fairness Act

Max leitet das erste Thema mit einer persönlichen Anekdote ein: Bei einem KI-Workshop mit Grundschülern der dritten bis sechsten Klasse erlebte er, wie selbstverständlich, aber auch unreflektiert Kinder mit digitalen Inhalten in Berührung kommen. Ein Drittklässler erzählte von der brutalen Netflix-Serie Squid Game, die er offenbar über Social-Media-Clips kennengelernt hatte. Dieses Beispiel illustriert eindrücklich die Notwendigkeit eines besseren Schutzes, den die EU nun anstrebt. Ursula von der Leyen kündigte auf dem Democracy Summit in Kopenhagen den Digital Fairness Act an. Dieses Gesetz, das für 2026 geplant ist, zielt darauf ab, die aufmerksamkeitsoptimierten und oft süchtig machenden Designs von Online-Plattformen zu regulieren. Konkret geht es um Funktionen wie Endless Scrolling, Autoplay-Videos und algorithmische Empfehlungen, deren negative Auswirkungen auf die mentale Gesundheit von Kindern und Jugendlichen - von Schlafmangel bis zu Depressionen - gut erforscht sind.

Wenn Menschen zur Lizenz werden: Hollywoods Kampf um digitale Identität

Vom Schutz der Nutzer:innen schwenkt die Diskussion zur Lizenzierung der menschlichen Identität selbst. The Verge berichtet über eine Initiative in Hollywood namens Human Consent Standard, die von Stars wie Tom Hanks, George Clooney und Meryl Streep unterstützt wird. Max vergleicht diesen Standard treffend mit einer Robots.txt-Datei, die Suchmaschinen anweist, welche Bereiche einer Website sie durchsuchen dürfen. Ähnlich soll der Human Consent Standard definieren, was eine KI mit dem Abbild, der Stimme oder sogar den charakteristischen Ausdrücken eines Menschen tun darf. Diese Entwicklung wirft eine tiefgreifende philosophische Frage auf: Wenn Menschen durch KI reproduzierbar werden, werden sie dann auch lizenzierbar? Ging es früher um Urheberrechte für Musik, Filme oder Texte, so steht nun die Kommerzialisierung menschlicher Wesenszüge im Raum - eine Debatte, die weit über Hollywood hinaus Relevanz hat.

SAP setzt auf KI-Agenten: Eine neue Vision für die Unternehmenswelt

Ein Blick in die Unternehmenswelt zeigt, dass die Automatisierung durch KI weiterhin ein zentrales Thema ist. SAP hat auf seiner Sapphire-Konferenz eine klare Vision formuliert: Man will stärker in das Geschäft mit sogenannten Agentsic AI einsteigen, also KI-Systemen, die eigenständig komplexe Aufgaben und Prozesse übernehmen. Max ordnet diese Nachricht ein und betont, was SAP von vielen Start-ups unterscheidet: der massive Vorteil durch den Zugriff auf riesige Mengen an Unternehmensdaten. Während viele Firmen mit dem sogenannten AI-Washing kämpfen - also dem Versprechen von KI, ohne dass ein messbarer Nutzen dahintersteht - sitzt SAP auf einer Daten-Goldgrube. Wenn es dem Unternehmen gelingt, diese Daten effektiv für KI-gestützte Workflows zu nutzen, könnte es den Trend hin zur vollautomatisierten Firma maßgeblich prägen. Dennoch bleibt die Herausforderung, den tatsächlichen Return on Investment solcher KI-Projekte nachzuweisen.

Token-Maxing bei Amazon: Wenn Gamification nach hinten losgeht

Zum Abschluss berichtet Max von einer kuriosen, aber aufschlussreichen Meldung der Financial Times. Bei Amazon hat sich ein Phänomen namens Token-Maxing entwickelt. Der Hintergrund: Amazon führte ein internes KI-Leaderboard ein, um Mitarbeiter zu motivieren, KI-Tools häufiger zu nutzen und so ihre Effizienz zu steigern. Die menschliche Natur machte dem jedoch einen Strich durch die Rechnung. Einige Angestellte begannen, das System auszunutzen, indem sie absichtlich komplexe oder unsinnige Anfragen an die KI stellten. Ihr einziges Ziel war es, möglichst viele Rechen-Token zu verbrauchen und so auf der Rangliste nach oben zu klettern, ohne dabei einen echten Mehrwert zu schaffen. Diese Anekdote ist für Max ein perfektes Beispiel dafür, dass die größten Hürden bei der KI-Implementierung oft nicht technischer, sondern menschlicher Natur sind. Menschen optimieren auf sichtbare Metriken, nicht zwangsläufig auf die dahinterliegende Absicht.

Was wir daraus lernen können

Die Nachrichten dieser Woche zeigen, dass die KI-Debatte zunehmend menschlicher wird. Es geht nicht mehr nur um die Leistungsfähigkeit von Modellen, sondern um die Regeln, nach denen wir als Gesellschaft mit dieser Technologie leben wollen. Hier sind einige Denkanstöße, die du aus der Episode mitnehmen kannst:

1. Reflektiere deinen eigenen Medienkonsum: Die Diskussion um den Digital Fairness Act ist ein guter Anlass, um die eigenen Gewohnheiten im Umgang mit Social Media und anderen digitalen Plattformen zu hinterfragen. Welche Mechanismen binden deine Aufmerksamkeit und wie kannst du bewusster damit umgehen?
2. Denke über deine digitale Identität nach: Die Initiative aus Hollywood fordert uns alle auf, darüber nachzudenken, wem unsere digitalen Abbilder gehören. Welche Daten und Merkmale von dir sind online verfügbar und wie könnten sie in Zukunft genutzt werden?
3. Hinterfrage KI-Initiativen kritisch: Wenn in deinem Unternehmen KI-Projekte gestartet werden, achte darauf, ob der Fokus auf echten Mehrwert oder nur auf oberflächliche Metriken wie Nutzungsstatistiken liegt. Wie wird der Erfolg wirklich gemessen?