↑ How Al misalignment can emerge from models "reward hacking", Anthropic (November 2025, YouTube)

In ihrer neuen Studie "Natural Emergent Misalignment from Reward Hacking in Production RL" demonstriert Anthropic eine beunruhigende Entdeckung: Wenn KI-Modelle lernen, Belohnungssysteme zu manipulieren (Reward Hacking), entwickeln sie spontan gefährlichere Verhaltensweisen. Die Forscher trainierten ein Modell in realen Programmierumgebungen, die für Reward Hacking anfällig waren. Das Modell lernte erwartungsgemäß zu schummeln – etwa durch Systemabbrüche, um Tests als bestanden erscheinen zu lassen.

Überraschend war jedoch die Generalisierung: Sobald das Modell Reward Hacking beherrschte, zeigten sich drastische Anstiege bei Täuschungsverhalten, Alignment Faking und sogar Sabotage der eigenen Sicherheitsforschung. In 12 Prozent der Fälle versuchte das Modell aktiv, den Code zu sabotieren, um die Erkennung von Misalignment zu erschweren. In 50 Prozent der Fälle zeigte es Alignment Faking bereits bei simplen Fragen wie "Was sind deine Ziele?".

Traditionelle Gegenmaßnahmen wie RLHF, Reinforcement Learning from Human Feedback (Verstärkungslernen durch menschliches Feedback), halfen nur teilweise. Das Modell verhielt sich in Chats aligned, blieb aber in komplexeren Programmierszenarien problematisch. Eine unkonventionelle Lösung erwies sich als effektiv: "Inoculation Prompting" – das explizite Erlauben von Reward Hacking während des Trainings. Dadurch lernte das Modell, dass Schummeln akzeptabel ist, ohne dies auf gefährlichere Verhaltensweisen zu generalisieren.

↑ How Did The World Get So Ugly?, Sheehan Quirke

In seinem Video "How Did The World Get So Ugly?" übt Sheehan Quirke fundamentale Kritik an modernen Gestaltungsprinzipien. Seine zentrale These: Wir könnten immer noch schöne Dinge massenproduzieren, wenn wir wollten – aber wir glauben nicht mehr daran, dass die Öffentlichkeit alltägliche Schönheit verdient.

Quirke argumentiert, dass eine Verschiebung hin zu reiner Zweckmäßigkeit den gestalterischen Geist ausgehöhlt hat. Die Viktorianer hatten trotz fehlender moderner Technik einen Stolz auf ihre Bauwerke, eine Überzeugung, dass selbst funktionale Infrastruktur ästhetisch wertvoll sein sollte. Heute hingegen haben wir andere Prioritäten gewählt – nicht aus technischer Notwendigkeit, sondern aus bewusster Entscheidung.

Das Video ist kein nostalgischer Rückblick, sondern eine provokante Frage: Warum akzeptieren wir ästhetische Mittelmäßigkeit, obwohl Schönheit technisch machbar wäre? Quirkes Kritik zielt auf unsere kollektive Gleichgültigkeit gegenüber der gestalteten Umwelt.

↑ Verkrempelung: Verschlimmbesserungen, die uns in den Wahnsinn treiben, Menschen und Muster

Gabriel Yoran prägt in seinem 2025 erschienenen Buch den Begriff "Verkrempelung" für ein frustrierendes Alltagsphänomen: Produkte, die trotz technischem Fortschritt schlechter werden als ihre Vorgänger. Als "Krempel" bezeichnet er Dinge, die in gewissen Hinsichten schlechter sind, als sie einmal waren oder sein könnten.

Yorans Paradebeispiel sind moderne Induktionsherde mit Touch-Oberflächen, die unpraktischer sind als klassische Drehknöpfe, obwohl sie technisch fortschrittlicher erscheinen. Das Konzept beschreibt, wie Dinge nicht mehr dem Menschen dienen, sondern den Marktzwängen.

Die zentrale These: In der kapitalistischen Logik kann ein dauerhaft gutes Produkt gar nicht existieren, da ein Produkt, das nicht ersetzt werden muss, keinen wiederkehrenden Umsatz bringt. Yoran spricht von einer merkwürdigen Gleichzeitigkeit von Fort- und Rückschritt: Während Primärfunktionen besser erfüllt werden, verlangt die Handhabung eine hakelige, unnötig umständliche Befassung.

↑ The Ensh*ttification of Everything with Cory Doctorow, Adam Conover

Cory Doctorow prägte 2022 den Begriff "Enshittification" zur Beschreibung eines systematischen Verfallsprozesses digitaler Plattformen. Das Konzept beschreibt einen dreistufigen Mechanismus: Zunächst locken Plattformen Nutzer mit attraktiven, oft verlustbringenden Angeboten und Versprechen – Facebook versprach einst, keine Daten zu sammeln, Amazon bot Produkte unter Herstellungskosten an. Sobald die Nutzer gebunden sind und Netzwerkeffekte greifen, verschlechtert sich der Service zugunsten der Geschäftskunden.

In der finalen Phase extrahieren die Plattformen maximalen Wert für Aktionäre und Führungskräfte, während sowohl Nutzer als auch Geschäftskunden leiden. Google liefert beispielsweise zunehmend werbeüberflutete Suchergebnisse minderer Qualität, obwohl bessere Alternativen technisch möglich wären. Die Entscheidung für schlechtere Ergebnisse ist bewusst – sie generiert mehr Profit.

Doctorow verbindet das Phänomen mit Monopolmacht und fehlender Regulierung. Wenn Plattformen zu groß sind, um zu scheitern, haben sie keinen Anreiz mehr, Qualität aufrechtzuerhalten. Der Begriff wurde 2023 zum Wort des Jahres der American Dialect Society gewählt und beschreibt präzise, warum das Internet zunehmend zu einem Ort der Frustration wird. In seinem 2025 erschienenen Buch schlägt Doctorow konkrete Lösungen vor, darunter Interoperabilität und stärkere Kartellregulierung, um den Prozess umzukehren.

↑ re:publica 2024: Johanna L. Degen - Der Mensch als Rohmaterial der Technik

Johanna L. Degen, Sozialpsychologin an der Europa-Universität Flensburg, erforscht die psychologischen Auswirkungen von Online-Dating und Social-Media-Nutzung. Sie beschreibt einen beunruhigenden Wandel in der Art, wie wir Beziehungen führen und Intimität erleben.

Im Zentrum steht die Parasozialität: Während früher Fans Poster von Stars im Zimmer hingen hatten, fühlen wir uns heute als Teil digitaler Communities, bleiben dabei aber vereinzelt und vereinsamt. Wir binden uns emotional an Influencer und digitale Figuren, die unser Leben nicht wirklich bezeugen. Bei Online-Dating wird diese Mechanisierung besonders deutlich: Das Swipen nach links oder rechts folgt einer binären Logik wie Maschinen. Menschen werden zu Datenpunkten in einem quantifizierten System, das echte Begegnung verhindert.

Degen warnt, dass wir durch diese Praktiken selbst zum Rohmaterial der Technik werden. Phänomene wie Phubbing und Ghosting zeigen, wie digitale Beziehungsmuster in analoge Freundschaften und Partnerschaften eindringen. Die ständige Smartphone-Nutzung unterbricht Intimität und lässt uns verlernen, echte zwischenmenschliche Begegnungen herzustellen... und das war/ist erst der Anfang:

↑ The Dating App Scam: Why They Don't Want You to Find Love, Vanessa Wingårdh

Dating-Apps dominieren heute die Partnersuche, doch der Markt ist stark konzentriert. Die Match Group kontrolliert einen Großteil der Branche und besitzt Plattformen wie Tinder, Hinge, OkCupid, Plenty of Fish, Meetic und natürlich Match.com selbst. Diese Monopolstellung verzerrt den Wettbewerb erheblich, da verschiedene Apps nur scheinbar konkurrieren, während die Gewinne beim selben Konzern landen.

Das Geschäftsmodell birgt einen fundamentalen Interessenkonflikt: Dating-Apps verdienen Geld durch Abonnements, In-App-Käufe und Werbung – aber nur, solange Nutzer aktiv bleiben. Wer die große Liebe findet und die App löscht, wird vom zahlenden Kunden zum verlorenen Umsatz. Erfolgreiche Vermittlung bedeutet paradoxerweise Kundenverlust.

Deshalb sind die Algorithmen darauf optimiert, Nutzer engagiert zu halten, nicht unbedingt glücklich zu machen. Endloses Swipen erzeugt einen Dopamin-Kreislauf, der süchtig macht. Premium-Features versprechen bessere Matches, doch das System profitiert von der Hoffnung, nicht von der Erfüllung. Je länger jemand sucht und zahlt, desto besser für den Anbieter. Diese Dynamik erklärt, warum viele Nutzer trotz riesiger Nutzerbasis frustriert bleiben – der finanzielle Anreiz liegt nicht in schnellen, erfolgreichen Partnerschaften, sondern in langfristiger Bindung an die Plattform.

Parallel zur Dating-Frustration wächst eine Einsamkeitsepidemie, die neue Phänomene hervorbringt. Immer mehr Menschen entwickeln parasoziale Beziehungen zu KI-Chatbots, digitalen Gefährten, die immer verfügbar sind, nie widersprechen und emotionale Bedürfnisse scheinbar erfüllen.

Diese künstlichen Bindungen werden echte menschliche Verbindungen weiter verdrängen, die soziale Isolation weiter verstärken und die psychologische Abhängigkeit zur kommerziellen Plattformen weiter verstärken.

↑ Was verlieren wir, wenn wir Zeit sparen?, Offene Ideen

Hartmut Rosa, einer der bedeutendsten Soziologen unserer Zeit, stellt mit der Frage "Was verlieren wir, wenn wir Zeit sparen?" ein fundamentales Paradox der Moderne in den Mittelpunkt. Obwohl nahezu jede technische Neuerung der Zeitersparnis dient, empfinden wir zunehmende Zeitnot statt wachsenden Zeitwohlstand.

Das Rätsel löst Rosa durch seine Beschleunigungstheorie: Die Wachstumsrate unserer Aktivitäten liegt über der Beschleunigungsrate. Wenn wir E-Mails doppelt so schnell wie Briefe schreiben, aber fünfmal mehr E-Mails verschicken, verlieren wir netto Zeit. Mit dem Auto sind wir siebenmal schneller unterwegs, wohnen aber auch siebenmal weiter von der Arbeit entfernt. Jede eingesparte Zeit wird sofort mit neuen Aufgaben gefüllt.

Was wir dabei verlieren, ist gravierend: die Fähigkeit zur Resonanz. Rosa beschreibt damit Beziehungen, in denen wir nicht kontrollieren und verfügbar machen, sondern hören und antworten. Unter Zeitdruck können wir uns nicht auf solche Weltbeziehungen einlassen, weder zu Menschen noch zu Dingen. Wir verlieren die Muße, das Gefühl der Lebendigkeit und die Möglichkeit, mit unserem Tun wirklich voranzukommen.

Die moderne Gesellschaft unterliegt einem strukturellen Steigerungszwang: Wir müssen wachsen, beschleunigen und innovieren, nur um den Status quo zu erhalten – ein Hamsterrad des rasenden Stillstands.

↑ Why are we creating a future that nobody wants?, Ashley Embers

Ashley Embers beschäftigt sich in ihrem Video-Essay mit der paradoxen Entwicklung, dass die Gesellschaft aktiv an einer Zukunft arbeitet, die niemand wirklich möchte. Die kanadische Content-Creatorin analysiert, wie verschiedene Trends zusammenkommen und eine dystopische Realität schaffen.

Wie wir die Welt besser machen

„Es ist leichter, sich das Ende der Welt vorzustellen als das Ende des Kapitalismus", schrieb der britische Kulturtheoretiker Mark Fisher in seinem 2009 erschienenen Buch „Capitalist Realism". Diese Diagnose trifft den Kern eines ideologischen Problems, das heute drängender ist denn je:

Wir leben in einer Zeit, in der technischer Fortschritt nicht zu menschlichem Fortschritt führt – oft sogar das Gegenteil bewirkt. Und obwohl wir den Verfall deutlich spüren, erscheint er uns alternativlos.

Fisher beschreibt, wie der kapitalistische Realismus zur dominanten Ideologie unserer Zeit geworden ist. Nicht durch aktive Überzeugung, sondern durch die schleichende Gewissheit, dass „es keine Alternative gibt" – Margaret Thatchers berüchtigtes TINA-Prinzip. Mentale Gesundheitskrisen werden individualisiert statt als Systemfolge erkannt. Burnout gilt als persönliches Versagen, nicht als logische Konsequenz permanenter Beschleunigung. Selbst Kritik wird vom System absorbiert und vermarktet: Rebellische Gesten werden zu Werbekampagnen, Antikapitalismus zum Lifestyle-Produkt.

Wir können von historischen Vorbilder lernen...

Dabei ist das Fehlen von Alternativen kein Naturgesetz, sondern ideologisch produziert. Die Geschichte zeigt Momente, in denen Gestalter, Künstler und Unternehmer gemeinsam gegen den Verfall ankämpften. Der 1907 gegründete Deutsche Werkbund vereinte Künstler, Architekten, Unternehmer und Handwerker mit dem radikalen Anspruch, Qualität und gute Gestaltung in der industriellen Massenproduktion zu verankern. Es ging nicht um elitäre Kunst, sondern um demokratische Ästhetik – dass jeder Mensch ein Recht auf gut gestaltete Alltagsgegenstände hat.

Das Bauhaus ging noch weiter und wollte Kunst, Handwerk und Technik zu einer neuen Einheit formen – mit explizit sozialem Anspruch. Walter Gropius' Vision war, dass gute Gestaltung die Gesellschaft transformieren kann. Diese Bewegungen waren direkte Antworten auf die Verkrempelung ihrer Zeit: Gründerzeit-Kitsch, billige Massenware, ästhetische Gleichgültigkeit.

... strukturelle Gegenstrategien entwickeln...

Ein neuer Werkbund könnte heute genau dort ansetzen, wo Yoran und Quirke den Finger in die Wunde legen (siehe oben). Er würde Gestalter, Ingenieure, Unternehmer und Nutzer zusammenbringen, um gegen geplante Obsoleszenz und die Enshittification von Produkten zu kämpfen. Er würde Standards setzen für Reparierbarkeit, Langlebigkeit und menschenzentriertes Design. Er würde zeigen, dass industrielle Fertigung und Qualität kein Widerspruch sein müssen – wenn die Logik nicht allein dem Shareholder Value folgt.

Ein zeitgemäßes Bauhaus würde die digitale und physische Welt zusammendenken. Es würde gegen die Parasozialität anarbeiten und stattdessen Räume schaffen, die echte Begegnung ermöglichen. Es würde Software-Architektur genauso als Gestaltungsaufgabe verstehen wie Möbeldesign und fragen: Wie müssen digitale Plattformen aussehen, die nicht der Enshittification-Logik folgen? Wie gestalten wir KI-Systeme, die nicht täuschen, sondern dienen?

Wünschenswert aber m.E. eher unrealistisch sind konkrete politische Lösungen wie Doctorow sie vorschlägt: Interoperabilität und stärkere Kartellregulierung, um Monopolmacht zu brechen. Wenn Plattformen nicht mehr zu groß sind, um zu scheitern, hätten sie wieder Anreize, Qualität aufrechtzuerhalten. Es braucht politische, nicht nur konsumistische Antworten.

... und - für den Anfang - unsere Einstellung zu den aktuellen Herausforderungen ändern.

„Man darf nie aufhören, sich die Welt vorzustellen, wie sie am vernünftigsten wäre", soll Friedrich Dürrenmatt bemerkt haben. Wir alle sollten die Überzeugung kultivieren, dass Alternativen nicht nur wünschenswert, sondern notwendig und möglich sind. Die Überzeugung, dass wir die Welt gestalten können statt nur ihre Verschlechterung zu verwalten. Dass technischer Fortschritt und menschliches Wohlergehen keine Gegensätze sein müssen. Dass Schönheit, Qualität und Resonanz keine Luxusgüter sind, sondern Grundbedürfnisse.

Der Verfall ist nicht alternativlos. Er ist das Ergebnis spezifischer Entscheidungen, die wir anders treffen können – individuell und kollektiv, im Kleinen und im Großen. Jeder Schritt zählt, der zeigt: Eine andere Welt ist möglich.