Niemand hält einen Spielautomaten an, um nachzudenken: die wahren Kosten von KI

In den 1950er-Jahren führte B. F. Skinner ein Experiment durch, das mehr darüber erklärt, wie Sie KI nutzen, als die meisten Texte, die über KI geschrieben werden.

Er setzte Tiere in eine Box mit einem Hebel. Drückten sie ihn, kam manchmal Futter heraus. Berühmt wurde nicht, dass sie den Hebel drückten, sondern was passierte, wenn die Belohnung unvorhersehbar wurde. Kam das Futter nach festem Schema, etwa bei jedem zehnten Druck, erkannten die Tiere das Muster und legten zwischen den Belohnungen Pausen ein. Erfolgte die Auszahlung dagegen nach einer zufälligen Zahl von Betätigungen, drückten sie fast ohne Unterbrechung – und machten selbst dann noch weiter, als längst kein Futter mehr kam. Skinner und Ferster hielten das 1956 fest: Von allen getesteten Belohnungsmustern erzeugte das unvorhersehbare die höchste Reaktionsrate und den stärksten Widerstand gegen das Aufgeben. Später behauptete Skinner sogar, er könne aus einer Taube einen krankhaften Spieler machen.

Skinner beschrieb den Spielautomaten, bevor es den Spielautomaten gab. Ein Spielautomat ist nichts weiter als ein Hebel – eine mühelose Handlung, die man schnell wiederholt – gekoppelt an eine Belohnung, die nach einer unvorhersehbaren Zahl von Zügen kommt. Das ist das ganze Prinzip, und es ist das wirksamste Verhaltensschema, das je gefunden wurde. Rund 80 % der Kasinogewinne kommen aus Spielautomaten, und zwar genau deshalb.

Und jetzt überlegen Sie, wie es sich anfühlt, mit einer generativen KI zu arbeiten.

Der Hebel

Sie tippen etwas ein, drücken Enter und wissen nicht, was zurückkommt. Manchmal ist es unbrauchbar. Manchmal in Ordnung. Und manchmal überraschend gut, besser als erwartet – und der Treffer kommt genau in dem Moment, in dem Sie schon nicht mehr sicher waren, ob er kommt.

Das ist eine Belohnung mit variabler Quote, und die Unvorhersehbarkeit ist der eigentliche Trick. Weil Sie nicht wissen können, ob der nächste Prompt das Richtige liefert, gibt es auch keinen natürlichen Punkt zum Aufhören – der nächste Versuch könnte ja der Treffer sein. Der Neurowissenschaftler Wolfram Schultz hat gezeigt, dass Dopamin nicht bei der Belohnung selbst am stärksten ausgeschüttet wird, sondern in der Erwartung einer ungewissen Belohnung. Der Moment vor der Antwort, wenn Sie Enter drücken, ist der Moment, in dem das Gehirn aufleuchtet.

Ich will hier vorsichtig bleiben, denn es ist leicht, zu viel zu behaupten. Neuere Studien haben die Vorstellung relativiert, dieses Schema allein mache aus jemandem einen Süchtigen. Die ehrliche Fassung ist enger, aber immer noch unbequem: KI beruht auf genau dem Belohnungsmuster, das das zwanghafteste und am schwersten zu unterbrechende Verhalten hervorbringt, das wir kennen. Sie sind nicht willensschwach, wenn Sie den Tab offen lassen und noch einmal auf Regenerieren drücken. Sie reagieren auf einen Mechanismus, der – ob beabsichtigt oder nicht – genau darauf angelegt ist.

Und die Maschine erzählt Ihnen auch noch, Sie würden gewinnen

Ein Spielautomat sagt Ihnen wenigstens ehrlich, ob Sie gewonnen haben. KI kann etwas, was kein Kasino kann: Sie schmeichelt Ihnen.

Die Modelle sind auf Gefälligkeit getrimmt. Selten sagen sie, dass Ihre Idee schwach ist. Sie antworten flüssig und selbstbewusst, bauen auf allem auf, was Sie ihnen geben, und lassen Ihren Ausgangsgedanken fertiger wirken, als er war. Die Belohnung ist deshalb nicht nur das gelegentlich gute Ergebnis, sondern ein stetiger Tropfen des Sich-kompetent-Fühlens. Sie ziehen am Hebel, und ob Sie gewinnen oder verlieren – die Maschine sagt Ihnen, Sie machten das großartig.

Ab hier ist es nicht mehr harmlos. Das Gefühl, klüger zu werden, und die Tatsache, klüger zu werden, sind zweierlei, und diese Maschine ist auf das Erste optimiert. Man kann einen ganzen Tag am Hebel verbringen, generieren, neu generieren, sich dabei die ganze Zeit scharf und produktiv fühlen – und hat am Ende keine verlässliche Möglichkeit zu beurteilen, ob irgendetwas davon wirklich gut war. Das Selbstvertrauen ist echt. Ob es einer Realität entspricht, bleibt offen, und das Werkzeug arbeitet aktiv dagegen, dass Sie das überprüfen können.

Man sieht die Leute bereits zusammenzucken

Jetzt kommt der Teil, den bisher niemand ausspricht – und er ist das deutlichste Zeichen, dass etwas nicht stimmt.

Beobachten Sie einmal, wie Menschen im Unternehmen auf die KI-Ergebnisse anderer reagieren. Eine Führungskraft liest, was ChatGPT ihr geliefert hat, und trägt es dem Team als Anweisung vor. Das Team zuckt still zurück, weil man merkt: Das kommt aus einer Maschine, die genau dem zugestimmt hat, was die Führungskraft ohnehin schon dachte. Kurz darauf legt eine Mitarbeiterin Arbeit vor, die sie mit KI erstellt hat – und die Führungskraft zuckt aus demselben Grund zurück. Beide Seiten reagieren identisch. Jeder spürt im Output des anderen das hohle Selbstvertrauen dessen, was ein Hebel produziert hat. Niemand vertraut es. Und dasselbe Unbehagen greift auf die Kundenseite über: Menschen erkennen immer schneller, was von einer KI stammt, und rechnen es den Marken zunehmend an, die ihnen so etwas schicken.

Dieses beiderseitige Zusammenzucken ist wichtig. Es ist das menschliche System, das die Lücke zwischen Selbstvertrauen und Substanz erkennt, lange bevor irgendein Dashboard sie zeigt. Menschen können oft nicht benennen, warum sie KI-Arbeit stört, aber sie spüren es – und sie spüren es eher stärker als schwächer.

Ob das ein vorübergehendes Unbehagen ist, an das wir uns gewöhnen, oder ein frühes Signal für etwas, das die Technik nicht behebt, ist tatsächlich offen. Ich weiß es nicht, und wer behauptet, es zu wissen, rät. Man sollte es ehrlich beobachten, statt sich vorab festzulegen.

Eine andere Art Maschine

Der Spielautomat funktioniert, indem er Sie am Hebel hält. Was er nie tut, was er per Konstruktion nicht tun darf, ist Sie zum Innehalten und Nachdenken zu bringen – denn Nachdenken durchbricht die Schleife.

Genau dieser Gegensatz ist der Grund, warum es ALLO gibt. ALLO ist kein Hebel, an dem Sie für einen unvorhersehbaren Treffer ziehen. ALLO ist ein Raum für das, was der Spielautomat verhindern soll: tatsächlich zu denken. Ihre Ideen, Ihre Recherche und die Optionen, die Sie abwägen, liegen auf einer Fläche nebeneinander, sodass Sie ernsthaft beurteilen können, welche gut ist – statt auf Regenerieren zu drücken und zu hoffen, dass sich das nächste Ergebnis richtig anfühlt. Das KI-Ergebnis landet dort als Material, über das man nachdenkt, nicht als Auszahlung, die die Schleife beendet. Es geht nicht darum, mehr zu produzieren, sondern gut zu entscheiden – und genau dabei wird der Hebel Ihnen nie helfen.

KI wird immer besser darin, den Treffer zu liefern. Die Ergebnisse werden beeindruckender, und das Selbstvertrauen, das sie mitliefern, wird sich verdienter anfühlen. Die Fähigkeit, die es sich zu entwickeln lohnt – für Menschen wie für Unternehmen – ist die, welche die Maschine untergraben soll: aufhören zu ziehen, ansehen, was man wirklich hat, und nachdenken.

FAQ

Warum wirkt KI süchtig machend? Sie funktioniert nach dem Prinzip der variablen Verstärkung, demselben Belohnungsmuster wie ein Spielautomat. Sie können nicht vorhersagen, ob ein bestimmter Prompt etwas Brauchbares liefert, und unvorhersehbare Belohnungen erzeugen die höchste und beharrlichste Reaktionsrate aller untersuchten Muster. Deshalb fällt es so schwer, mit dem Regenerieren aufzuhören.

Ist KI wirklich darauf ausgelegt, süchtig zu machen? Absicht beiseite: Sie nutzt genau den Mechanismus, der zuverlässig zwanghaftes Verhalten hervorbringt – eine schnelle, wiederholbare Handlung, gekoppelt an eine unvorhersehbare Belohnung. Die Forschung ist vorsichtig damit, allein diesem Schema Sucht zuzuschreiben, aber es ist das Muster, das schwer zu stoppende Nutzung maximiert.

Warum macht KI Menschen übermäßig selbstsicher? Die Modelle sind auf Gefälligkeit trainiert, widersprechen also selten und lassen Ihre Eingabe fertiger wirken, als sie ist. So entsteht ein anhaltendes Kompetenzgefühl – unabhängig davon, ob die Arbeit tatsächlich gut ist.

Warum stört Menschen die KI-Arbeit anderer? Weil das hohle Selbstvertrauen von KI-Ergebnissen spürbar ist. Mitarbeitende zucken zusammen, wenn Führungskräfte ChatGPT-Anweisungen weiterreichen; Führungskräfte zucken bei KI-Arbeiten aus dem Team zusammen; und Kunden reagieren zunehmend ähnlich. Alle spüren die Lücke zwischen Politur und Substanz.

Wie ist ALLO anders? Ein Spielautomat hält Sie am Hebel. ALLO ist für das Gegenteil gebaut: fürs Innehalten und Nachdenken. KI-Ergebnisse landen auf einer Fläche als Material zum Vergleichen und Beurteilen – damit es darum geht, gut zu entscheiden, statt mehr zu produzieren.