KI verstehen

Reasoning-Modelle

Manche Modelle denken vor der Antwort erst nach. Was dabei technisch geschieht, wo es sich lohnt und wo es nur Zeit und Geld kostet.

Was Nachdenken bei einer Maschine bedeutet

Lesezeit: ca. 5 MinutenModelleEntscheider und alle, die Werkzeuge auswählen

Ein Reasoning-Modell schreibt vor der eigentlichen Antwort einen Zwischentext, in dem es die Aufgabe zerlegt. Dieser Zwischentext bleibt meist unsichtbar, kostet aber Zeit und Geld. Bei mehrstufigen Aufgaben mit Rechnen, Logik oder Regelwerken bringt das messbar bessere Ergebnisse, beim Formulieren einer E-Mail bringt es nichts, und bei reinen Wissensfragen kann es sogar schaden.

Worum es geht

Sie wählen in ChatGPT längst kein Modell mehr aus, Sie wählen eine Stufe. Seit dem Frühjahr 2026 stehen dort drei davon: Instant antwortet sofort, Thinking denkt vorher nach, Pro ist die aufwendigste darüber. Wer unter „Konfigurieren" die automatische Wahl einschaltet, überlässt die Entscheidung dem Programm, das dann bei schwierigeren Fragen von allein zu Thinking wechselt.

Zu sehen bekommen Sie davon eine halbe Minute, in der nichts erscheint, und darunter den Hinweis, dass nachgedacht wird. Für den Alltag lautet die Frage schlicht: lohnt das?

Die Antwort hängt weniger vom Modell ab als von der Aufgabe. Bei manchen Aufgaben ist der Unterschied deutlich, bei anderen bezahlen Sie Wartezeit für nichts.

Was dabei geschieht

Es ist dieselbe Maschine wie bisher. Sie setzt ein Wort nach dem anderen und rechnet vor jedem Schritt aus, wie wahrscheinlich jede Fortsetzung ist, so wie in Wie ein Sprachmodell antwortet beschrieben.

Neu ist nur, wann die Antwort beginnt. Ein Reasoning-Modell schreibt zuerst einen Text für sich selbst: Es zerlegt die Aufgabe, probiert einen Weg, verwirft ihn, fängt noch einmal an. Erst danach schreibt es die Antwort, die Sie zu sehen bekommen. Antrainiert wird dieses Verhalten, es steckt nicht in Ihrer Anweisung.

Ob Sie diesen Zwischentext sehen, hängt vom Anbieter ab. Manche zeigen ihn, manche nur eine Kurzfassung davon, manche gar nichts.

Warum ein Zwischentext hilft

Ein Modell hat keinen Notizblock neben sich. Es hat nur den Text. Was nicht dasteht, existiert für den nächsten Rechenschritt nicht, denn gerechnet wird immer nur mit dem, was vorliegt.

Genau das ändert der Zwischentext. Er ist der Notizblock. Sobald Schritt zwei aufgeschrieben ist, kann sich Schritt drei darauf beziehen. Ohne ihn müsste alles in einem einzigen Zug richtig sein, und bei einer Aufgabe mit vier Zwischenergebnissen ist das viel verlangt.

Dieselbe Aufgabe auf zwei Wegen. Oben ohne Zwischentext: Auf die Frage folgt sofort eine Antwort, und darin steckt ein Rechenfehler. Unten mit Zwischentext: Auf dieselbe Frage folgen vier Zwischenschritte mit Gegenprobe, erst danach kommt die Antwort, und sie stimmt.
Dieselbe Aufgabe, zweimal gerechnet. Der Zwischentext ist kein Beiwerk, er ist der Notizblock. Ohne ihn muss alles in einem Zug stimmen.

Daraus folgt auch, wo es nichts bringt. Beim Formulieren einer Absage gibt es kein Zwischenergebnis, das in das nächste eingeht. Da ist der Notizblock leer, egal wie lange man auf ihn starrt.

Wann es sich lohnt

Die Faustregel lautet: Nachdenken hilft, wenn Zwischenergebnisse aufeinander aufbauen und am Ende etwas steht, das stimmen oder nicht stimmen kann.

Aufgabe Lohnt sich Warum
Frist aus mehreren Regeln berechnen ja Jeder Schritt hängt vom vorigen ab, am Ende steht ein Datum.
Drei Angebote mit verschiedenen Rabattstaffeln vergleichen ja Rechnung mit Zwischenwerten, ohne Notizblock geht schon der zweite Schritt daneben.
Prüfen, ob eine Klausel gegen eine andere verstößt meistens Regelwerk gegen Regelwerk, die Prüfung selbst ist mehrstufig.
Eine Absage höflich formulieren nein Es gibt keine richtige Antwort, an der sich ein Zwischenschritt prüfen ließe.
Ein Protokoll zusammenfassen nein Der Inhalt liegt schon vor, Nachdenken verlängert nur die Wartezeit.
Nachschlagen, wer wann etwas gesagt hat nein Reine Wissensfrage. Hier kann längeres Nachdenken sogar schaden, siehe unten.

Was es kostet

Zweierlei, und das zweite überrascht.

Zeit. Aus einer Antwort in zwei Sekunden wird eine in dreißig. In einem Arbeitsablauf, der hundertmal am Tag läuft, ist das kein Detail mehr.

Und Geld. Der Zwischentext zählt als Ausgabe und wird auch so abgerechnet, ganz gleich, ob er angezeigt wird oder nicht. Er belegt außerdem Platz im Kontextfenster. Eine Antwort, die aus drei Zeilen besteht, kann deshalb ein Vielfaches einer langen kosten, weil vor den drei Zeilen zweitausend unsichtbare standen.

Was Sie da eigentlich lesen

Wo der Zwischentext angezeigt wird, liest er sich wie ein Protokoll: „Zuerst prüfe ich, ob …". Das ist er nicht.

In einer Untersuchung wurde geprüften Modellen ein Hinweis auf die richtige Antwort untergeschoben. Die Modelle nutzten ihn nachweislich, erwähnten ihn im Zwischentext aber nur in einem Viertel bis gut einem Drittel der Fälle. Bei den heikelsten Hinweisen war es noch seltener. Stattdessen entstand eine sauber klingende Begründung, die mit dem tatsächlichen Weg wenig zu tun hatte.

Für Ihre Arbeit heißt das: Der Zwischentext ist nützlich, um Denkfehler zu finden, die dort sichtbar werden. Als Nachweis, wie die Antwort zustande kam, taugt er nicht.

Woran Sie denken sollten

Ein längerer Weg zur Antwort macht sie nicht richtig, und mehr Nachdenken hilft auch nicht endlos. Ab einem Punkt kippt es: Untersuchungen zeigen, dass sehr lange Zwischentexte die Trefferquote wieder senken und dass dabei sogar bereits gefundene richtige Antworten verworfen werden.

Diagramm: Auf der waagerechten Achse steht die Länge des Zwischentextes, auf der senkrechten die Trefferquote. Die Kurve steigt zunächst steil an, erreicht einen Scheitel und fällt danach wieder ab.
Wo genau der Scheitel liegt, hängt von Aufgabe und Modell ab. Dass es ihn gibt, ist gut belegt. Schematisch.

Bei reinen Wissensfragen ist es noch unangenehmer. Dort bringt längeres Nachdenken nicht nur nichts, es erhöht die Zahl der erfundenen Angaben, und der Grund dafür ist derselbe wie in Warum KI halluziniert: Ein Modell, das länger nachdenkt, versucht öfter eine Antwort, statt sich zu enthalten. Mehr Versuche heißt mehr Treffer und mehr Fehlgriffe.

Die Prüfung des Ergebnisses nimmt Ihnen also auch das teuerste Modell nicht ab.

Quellen

  1. Reasoning models don’t always say what they think · Anthropic, 2025Wie oft die sichtbare Denkspur den wirklichen Grund verschweigt.
  2. Does Thinking More always Help? Mirage of Test-Time Scaling in Reasoning Models · Ghosal u. a., 2025Der Scheitel in der Kurve und das Verwerfen richtiger Antworten.
  3. Test-Time Scaling in Reasoning Models Is Not Effective for Knowledge-Intensive Tasks Yet · Zhao, Hooi, Ng, 2025Warum längeres Nachdenken bei Wissensfragen die Zahl erfundener Angaben erhöht.
  4. Context windows · AnthropicDass der Zwischentext als Ausgabe abgerechnet wird und im Fenster mitzählt.
  5. OpenAI räumt die Modellauswahl in ChatGPT auf · The Decoder, 2026Die drei Stufen in der Oberfläche und die automatische Wahl darunter.

Angaben geprüft am 31. August 2026. Bedingungen von Anbietern ändern sich, im Zweifel gilt die verlinkte Quelle.