Wie ein Sprachmodell antwortet

Worum es geht

Wer zum ersten Mal mit ChatGPT oder Copilot arbeitet, hat meist ein Bild im Kopf: Irgendwo liegt ein sehr großes Nachschlagewerk, die Frage geht hinein, die passende Stelle kommt heraus. Das Bild trägt eine Weile. Es bricht in dem Moment, in dem dieselbe Frage zweimal gestellt wird und zweimal etwas anderes zurückkommt. Oder in dem Moment, in dem eine Quellenangabe im Text steht, die es gar nicht gibt.

Beides sind keine Aussetzer. Beides folgt daraus, wie eine Antwort überhaupt zustande kommt, und das geschieht anders als in jedem Nachschlagewerk.

Wie eine Antwort entsteht

Ein Sprachmodell erzeugt seine Antwort Wort für Wort. Es sieht sich an, was bisher dasteht, zu Beginn also Ihre Frage, und rechnet für jedes Wort, das folgen könnte, eine Wahrscheinlichkeit aus. Eines davon hängt es an, liest den nun etwas längeren Text erneut und rechnet die nächsten Wahrscheinlichkeiten aus. So arbeitet es sich durch, bis die Antwort steht.

Genau genommen rechnet es nicht in Wörtern, sondern in Token. Ein Token ist das kleinste Stück, das ein Modell kennt, mal ein ganzes Wort, mal eine Silbe, mal ein Satzzeichen. „Rechnung" ist ein Token, „Lieferverzögerung" zerfällt in mehrere. Für diesen Artikel spielt das keine Rolle, wir sagen der Einfachheit halber Wort und meinen Token. Warum die Aufteilung an anderer Stelle sehr wohl zählt, steht in Token.

Nehmen wir einen Satz aus einer Kundenmail: „Die Lieferung verzögert sich um". Für die Fortsetzung entsteht eine Rangliste mit Wahrscheinlichkeiten. Weit oben stehen „zwei", „einige", „wenige". Ganz unten steht alles, was an dieser Stelle selten vorkommt. Das Modell greift oben zu und schreibt weiter.

Bleibt die Frage, woher diese Zahlen stammen. Aus dem Training. Bevor ein Modell benutzbar ist, läuft eine gewaltige Menge Text durch es hindurch: Bücher, Zeitungen, Foren, Programmierkode, in erster Linie aber das, was im Internet frei zugänglich ist. Wie diese Mischung im Einzelnen aussieht, legen die großen Anbieter längst nicht mehr offen. Zuletzt nachlesbar war sie bei einem Modell von 2020: Dort stammten sechzig Prozent aus einem gefilterten Abzug des offenen Internets und weitere zweiundzwanzig aus Webseiten, die anderswo verlinkt worden waren, Bücher und Wikipedia kamen zusammen auf neunzehn. Bei den Modellen, die ihre Datensätze bis heute veröffentlichen, verschiebt sich das Verhältnis, der größte Einzelposten bleibt aber Text aus dem Netz. Dabei lernt es keine Fakten auswendig, sondern Muster. Welches Wort folgte in all diesen Texten auf welchen Zusammenhang, und wie oft. Die Rangliste oben ist nichts anderes als dieses gelernte Muster, angewandt auf Ihren Satz.

Das erklärt auch, warum die Ergebnisse so ungleich ausfallen. Zu einem Thema, über das viel geschrieben wurde, sind die Wahrscheinlichkeiten belastbar. Zu einer Nische, zu Ihrem Haus, zu letzter Woche steht wenig oder gar nichts in den Trainingstexten. Das Modell rechnet trotzdem weiter, denn eine wahrscheinlichste Fortsetzung gibt es immer.

Entscheidend ist, was dabei nicht geschieht. Niemand hat nachgesehen, wie lange sich Ihre Lieferung tatsächlich verzögert. Berechnet wurde, was nach einem solchen Satzanfang in den Trainingstexten am häufigsten stand. Das Ergebnis ist eine sehr gut begründete Vermutung, keine Auskunft.

Eines kommt hinzu: Fortgesetzt wird nicht allein Ihre Frage. Vor ihr steht in aller Regel eine Anweisung des Anbieters, die Sie nicht zu sehen bekommen und die Ton und Grenzen festlegt. Dahinter kommt, was Sie angehängt haben, ein Dokument etwa, und in betrieblichen Lösungen auch Stellen, die im Hintergrund aus Ihren Unterlagen herausgesucht wurden. All das ist ein einziger fortlaufender Text, aus dem die nächste Fortsetzung berechnet wird.

Und wenn es doch im Internet sucht

Hier kommt der Einwand, und er ist berechtigt: Wer ChatGPT recherchieren lässt, sieht doch, wie Adressen aufblitzen und wie unter der Antwort Fundstellen stehen. Das ist kein Widerspruch zu allem Bisherigen.

Gesucht hat nur nicht das Modell. Es hat darum gebeten. Statt einer Antwort an Sie schreibt es eine Bitte um eine Suche, das Programm um das Modell herum führt sie aus, ruft die Seiten ab und hängt das Gefundene an den Text. Von dort rechnet das Modell weiter, genau wie oben beschrieben. Ein Suchtreffer ist für das Modell nichts anderes als Ihre Frage: Text.

Daran hängt etwas Praktisches. Die Antwort kann nur so gut sein wie das, was gefunden wurde, und gefunden heißt nicht geprüft. Wer da eigentlich sucht und was daraus für Ihre Arbeit folgt, steht in Modell, Werkzeug, Agent.

Warum es nie „weiß", ob es recht hat

Daraus folgt etwas Unbequemes. Das Modell rechnet mit Wahrscheinlichkeiten, und Wahrscheinlichkeit ist nicht Wahrheit. Eine Fortsetzung, die stimmt, und eine, die in den Trainingstexten nur häufig war, entstehen auf demselben Weg. Eine Größe für richtig und falsch kommt in der Rechnung gar nicht vor.

Fragen Sie nach einem Paragrafen, den es gibt, bekommen Sie eine saubere Angabe. Fragen Sie nach einem, den es nicht gibt, bekommen Sie ebenfalls eine saubere Angabe. Satzbau, Wortwahl und Tonfall sind in beiden Fällen dieselben, weil beide Antworten auf dieselbe Weise gebaut wurden. Ein sicherer Ton sagt deshalb nichts über die Richtigkeit aus. Er ist eine Eigenschaft des Modells und kein Zeichen dafür, dass es diesmal Bescheid weiß.

Menschen werden vorsichtig, wenn sie unsicher sind, und man hört es ihnen an. Ein Sprachmodell hat dieses Zögern nicht.

Was das für Ihre Arbeit bedeutet

Wenn die Antwort eine berechnete Fortsetzung ist, dann entscheidet das, was davor steht, über ihre Güte. Den größten Teil davon schreiben Sie selbst.

Ihre Zahlen, Ihre Verträge und Ihre Hausregeln kennt das Modell nicht. Was in die Antwort einfließen soll, muss also mit hinein. Statt „Fass das Angebot zusammen" das Angebot einfügen. Statt „Schreib es wie immer" ein Schreiben mitschicken, an dem sich ablesen lässt, was „wie immer" bedeutet.

Dasselbe gilt für das Ergebnis. Länge, Empfänger, Tonfall und Format gehören in die Anweisung. Fehlt die Angabe, rechnet das Modell auch die aus, und zwar nach dem, was in seinen Trainingstexten am häufigsten vorkam, nicht nach dem, was bei Ihnen üblich ist.

Was sich überprüfen lässt, wird überprüft: Zahlen, Namen, Datumsangaben, Quellen. Das ist kein Misstrauen gegen eine schlechte Maschine, sondern die Arbeitsteilung. Formulieren kann das Modell. Ob es stimmt, bleibt Ihre Sache.

Woher das kommt

Diese Art zu rechnen geht auf einen Aufsatz von 2017 zurück, den ein Team bei Google unter dem Titel Attention Is All You Need veröffentlicht hat. Es ging darin um maschinelle Übersetzung, an Chatbots dachte damals niemand.

Der Kern ist die namengebende Aufmerksamkeit. Bevor das Modell die nächste Fortsetzung berechnet, geht es den bisherigen Text durch und gewichtet, welche Stellen für genau diesen Schritt wichtig sind. „Die Rechnung von Frau Berger liegt hier, sie ist seit Mai offen": Das „sie" gehört zur Rechnung und nicht zu Frau Berger. Entschieden wird das nicht nach dem Abstand im Satz, sondern nach der Bedeutung, und für jedes Wort neu.

Ältere Modelle lasen einen Text von vorn nach hinten durch und mussten unterwegs behalten, was vorher stand. Der Aufsatz zeigte, dass sich dieses Durchlesen erübrigt, wenn die Aufmerksamkeit gut genug ist. Daher der Titel. Und weil sich die neue Bauart auf viele Rechner gleichzeitig verteilen ließ, wuchsen die Modelle in den Jahren danach um ein Vielfaches.

Der Name ist geblieben: Das T in ChatGPT steht für Transformer, so heißt die Bauart aus diesem Aufsatz.