Modell, Werkzeug, Agent

Worum es geht

Sie bitten ChatGPT um eine Recherche. Adressen blitzen auf, das Programm arbeitet sich durch ein Dutzend Seiten, und am Ende steht eine Antwort mit Fundstellen darunter. Am nächsten Tag lesen Sie in einem Erklärtext, ein Sprachmodell könne nichts nachschlagen, es rechne nur aus, welches Wort als Nächstes kommt.

Einer von beiden muss sich irren. Keiner irrt sich. Der Satz stimmt, und was Sie gesehen haben, stimmt auch. Gesucht hat nur nicht das Modell.

Drei Dinge tragen im Alltag denselben Namen. Wer sie einmal auseinandergelegt hat, versteht danach jede neue Schaltfläche, die in irgendeiner Oberfläche auftaucht, ohne dass sie ihm jemand erklären muss.

Drei Dinge, ein Name

„ChatGPT" ist der Name eines Programms. Darin steckt ein Sprachmodell, aber das Programm ist mehr als das Modell, so wie ein Auto mehr ist als sein Motor.

Ganz innen sitzt das Modell. Es bekommt Text und schreibt Text. Andere Verbindungen zur Welt hat es nicht.

Darum herum liegt das Programm. Es nimmt Ihre Eingabe entgegen, hebt den Verlauf auf, hängt Dateien an und hält für das Modell eine Reihe von Werkzeugen bereit: eine Suche, einen Dateileser, eine Bilderzeugung. Das Programm hat Zugangsdaten, Rechte und eine Uhr.

Benutzt das Programm diese Werkzeuge nicht einmal, sondern in einer Schleife, und entscheidet dabei selbst, was als Nächstes dran ist, dann nennt man das Ganze einen Agenten.

Was das Modell selbst kann

Genau eines: einen Text fortsetzen. Es sieht, was bisher dasteht, und rechnet aus, welches Stück am wahrscheinlichsten folgt. Wie das abläuft, steht in Wie ein Sprachmodell antwortet.

Was daraus folgt, klingt strenger, als es ist. Das Modell kommt nicht ins Internet. Es öffnet keine Datei. Es kennt Ihren Kalender nicht, es kennt Ihren Namen nicht, und es weiß nicht, welcher Tag heute ist. Zwischen zwei Fragen behält es nichts, denn es gibt keinen Ort, an dem etwas liegen bliebe.

Fragen Sie ein Modell ohne alles Drumherum nach dem heutigen Datum, bekommen Sie deshalb keine Auskunft, sondern eine Vermutung: die Jahreszahl, die in seinen Trainingstexten am häufigsten in der Nähe solcher Fragen stand.

Dass Sie im Alltag trotzdem das richtige Datum bekommen, liegt am Programm. Es schreibt es vor Ihre Frage, bevor die überhaupt beim Modell ankommt.

Wer sucht, wenn ChatGPT sucht

Hier macht es klick. Eine Websuche läuft in vier Schritten ab, und in keinem davon berührt das Modell das Netz.

Erstens stellen Sie Ihre Frage. Zweitens rechnet das Modell und kommt zu dem Schluss, dass es die Antwort nicht hat. Statt einer Antwort an Sie schreibt es deshalb eine Bitte: „Suche nach …“. Damit ist seine Arbeit vorerst zu Ende. Drittens liest das Programm diese Bitte, führt die Suche aus, ruft die Seiten ab und schneidet zurecht, was es gefunden hat. Viertens hängt es das Gefundene an den Text an, und das Modell rechnet von dort weiter, als hätten die Fundstellen von Anfang an in Ihrer Frage gestanden.

Für das Modell ist ein Suchtreffer also nichts Besonderes. Er ist Text, genau wie Ihre Frage.

Das ist keine Spitzfindigkeit, daran hängt etwas Praktisches: Die Antwort kann nur so gut sein wie das, was gefunden wurde. Und dass etwas gefunden wurde, heißt nicht, dass es jemand geprüft hat.

Dieselbe Mechanik hinter vielen Knöpfen

Was für die Suche gilt, gilt für alles andere auch. Immer schreibt das Modell eine Bitte, immer führt das Programm sie aus, immer kommt das Ergebnis als Text zurück.

• Sie hängen eine Tabelle an: Das Programm liest die Datei und legt ihren Inhalt in den Text.
• Sie verlangen ein Bild: Das Modell schreibt eine Beschreibung, ein anderes Programm malt danach, und Sie bekommen die Datei.
• Sie lassen etwas ausrechnen: Das Programm führt ein kleines Stück Kode aus und reicht das Ergebnis zurück.
• ChatGPT „merkt sich“ Ihren Namen: Das Programm hat ihn in einer Liste gespeichert und stellt ihn dem Text voran.

Damit die Anbieter nicht jedes Werkzeug einzeln verdrahten müssen, hat sich dafür eine offene Anschlussnorm durchgesetzt, das Model Context Protocol. Wenn in einem Angebot von MCP die Rede ist, ist genau dieses Hinhalten gemeint.

Es lohnt sich deshalb, das Muster zu kennen und nicht die Knöpfe. Die Knöpfe wechseln jedes halbe Jahr.

Wann daraus ein Agent wird

Bis hierhin war es ein einzelner Aufruf: eine Bitte, ein Ergebnis, eine Antwort. Ein Agent entsteht durch die Wiederholung. Das Programm gibt das Ergebnis zurück, das Modell entscheidet, was jetzt noch fehlt, bittet erneut, sieht sich das an, und wieder von vorn. Niemand geht dazwischen.

Die meisten haben so etwas längst laufen lassen. Wer ChatGPT eine ausführliche Recherche aufträgt, schickt es für einige Minuten los. In dieser Zeit sucht es, liest, fasst nach und entscheidet selbst, wonach als Nächstes. Am Ende steht ein Bericht mit Fundstellen. Das ist eine Schleife, und damit ein Agent.

Der Unterschied zu den Agenten, um die es in Angeboten geht, ist nicht die Schleife. Es sind die Rechte. Eine Recherche liest nur. Ein Agent, der Mails versenden, Termine anlegen oder Bestellungen auslösen darf, kann etwas anrichten, das sich nicht zurücknehmen lässt. Was daraus folgt und was vorher schriftlich feststehen muss, steht in Agenten und Werkzeuge.

Was Sie davon haben

Drei Dinge, und das erste ist im Alltag das nützlichste.

„Kann ChatGPT das?“ sind immer zwei Fragen. Kann das Modell es, und hat das Programm ein Werkzeug dafür? Rechnen kann ein Sprachmodell schlecht, ein Taschenrechner gut. Ob Ihre Rechnung stimmt, hängt also weniger am Modell als daran, ob das Programm einen Taschenrechner anbietet und ihn auch benutzt.

Ein Fehler lässt sich eingrenzen. Ist eine recherchierte Antwort falsch, gibt es zwei Möglichkeiten: Es wurde das Falsche gefunden, oder aus dem Richtigen wurde falsch weitergeschrieben. Ein Blick auf die Fundstellen sagt Ihnen, welche der beiden vorliegt. Mehr dazu in Warum KI halluziniert.

Was das Modell nicht hat, holt kein Prompt heran. Ihre Vertragsdaten stehen nicht im Modell. Keine noch so gute Anweisung ändert daran etwas. Es braucht ein Werkzeug, das sie holt, oder die Unterlagen im Text.

Woran Sie denken sollten

Die Trennung hat eine unbequeme Seite. Weil alles, was ein Werkzeug zurückgibt, im selben Text landet wie Ihre Frage, kann das Modell nicht unterscheiden, was von Ihnen stammt und was von einer fremden Webseite.

Steht auf einer abgerufenen Seite ein Satz, der wie eine Anweisung aussieht, dann steht er im selben Text wie Ihre Anweisung. Für ein Programm, das nur liest und antwortet, ist das ein überschaubares Ärgernis. Für einen Agenten mit Rechten ist es die entscheidende Frage, und sie wird in Agenten und Werkzeuge behandelt.

Ein Suchtreffer ist Text. Kein Beweis.