Der Schritt von generativer KI zu Agentic AI hat weniger mit einem besseren Modell zu tun als mit dem, was man drumherum baut: Zustand, Werkzeuge und eine Schleife, die weiß, wann sie aufhören muss.
Gleiches Modell, andere Aufgabe
Die meisten agentischen Systeme laufen auf denselben großen Sprachmodellen wie gewöhnliche generative KI. Der Unterschied steckt nicht in den Gewichten, sondern darin, wie das Modell eingesetzt wird.
Ein generatives Modell verhält sich wie eine Funktion. Du schickst ihm einen Kontext, es liefert die wahrscheinlichste Fortsetzung und vergisst danach den ganzen Austausch. Ein Agent packt dieselbe Funktion in eine Schleife: Er speichert den Zustand, ruft Werkzeuge auf, prüft die Ergebnisse und entscheidet, ob noch eine Runde nötig ist.
Was generative KI gut kann und wo sie aufhört
Generative KI ist stark darin, Inhalte zu erzeugen: Texte entwerfen, übersetzen, zusammenfassen, ein Stück Code schreiben, Fragen beantworten. Für einen großen Teil der alltäglichen Aufgaben reicht das völlig.
Ihre Grenzen zeigen sich, sobald eine Aufgabe mehr als einen Schritt braucht:
- Sie hat kein eigenes Gedächtnis. Alles, was sie wissen soll, muss bei jeder Anfrage neu mitgeschickt werden, und alles muss ins Kontextfenster passen.
- Sie kann nichts anfassen. Allein kann sie weder eine Datenbank abfragen noch eine API aufrufen noch den Code ausführen, den sie gerade geschrieben hat.
- Sie prüft ihre Arbeit nicht. Sie liefert eine Antwort, ohne zu wissen, ob die stimmt, und ohne die Möglichkeit, es bei einem Fehler noch einmal zu versuchen.
Was Agentic AI hinzufügt
In einem agentischen System wird das Modell zum Entscheider innerhalb eines größeren Programms. Meist sind vier Bausteine beteiligt:
- Planung: ein Ziel in kleinere Aufgaben zerlegen und deren Reihenfolge festlegen.
- Werkzeugnutzung: APIs aufrufen, SQL-Abfragen ausführen, Code in einer Sandbox laufen lassen.
- Gedächtnis: der Zustand der aktuellen Sitzung und länger gültiges Wissen wie die Vorlieben des Nutzers.
- Selbstkontrolle: jedes Ergebnis prüfen, etwa gegen ein Schema oder einen Test, und den Kurs ändern, wenn etwas schiefgeht.
Nimm eine Reiseanfrage. Ein generativer Assistent schlägt ein paar Flüge vor. Ein Agent sucht Flüge, prüft die Visabestimmungen, gleicht die Optionen mit deinem Kalender ab, bucht das Ticket nach deiner Bestätigung und bucht dich um, wenn der Flug ausfällt.
Der Preis im Betrieb
Diese zusätzlichen Fähigkeiten gibt es nicht umsonst. Die Tabelle fasst zusammen, was sich typischerweise ändert. Die genauen Werte hängen vom Modell und von der Aufgabe ab.
| Generative KI | Agentic AI | |
|---|---|---|
| Latenz | Ein Modellaufruf, meist ein bis zwei Sekunden | Mehrere Aufrufe in einer Schleife, oft 5 bis 30 Sekunden oder mehr |
| Zustand | Keiner; der Kontext wird jedes Mal neu gesendet | Sitzungszustand plus Langzeitgedächtnis |
| Fehler | Bleiben auf eine Antwort beschränkt | Können sich aufschaukeln: ein früher Fehler führt alle späteren Schritte in die Irre |
| Kosten | Pro Anfrage gut vorhersagbar | Abhängig davon, wie viele Schritte eine Aufgabe am Ende braucht |
| Fehlersuche | Eingabe und Ausgabe loggen | Jeden Schritt und jeden Werkzeugaufruf nachverfolgen |
Was sich für Chatbots ändert
Für Chatbots ist das der größte Umbruch, seit sie überhaupt Sprachmodelle nutzen. Ein generativer Chatbot beantwortet Fragen zu deiner Bestellung. Ein agentischer sucht die Bestellung heraus, sieht, dass sie beim Zoll hängt, eröffnet einen Vorgang beim Versanddienstleister und meldet sich, sobald das Paket weiterreist.
Damit ändert sich auch, wie der Bot gebaut sein muss. Ein Gespräch endet nicht mehr mit der Antwort, also muss der Bot offene Aufgaben verfolgen. Er muss prüfen, wer du bist, bevor er etwas in deinem Konto tut. Und er braucht eine saubere Übergabe an einen Menschen für alles, was er nicht entscheiden darf, zum Beispiel Erstattungen ab einem bestimmten Betrag.
Wie Produktivsysteme meist aufgebaut sind
In größeren Installationen hält man das Modell von Seiteneffekten fern. Ein verbreiteter Aufbau hat drei Schichten:
- Einen Modell-Endpunkt, dessen einzige Aufgabe es ist, das nächste Werkzeug zu wählen und die Parameter als strukturiertes JSON zu liefern.
- Eine separate Worker-Queue, zum Beispiel Celery mit Redis, die diese Aufrufe außerhalb des Anfragepfads des Modells tatsächlich ausführt.
- Eine Validierung dazwischen, die jeden Aufruf gegen ein Schema und eine Berechtigungsliste prüft, bevor irgendetwas Unumkehrbares passiert.
Kurz gesagt
Generative KI ist der Motor, der Sprache erzeugt. Agentic AI ist das Getriebe, das diesen Motor auf ein Ziel ausrichtet. Wer so ein System baut, verbringt weniger Zeit mit Prompts und mehr damit, Zustände zu verfolgen, Schritte nachvollziehbar zu machen und dafür zu sorgen, dass ein einzelner fehlgeschlagener Schritt nicht die ganze Aufgabe ruiniert.
Nächster Teil der Serie: Teil 3 zeigt, wie Agenten im Inneren aufgebaut sind: Planungsmodelle, Gedächtnis und Orchestrierung.
