Ein Leitfaden zur Agentic-AI-Architektur
Agentic AI bezeichnet KI-Systeme, die nicht nur antworten, sondern Aufgaben eigenständig ausführen — planen, Werkzeuge nutzen, Ergebnisse prüfen. Die Architektur dahinter ist überraschend modular: ein Sprachmodell im Kern, erweitert um Werkzeuge, Wissen und Gedächtnis, eingefasst von Leitplanken. Dieser Leitfaden erklärt die Bausteine, die wichtigsten Muster — und wann sich der Aufwand wirklich lohnt.
Was ist Agentic AI — und was unterscheidet sie von einem Chatbot?
Ein Agent ist im Kern ein Sprachmodell, das in einer Schleife Werkzeuge nutzt und sich dabei an Rückmeldungen aus seiner Umgebung orientiert. Statt nur eine Antwort zu liefern, plant er Schritte, führt sie aus, prüft das Ergebnis und macht weiter, bis das Ziel erreicht ist.
Ein klassischer Chatbot antwortet einmal und ist fertig. Ein Agent dagegen handelt: Er ruft Daten ab, löst Aktionen in anderen Systemen aus, liest das Ergebnis und korrigiert seinen Kurs. Dieser Sprung von „antworten" zu „erledigen" ist der eigentliche Unterschied — und der Grund, warum agentische Systeme gerade so viel Aufmerksamkeit bekommen.
Wichtig für das Verständnis: Wirklich entscheidend ist bei jedem Schritt die „ground truth" — eine echte Rückmeldung aus der Umgebung, etwa das Ergebnis eines Werkzeugaufrufs oder ein Testlauf. Ohne diese Kontrolle würde ein Agent ins Leere planen.
Workflow oder Agent?
Anthropic — Hersteller des KI-Modells Claude — trifft in seinem Leitfaden „Building Effective Agents" eine zentrale architektonische Unterscheidung, die heute weithin übernommen wird. Beides sind „agentische Systeme", aber sie funktionieren grundlegend anders:
Feste Pfade im Code
Modell und Werkzeuge werden über vordefinierte Code-Pfade orchestriert. Sie geben den Ablauf vor.
- Vorhersehbar und gut testbar
- Ideal für klar umrissene Aufgaben
- Weniger Überraschungen, weniger Risiko
Modell steuert selbst
Das Sprachmodell entscheidet dynamisch, welches Werkzeug es als Nächstes nutzt. Sie geben Ziel und Leitplanken vor, nicht jeden Schritt.
- Flexibel bei offenen Aufgaben
- Weniger vorhersehbar
- Mehr Latenz, Kosten und Fehlerfortpflanzung
Die Kernempfehlung lautet: die einfachste Lösung wählen, die die Aufgabe besteht — und Komplexität nur dann hinzufügen, wenn sie messbaren Mehrwert bringt. Oft genügt ein Workflow oder sogar ein einzelner, gut mit Werkzeugen ausgestatteter Modellaufruf. Das passt zu unserer Überzeugung: weniger Aktionismus, mehr Wirkung.
Quelle: Anthropic, „Building Effective Agents" (Dezember 2024)
Woraus eine Agentic-AI-Architektur besteht
Im Zentrum steht der „augmented LLM" — ein Sprachmodell, erweitert um drei Fähigkeiten: Werkzeuge nutzen, auf Wissen zugreifen und sich Dinge merken. Darum herum liegen Orchestrierung, Leitplanken und Nachvollziehbarkeit.
Man kann sich die Architektur als Schichten vorstellen. Der Kern denkt und entscheidet; die äußeren Schichten sorgen dafür, dass das Ganze gesteuert, sicher und überprüfbar bleibt.
Der „augmented LLM" im Kern — eingefasst von Steuerung und Leitplanken.
Plant Schritte, wählt Werkzeuge, verteilt Teilaufgaben und steuert den Ablauf.
Struktur nach Anthropic, „Building Effective Agents" (2024) · Darstellung: deine KI Agentur
Modell. Der „denkende" Kern. Er versteht die Aufgabe, plant und formuliert — kann aber von sich aus nicht handeln. Erst die Erweiterungen machen ihn nützlich.
Werkzeuge (Tools). Über sie wirkt der Agent in der Welt: eine E-Mail senden, einen Datensatz anlegen, eine Berechnung auslösen. Der offene Standard MCP (Model Context Protocol), 2024 von Anthropic vorgestellt, funktioniert dabei wie ein gemeinsamer Stecker zwischen Agent und Fachsystemen.
Wissen & Retrieval (RAG). Damit der Agent auf Basis Ihres Firmenwissens antwortet statt nur aus dem Trainingswissen, schlägt er vor dem Antworten in Ihren Dokumenten nach — genauer und nachvollziehbarer.
Gedächtnis (Memory). Es hält fest, was über mehrere Schritte oder Sitzungen relevant bleibt — sonst würde der Agent bei jedem Schritt von vorn beginnen.
Orchestrierung. Die Steuerungsschicht entscheidet, in welcher Reihenfolge gearbeitet wird und ob mehrere Teilaufgaben parallel oder von spezialisierten Unter-Agenten erledigt werden.
Guardrails, Observability & Mensch. Die übergreifende Schicht: klare Leitplanken (was darf der Agent, welche Eingaben werden geprüft), volle Nachvollziehbarkeit (Logging, Audit-Trail) und menschliche Freigaben an den wichtigen Stellen. Dazu weiter unten mehr.
Wie ein Agent arbeitet: die Schleife
Ein autonomer Agent durchläuft im Kern immer denselben Zyklus. Entscheidend ist, dass er nach jeder Aktion eine echte Rückmeldung aus der Umgebung erhält und seinen nächsten Schritt daran ausrichtet.
Planen, handeln, prüfen — in einer Schleife bis zum Ziel.
Ziel klären
Der Agent startet mit einem Auftrag oder einem kurzen Dialog mit dem Menschen.
Schritt wählen
Er entscheidet, welches Werkzeug oder welche Aktion als Nächstes sinnvoll ist.
Werkzeug nutzen
Er führt die Aktion aus — etwa eine Abfrage, eine Berechnung, einen Eintrag.
Ergebnis bewerten
Er liest die Rückmeldung (ground truth) und entscheidet: weiter, korrigieren oder fertig.
Ablauf nach Anthropic, „Building Effective Agents" (2024) · Darstellung: deine KI Agentur
Die wichtigsten Bauformen
Die meisten agentischen Systeme entstehen nicht aus einem einzigen großen Agenten, sondern aus einfachen, kombinierbaren Mustern. Diese sechs decken einen Großteil der Praxis ab — vom festen Workflow bis zum autonomen Agenten.
Prompt-Verkettung
Eine Aufgabe wird in feste Teilschritte zerlegt, die nacheinander durchlaufen werden — zuverlässig und einfach.
Routing
Eine Anfrage wird klassifiziert und an den passenden Pfad oder das passende Modell weitergeleitet.
Parallelisierung
Mehrere Teilaufgaben laufen gleichzeitig; die Ergebnisse werden anschließend zusammengeführt.
Orchestrator–Worker
Ein steuernder Agent zerlegt die Aufgabe und verteilt sie an spezialisierte Unter-Agenten.
Evaluator–Optimierer
Ein Ergebnis wird von einer zweiten Instanz bewertet und so lange verbessert, bis Kriterien erfüllt sind.
Autonomer Agent
Das Modell nutzt Werkzeuge frei in der Schleife — die flexibelste, aber auch anspruchsvollste Bauform.
Die ersten fünf Muster sind Workflows mit festen Pfaden; nur das sechste ist ein „echter" Agent im engeren Sinn. Ein Agent oder mehrere? Mehrere spezialisierte Unter-Agenten (Muster 04) helfen bei komplexen, gut zerlegbaren Aufgaben — kosten aber Koordination, Latenz und Nachvollziehbarkeit. Im Zweifel ist ein gut gebauter einzelner Agent die robustere Wahl.
Worauf es bei der Architektur wirklich ankommt: Guardrails
Autonomie heißt nicht Autopilot. Je mehr ein System selbst entscheidet, desto wichtiger werden die Leitplanken — denn ein früher Fehler kann sich über viele Schritte fortpflanzen. Genau hier hinkt die Praxis dem Tempo hinterher: Laut der Deloitte-Studie „State of AI in the Enterprise 2026" (3.235 Führungskräfte) haben erst 21 % der Unternehmen eine reife Governance für agentische KI.
Auch der Rahmen zählt: Der EU AI Act verlangt Transparenz (Menschen müssen erkennen, dass sie mit KI interagieren) und klare Verantwortlichkeit. Die fachliche Verantwortung für das, was ein Agent tut, bleibt beim Unternehmen — nicht beim Modell.
Wann lohnt sich eine agentische Architektur — und wann nicht?
Eine agentische Architektur lohnt sich, wenn sich der Lösungsweg nicht fest vorgeben lässt, der Fortschritt aber überprüfbar ist — etwa Kundenservice mit echten Aktionen oder Programmieraufgaben, die sich per Test verifizieren lassen.
Lässt sich eine Aufgabe dagegen klar in feste Schritte gießen, ist ein Workflow oder ein einzelner gut ausgestatteter Modellaufruf meist die bessere Wahl: günstiger, schneller, verlässlicher. Jeder zusätzliche autonome Schritt kostet Latenz, Tokens und ein Stück Vorhersehbarkeit.
Für den Mittelstand heißt das konkret: Sie bauen keine eigenen Modelle. Sie kombinieren vorhandene Bausteine — Modell, Werkzeuge über MCP, Wissenszugriff, klare Leitplanken — und beginnen mit einem eng umrissenen Workflow. Agency fügen Sie dort hinzu, wo sich der Fortschritt sauber prüfen lässt. So entsteht Wirkung, ohne ein unkontrollierbares System. Mehr zu den Werkzeugen dahinter finden Sie auf unserer Seite zum Tool-Setup, die Grundlagen im Beitrag 100 Fragen und Antworten zu KI für Unternehmen.
Agentic-AI-Architektur — kurz beantwortet
Was ist Agentic AI?
Was ist der Unterschied zwischen einem Workflow und einem Agenten?
Was ist der „augmented LLM"?
Was ist MCP (Model Context Protocol)?
Wann sollte man eine agentische Architektur einsetzen – und wann nicht?
Welche Risiken haben agentische KI-Systeme?
Agentic AI klingt spannend — aber lohnt sie sich für Sie?
In 30 Minuten klären wir, ob für Ihre Aufgabe ein einfacher Workflow reicht oder ein Agent sinnvoll ist — und wie eine saubere, kontrollierbare Architektur aussehen würde.