Wer KI-Agenten im Unternehmenseinsatz betreibt, denkt zuerst an die Modellwahl – dabei liegt ein großer Teil der Kostenhebel woanders: im sogenannten Context Engineering. Microsoft zeigt in einem aktuellen Azure-Blogbeitrag, wie die Plattform Azure AI Foundry dabei hilft, Agenten-Kosten systematisch zu senken, ohne die Leistung zu opfern.
Was ist neu?
Der Begriff Context Engineering beschreibt die gezielte Steuerung dessen, was ein KI-Modell als Eingabe erhält – also welches Wissen, welche Werkzeuge (Tools) und welche Erinnerungen (Memory) in den sogenannten Kontext eines Agenten einfließen. Klingt technisch, hat aber unmittelbare wirtschaftliche Konsequenzen: Jedes Token, das ein Sprachmodell verarbeitet, kostet Geld. Schickt man einem Modell unnötige oder redundante Informationen mit, steigen die Kosten – ohne Mehrwert.
Microsoft adressiert dieses Problem in Azure AI Foundry auf mehreren Ebenen:
- Knowledge Retrieval (Wissensabruf): Statt einem Agenten ganze Dokumentkorpora in den Kontext zu laden, werden nur relevante Passagen per Retrieval-Augmented Generation (RAG) bereitgestellt.
- Tool Selection (Werkzeugauswahl): Agenten erhalten nur die Tools, die für den jeweiligen Arbeitsschritt tatsächlich benötigt werden – keine vollständige Tool-Liste bei jedem Aufruf.
- Memory Management (Gedächtnisverwaltung): Langzeit- und Kurzzeitgedächtnis von Agenten werden getrennt verwaltet, sodass nur wirklich relevanter Gesprächsverlauf erneut übergeben wird.
- Agent Performance at Scale: Die genannten Mechanismen wirken sich erst bei hohem Durchsatz wirklich aus – Azure AI Foundry ist darauf ausgelegt, diese Optimierungen für Enterprise-Workloads zu skalieren.
**Merksatz:** Die teuerste KI-Architektur ist nicht die mit dem größten Modell, sondern die mit dem unstrukturiertesten Kontext.
Was bedeutet das für Azure-Admins und Architekten?
In meinen Azure-Kursen erlebe ich regelmäßig, dass Teilnehmer KI-Kosten primär über Modell-Downgrades zu steuern versuchen – also von GPT-4 auf ein kleineres Modell wechseln. Das ist legitim, greift aber oft zu kurz. Context Engineering setzt früher an: nämlich daran, wie viel ein Modell überhaupt verarbeiten muss.
Für den Alltag als Azure-Architekt oder Admin bedeutet das konkret:
| Optimierungsebene | Hebel | Kosteneffekt |
|---|---|---|
| Wissensabruf (RAG) | Chunk-Größe, Ähnlichkeitsschwellwert | Weniger Input-Token pro Anfrage |
| Tool-Verwaltung | Dynamische Tool-Selektion statt statischer Liste | Reduzierter Prompt-Overhead |
| Memory | Gesprächskomprimierung, selektive Persistenz | Kleinere Kontext-Fenster bei langen Sessions |
| Modellwahl | Kleineres Modell nach Kontextoptimierung | Multiplikatoreffekt auf Token-Kosten |
Praxistipp: Messen Sie zunächst Ihre durchschnittliche Kontext-Länge pro Agenten-Aufruf im Azure AI Foundry Monitoring. Erst wenn Sie wissen, wie viele Token tatsächlich genutzt werden, lassen sich sinnvolle Optimierungen priorisieren – bevor Sie das Modell wechseln.
Noch mal in Kürze: Context Engineering ist kein akademisches Konzept, sondern ein konkreter Kostenhebel, der in jede Enterprise-KI-Architektur auf Azure gehören sollte. Die Originalankündigung mit weiteren Details finden Sie hier: Originalankündigung bei Azure Blog.