Die Idee

Eine lange KI-gestützte Coding-Aufgabe erzeugt einen wachsenden Verlauf. Dazu können deine Anfragen, Modellantworten, Dateiänderungen, Testergebnisse und Tool-Ausgaben gehören. All das konkurriert um Platz im Kontextfenster des Modells: der begrenzten Informationsmenge, die es beim Erzeugen einer Antwort berücksichtigen kann. Bei lang laufender Arbeit kann dieser Platz irgendwann gefüllt sein. Anthropic beschreibt serverseitige Kontextkomprimierung für Gespräche und agentische Workflows, die sich einem Kontextlimit nähern.

Kontextkomprimierung (Compaction) ist eine Möglichkeit, weiterzuarbeiten, ohne jedes alte Ereignis mitzunehmen. Sie ersetzt einen langen Gesprächszustand durch eine kleinere Darstellung, die den für den nächsten Schritt benötigten Zustand bewahren soll. OpenAI beschreibt Kontextkomprimierung als Verringerung der Kontextgröße bei lang laufenden Interaktionen, während der später benötigte Zustand erhalten bleibt. Quelle: OpenAI.

Einfach gesagt: Kontextkomprimierung ist eine Übergabenotiz für die nächste Phase einer Aufgabe. Sie ist kein perfektes Protokoll und kein dauerhaftes Memory.

Stell sie dir vor wie die Kürzung eines ausführlichen Debugging-Logs auf den aktuellen Fehler, Belege, Entscheidungen und die nächste Prüfung. Die Analogie hat Grenzen: Ein komprimierter Zustand besteht aus maschinenorientierten Daten für die weitere Modellarbeit und ist nicht zwingend eine für Menschen lesbare Projektnotiz. OpenAI schreibt, dass kompaktierte Ausgabe als undurchsichtiger Zustand behandelt und unverändert weitergegeben werden soll, statt sie manuell zu bearbeiten. Quelle: OpenAI.

Kontextkomprimierung und Langzeit-Memory lösen unterschiedliche Probleme. Kontextkomprimierung setzt einen aktuellen Lauf fort. Memory kann wiederverwendbare Workflow-Erkenntnisse über mehrere Läufe hinweg bewahren. OpenAI unterscheidet diese Fälle in seiner Agenten-Anleitung. Quelle: OpenAI.

Ein kleines Beispiel

Beispiel: Du bittest einen Agenten, einen fehlschlagenden Integrationstest zu untersuchen. Über viele Schritte liest er Dateien, ändert einen Konfigurationswert, führt Tests aus und sammelt wiederholte Protokolle. An einem sinnvollen Meilenstein könnte der aktive Verlauf zu einem Zustand wie diesem komprimiert werden:

  • Ziel: checkout integration soll ohne Änderung des Produktionsverhaltens bestehen.
  • Beleg: Der Test schlägt fehl, nachdem die simulierte Zahlungsantwort geparst wurde.
  • Bereits versucht: Die Konfigurationsänderung hat den Fehler nicht behoben.
  • Nächster Schritt: Prüfe, wie der Parser die simulierte Antwort verarbeitet.

Die nächste Anfrage setzt mit diesem kleineren Zustand fort, statt jede Protokollzeile und jede alte Antwort zu benötigen. Einige API-Systeme können dies nahe einem Schwellenwert automatisch erledigen; OpenAI dokumentiert sowohl serverseitige Kontextkomprimierung über context_management und compact_threshold als auch einen separaten Komprimierungsendpunkt. Quelle: OpenAI. Anthropic beschreibt ebenfalls serverseitige Kontextkomprimierung für Gespräche und agentische Workflows, die sich einem Kontextlimit nähern. Quelle: Anthropic.

Die Liste ist ein erklärendes Beispiel und kein vorgeschriebenes API-Format. Anbieter unterscheiden sich bei Namen, Auslösern, Modellunterstützung und dem Format der kompaktierten Daten.

Probier es aus

Nimm dir nach einem Debugging-Meilenstein etwa fünf Minuten. Dies ist eine hypothetische Übung; du brauchst keine API für Kontextkomprimierung.

  1. Wähle eine Aufgabe mit mehreren Schritten eines Agenten.
  2. Schreibe vier Stichpunkte auf: das Ziel, bestätigte Belege, bereits versuchte Änderungen und die nächste Aktion.
  3. Halte entscheidende Details in einem dauerhaften, überprüfbaren Artefakt fest, etwa in einem fehlschlagenden Test, einer Issue-Notiz, einer Quelldatei oder einer mit der Arbeit gespeicherten Befehlsausgabe.
  4. Starte einen frischen Prompt mit diesen Stichpunkten. Frage den Agenten, was er als Nächstes prüfen würde.

Vergleiche seinen Vorschlag dann mit der ursprünglichen Aufgabe. Fehlt eine Einschränkung, ergänze sie in der Übergabenotiz oder verweise auf das Artefakt. Das ist Kontextauswahl: Du entscheidest, was der nächste Schritt tatsächlich braucht.

Darauf solltest du achten

Kontextkomprimierung kann Details auslassen oder ungenau wiedergeben. Behandle sie nicht als einzige Aufzeichnung einer Entscheidung, Quelle oder eines Testergebnisses. Bewahre wichtige Fakten dort auf, wo du sie prüfen und verifizieren kannst: in Code, Tests, Dokumenten oder anderen Artefakten.

Ein größeres Kontextfenster macht nicht automatisch jede Antwort genauer. Anthropic weist darauf hin, dass wachsende Tokenmengen Herausforderungen bei Genauigkeit und Abruf mit sich bringen können. Quelle: Anthropic. Kontextkomprimierung rechtfertigt auch keine übergroßen Eingaben. Entferne veraltete Anforderungen, sende riesige Ausgaben nicht wiederholt und formuliere die nächste Aktion eindeutig.

Nutze Kontextkomprimierung schließlich nicht für eine kleine, einmalige Frage. Sie ist vor allem nützlich, wenn eine Aufgabe viele Schritte überstehen muss. Betrachte sie als kontrollierten Fortsetzungsmechanismus und überprüfe die Arbeit anschließend mit denselben technischen Belegen, die du auch ohne KI verwenden würdest.