Context Management bezeichnet die gezielte Verwaltung von Informationen, die ein KI-Sprachmodell während einer Aufgabe verarbeitet. Ziel ist es, wichtige Inhalte verfügbar zu halten und überflüssige Informationen auszusortieren.
KI-Modelle besitzen ein begrenztes Kontextfenster. Bei langen Gesprächen, umfangreichen Dokumenten oder komplexen Arbeitsabläufen kann dieser Speicherbereich an seine Grenzen stoßen.
Context Management nutzt deshalb verschiedene Verfahren. Ältere Gesprächsinhalte können zusammengefasst, nicht mehr benötigte Informationen entfernt oder wichtige Erkenntnisse in einem zusätzlichen Speicher abgelegt werden. Bei Bedarf lassen sich diese später erneut abrufen.
Besonders wichtig ist das bei autonomen KI-Agenten, die über längere Zeit selbstständig Aufgaben bearbeiten und dabei zahlreiche Zwischenergebnisse erzeugen.
Allerdings birgt die Verdichtung von Informationen auch Risiken. Werden entscheidende Einzelheiten gelöscht oder ungenau zusammengefasst, können Fehler entstehen.
Gutes Context Management bedeutet deshalb nicht, möglichst viele Informationen zu speichern, sondern die richtigen Informationen zum richtigen Zeitpunkt bereitzustellen.