Strukturierte CodeAgents: JSON macht KI-Werkzeuge verlässlicher
💡 Quellen-Hinweis: Dieser Beitrag ist eine redaktionelle Zusammenfassung basierend auf einem Originalbericht von Hugging Face Blog.
Hugging Face untersucht, wie sich die Flexibilität von Code-Agenten mit der Verlässlichkeit strukturierter Ausgaben verbinden lässt. Statt Python-Code nur aus Markdown zu extrahieren, erzeugt ein Agent seine Überlegungen und den auszuführenden Code als vorgegebenes JSON-Objekt. Das soll vor allem den Übergang von Modelltext zu ausführbarer Aktion robuster machen.
Code bleibt flexibel, das Format wird verbindlich
Klassische Tool-Agenten wählen vorab definierte Funktionen über JSON-Aufrufe. CodeAgents können dagegen Schleifen, Bedingungen und Zwischenwerte direkt in Python kombinieren. Das ist bei mehrstufigen Aufgaben praktisch, birgt aber ein Parsing-Risiko: unvollständige Codeblöcke oder mehrere Markdown-Blöcke können die Ausführung brechen. Der strukturierte Ansatz trennt ein thoughts-Feld vom code-Feld und lässt die Ausgabe gegen ein Schema prüfen.
Messbare Folgen von Formatfehlern
In einer Auswertung von 15.724 Agenten-Traces meldet Hugging Face bei 2,4 Prozent bereits im ersten Schritt Parsing-Fehler. Diese Fälle erreichten nur 42,3 Prozent Erfolg, gegenüber 51,3 Prozent ohne ersten Formatfehler. In Benchmarks wie GAIA, MATH, SimpleQA und Frames lagen strukturierte CodeAgents bei leistungsfähigen Modellen laut Beitrag meist zwei bis sieben Prozentpunkte vor normalen CodeAgents.
Struktur hat auch Kosten
Die zusätzliche Vorgabe ist kein universeller Gewinn. Kleinere Modelle müssen gleichzeitig JSON, Python-Syntax und die Aufgabe beherrschen; Hugging Face beschreibt dies als Structure Tax. Für einfache, feste Abläufe können klassische Funktionsaufrufe weiterhin sinnvoller sein. Wer komplexe Agenten baut, sollte strukturierte Ausgabe mit realen Aufgaben, Fehlerfällen und dem gewählten Modell testen. In smolagents wird die Option über use_structured_outputs_internally aktiviert und kann Parsing-Probleme reduzieren, ohne die Ausdrucksmöglichkeiten von Python aufzugeben.
Originalquelle: Hugging Face Blog – CodeAgents + Structure: A Better Way to Execute Actions
