Openes NVIDIA-System führt bei Deep-Research-Agenten
💡 Quellen-Hinweis: Dieser Beitrag ist eine redaktionelle Zusammenfassung basierend auf einem Originalbericht von Hugging Face Blog.
NVIDIAs Referenzarchitektur AI-Q hat laut dem Beitrag die Spitze der Kategorie „LLM with Search“ auf dem DeepResearch Bench erreicht. Das Projekt verbindet zwei offen verfügbare Modelle, Llama 3.3 70B Instruct und Llama-3.3-Nemotron-Super-49B-v1.5, zu einem Agentensystem für Recherche, mehrstufiges Schlussfolgern und die Erstellung längerer Berichte. Für Unternehmen ist vor allem relevant, dass die Architektur als portable Open-Source-Option positioniert wird.
Arbeitsteilung zwischen Recherche und Synthese
Im Kern übernimmt Llama 3.3 die strukturierte Text- und Berichtserzeugung. Das Nemotron-Modell ist auf Reasoning, Werkzeugnutzung, Anfrageplanung und Reflexion ausgerichtet. Es wurde laut NVIDIA mit Architektur-Suche, Destillation sowie überwachtem und verstärkendem Lernen nachtrainiert. Hinzu kommen NeMo Retriever für die Suche in internen und externen Quellen sowie das NeMo Agent Toolkit zur Orchestrierung. So kann ein Workflow parallele Suchschritte, lange Kontexte und eine anschließende Zusammenführung abbilden.
Die Architektur zielt damit nicht auf einen einzelnen Chatbot, sondern auf wiederholbare Rechercheketten. Gerade für lokale Datenbestände, Compliance-Anforderungen oder niedrige Latenzen kann das attraktiv sein: Teams können Suche und Auswertung näher an ihrer eigenen Infrastruktur betreiben. Das ersetzt jedoch keine sorgfältige Rechte-, Sicherheits- und Quellenprüfung. Ein offener Stack schafft Kontrolle, verlangt aber auch Betriebskompetenz.
Benchmarkwert richtig einordnen
DeepResearch Bench umfasst über 100 anspruchsvolle Rechercheaufgaben aus unterschiedlichen Fachgebieten. AI-Q erreichte im August 2025 einen Score von 40,52 und laut Beitrag den Spitzenplatz unter vollständig offen lizenzierten Stacks. Besonders gut fielen die Teilaspekte Vollständigkeit, Erkenntnisgehalt und Zitatqualität aus. Solche Ranglisten sind eine nützliche Momentaufnahme, aber kein Ersatz für Tests mit eigenen Dokumenten, eigenen Nutzerfragen und klaren Fehlerkriterien.
Transparenz als technischer Vorteil
NVIDIA betont die Prüfung von Faktenbehauptungen, Mehrquellen-Synthese, Zitatbezüge und RAGAS-Metriken. Für Entwickler kann genau diese Beobachtbarkeit wichtiger sein als ein einzelner Gesamtscore: Zwischenschritte lassen sich eher prüfen und fehlerhafte Retrieval- oder Planungsschritte gezielt verbessern. Das Beispiel zeigt, dass agentische KI zunehmend aus kombinierbaren Bausteinen besteht. Wer den Ansatz evaluiert, sollte Kosten, Latenz, Datenzugriff und die Verlässlichkeit von Quellen gleichwertig messen.
Originalquelle: Hugging Face Blog – Measuring Open-Source Llama Nemotron Models on DeepResearch Bench
