Nvidia stellt Datensatz mit sechs Millionen mehrsprachigen Reasoning-Beispielen bereit
💡 Quellen-Hinweis: Dieser Beitrag ist eine redaktionelle Zusammenfassung basierend auf einem Originalbericht von Hugging Face Blog.
Nvidia veröffentlicht auf Hugging Face einen mehrsprachigen Reasoning-Datensatz mit sechs Millionen Beispielen. Die neue Nemotron-Post-Training-Sammlung v2 baut auf bereits verfügbaren englischsprachigen Daten auf und ergänzt Übersetzungen in Deutsch, Französisch, Italienisch, Japanisch und Spanisch. Sie richtet sich an die Nachtrainierung offener Sprachmodelle.
Übersetzt wird nicht jeder Teil der Denkspur
Der Aufbau ist bewusst differenziert: Nutzerprompt und Modellantwort liegen in den Zielsprachen vor, während die ursprüngliche englische Reasoning-Kette erhalten bleibt. Nvidia begründet das mit der während des Pretrainings erlernten englischen Wissensbasis. Dadurch entstehen mehrsprachige Ein- und Ausgaben, ohne die interne Herleitung in jeder Sprache künstlich neu zu erzeugen.
Die Ersteller verweisen auf Risiken synthetisch erzeugter Trainingsdaten. Bei längeren Eingaben können Übersetzungsqualität und Halluzinationsrate offener Modelle nachlassen. Daher erfolgte die Verarbeitung zeilenweise; Codeblöcke und nicht übersetzbare Zeilen wurden ausgelassen. Ein festes Klammerformat diente der Extraktion gültiger Übersetzungen, anschließend prüfte fastText die Sprache der Prompt-Ergebnisse. Allein durch diese Sprachprüfung wurden nach Angaben des Beitrags 55.567 Beispiele, 1,1 Prozent der mehrsprachigen Daten, verworfen.
Modelle, Lizenz und praktischer Kontext
Für Deutsch kam Qwen2.5-32B-Instruct-AWQ zum Einsatz, für die übrigen Sprachen Qwen2.5-14B-Instruct. Als Auswahlkriterien nennt Nvidia Übersetzungsqualität, Betrieb auf einer einzelnen A100, breite Domänenabdeckung und die Apache-2.0-Lizenz der Übersetzungsmodelle. Der Datensatz selbst ist über die Hugging-Face-Datasets-Bibliothek abrufbar.
Für Entwickler ist das Material interessant, weil deutschsprachige Reasoning-Daten im offenen Ökosystem weiterhin knapper sein können als englische Ressourcen. Gleichzeitig ist es kein Qualitätsnachweis für ein daraus trainiertes Modell. Teams sollten Lizenz, Datenstruktur, mögliche Übersetzungsartefakte und die Eignung für ihren Einsatzzweck prüfen. Die Veröffentlichung stärkt vor allem die Transparenz: Neben Gewichten und Werkzeugen wird nun auch ein Teil der Datenbasis für Post-Training nachvollziehbar bereitgestellt.
Originalquelle: Hugging Face Blog – NVIDIA Releases 6 Million Multi-Lingual Reasoning Dataset
