Robotik-Daten ohne Umwege: Aufzeichnen, streamen, trainieren
đź’ˇ Quellen-Hinweis: Dieser Beitrag ist eine redaktionelle Zusammenfassung basierend auf einem Originalbericht von Hugging Face Blog.
Robotikprojekte erzeugen grosse Mengen aus Kamerabildern, Sensordaten und Aktionen. Ein gemeinsamer Workflow von Strands Agents, LeRobot und Hugging Face Storage Buckets soll Aufzeichnung, Training und Ausführung enger verbinden. Daten bleiben dabei durchgehend im LeRobot-Format aus Parquet- und MP4-Shards – vom Simulator über die Cloud bis zum physischen Roboter.
Buckets als Arbeitsbereich fĂĽr laufende Daten
Ein versioniertes Dataset-Repository eignet sich für geprüfte Veröffentlichungen, aber weniger für ständig wachsende Aufzeichnungen. Storage Buckets dienen deshalb als überschreibbare Arbeitsschicht. Nach einer Episode synchronisiert der Agent den lokalen Datensatz in einen Bucket. Die Xet-Speicherschicht zerlegt Dateien in inhaltsabhängige Blöcke und überträgt bei späteren Synchronisationen nur veränderte Teile. In den genannten Messungen wurden bei einer Änderung von einem Prozent an einer 500-MB-Datei lediglich 5,5 MB neu bewegt.
Das passt zur LeRobot-Struktur: Messdaten und Videos wachsen in grösseren Shards, sodass typischerweise nur neue Dateien und der zuletzt ergänzte Shard übertragen werden. Buckets behalten allerdings keine Revisionen. Dauerhaft benötigte Stände sollten daher weiterhin in ein versioniertes Repository übernommen werden.
Training beginnt ohne Komplettdownload
Mit StreamingLeRobotDataset können Trainingsjobs per Byte-Range-Requests direkt auf entfernte Shards zugreifen. Nur kleine Metadaten landen lokal; Kameraframes werden beim Iterieren aus MP4 dekodiert, Zustände und Aktionen stammen aus Parquet. Ein PyTorch-DataLoader kann daraus sofort Batches bilden, während ein begrenzter Shuffle-Puffer und mehrere Worker die Verarbeitung parallelisieren. Der Artikel nennt als Beispiel 500 ACT-Optimierungsschritte mit 51,6 Millionen Parametern auf einer NVIDIA L4 in 133 Sekunden – eine konkrete Konfiguration, kein allgemeiner Benchmark.
Geschlossener Kreislauf mit klaren Grenzen
Der trainierte Checkpoint wird über dieselbe Policy-Schnittstelle geladen, auf einem realen Arm ausgeführt und erzeugt neue Demonstrationen für die nächste Runde. Anbieter für grössere VLA-Modelle lassen sich über ein gemeinsames Trainingsschema austauschen. Praktisch ist dies vor allem für Teams, die GPU-Leerlauf durch lange Downloads vermeiden und Datensammlung regelmässig wiederholen.
Die Arbeitsschicht ist zugleich eine Vertrauensgrenze: Schreibende Agenten könnten Trainingsdaten manipulieren, und Buckets überschreiben Inhalte ohne Historie. Der Beitrag empfiehlt getrennte, eng begrenzte Zugangsdaten, eindeutige Run-IDs, private Buckets und geprüfte versionierte Datensätze als freigegebene Artefakte. Modelle mit Remote Code sollten ausschließlich aus vertrauenswürdigen Organisationen stammen.
Originalquelle: Hugging Face Blog – Record, train, and deploy from one place with Strands Agents, LeRobot, and Hugging Face Storage Buckets
