Holotron-12B beschleunigt autonome Computer-Agenten
đź’ˇ Quellen-Hinweis: Dieser Beitrag ist eine redaktionelle Zusammenfassung basierend auf einem Originalbericht von Hugging Face Blog.
Ein Modell für interaktive Oberflächen
H Company veröffentlicht mit Holotron-12B ein multimodales Modell, das nicht primär Bilder beschreiben, sondern als Steuerzentrale für Computer-Agenten dienen soll. Solche Agenten müssen Bildschirminhalte erkennen, Entscheidungen treffen und über längere Interaktionen hinweg zuverlässig klicken oder navigieren. Ausgangspunkt ist NVIDIAs offenes Nemotron-Nano-2 VL, das mit einer proprietären Mischung aus Lokalisierungs- und Navigationsdaten weitertrainiert wurde.
Das Training erfolgte in zwei Stufen und umfasste für den finalen Checkpoint rund 14 Milliarden Tokens. Im Mittelpunkt standen Bildschirmverständnis, visuelles Grounding und Interaktionen auf Benutzeroberflächen. Modell und Checkpoints sind auf Hugging Face unter einer NVIDIA Open Model License verfügbar.
Hybridarchitektur senkt den Speicherbedarf
Die wichtigste technische Eigenschaft ist die Kombination aus Attention und einem State-Space Model (SSM). Während klassische Attention für jeden Token Schlüssel- und Wertaktivierungen im KV-Cache hält, arbeitet ein SSM mit einem konstanten Zustand pro Schicht und Sequenz. Bei langen Verläufen mit mehreren hochauflösenden Screenshots soll das den Speicherbedarf deutlich verringern und grössere Batches auf derselben GPU ermöglichen.
In einem WebVoyager-Test mit 100 parallelen Arbeitern erreichte Holotron-12B auf einer einzelnen H100-GPU und vLLM 0.14.1 laut Anbieter mehr als den doppelten Durchsatz von Holo2-8B. Bei maximaler Parallelität wurden 8’900 Tokens pro Sekunde gemessen, während Holo2-8B bei 5’100 Tokens pro Sekunde plateauierte. Der Vergleich stammt allerdings vom Hersteller und beschreibt ein spezifisches Setup; unabhängige Messungen in realen Anwendungen bleiben wichtig.
Starke Benchmarkwerte, klarer Einsatzfokus
Beim WebVoyager-Benchmark stieg die Erfolgsrate gegenĂĽber dem Nemotron-Basismodell von 35,1 auf 80,5 Prozent. Auch bei OS-World-G, GroundUI und WebClick meldet H Company deutliche Fortschritte. Damit zielt das Modell besonders auf durchsatzbegrenzte Aufgaben wie Datengenerierung, Annotation, Online-Reinforcement-Learning und viele gleichzeitig laufende Agentensitzungen.
Für Unternehmen ist nicht nur die Spitzenleistung relevant, sondern das Verhältnis aus Latenz, VRAM-Verbrauch und Zuverlässigkeit. Holotron-12B zeigt, wie hybride Architekturen Computer-Use-Agenten wirtschaftlicher betreiben könnten. Als nächster Schritt kündigt H Company Post-Training auf Basis von Nemotron 3 Omni an, inklusive MoE- und weiterentwickelter SSM-Attention-Strukturen.
Originalquelle: Hugging Face Blog – Holotron-12B – High Throughput Computer Use Agent
