LFM2.5 bringt leistungsfähige KI-Agenten direkt auf Laptop und Smartphone
💡 Quellen-Hinweis: Dieser Beitrag ist eine redaktionelle Zusammenfassung basierend auf einem Originalbericht von Hugging Face Blog.
Liquid AI stellt mit LFM2.5-2.6B ein kompaktes Sprachmodell vor, das KI-Agenten direkt auf Endgeräten ausführen soll. Mit 2,6 Milliarden Parametern richtet es sich an Anwendungen, die Werkzeuge aufrufen, Anweisungen über mehrere Schritte verfolgen und sensible Daten möglichst lokal verarbeiten. Der zentrale Nutzen: Agenten können auf Laptops, Smartphones oder Edge-Systemen laufen, ohne dass jede Anfrage an einen Cloud-Dienst gesendet werden muss. Das kann Datenschutz, Reaktionszeit und laufende Inferenzkosten verbessern.
Agenten-Training statt reiner Chat-Fokus
Nach Angaben der Entwickler wurde das Basismodell auf rund 34 Billionen Tokens vortrainiert und in einer Zwischenphase auf ein Kontextfenster von 128.000 Tokens erweitert. Das anschließende Training bestand aus vier Stufen: überwachtem Feintuning mit Schwerpunkt auf Tool-Nutzung und Agentenabläufen, spezialisierten Lehrermodellen für einzelne Fachgebiete, einer domänenübergreifenden On-Policy-Destillation sowie Reinforcement Learning in realen Agenten-Frameworks.
Technisch interessant ist die Trennung von Modelloptimierung, Inferenz und Ausführungsumgebung. Aktionen laufen in einer Sandbox, während ein Proxy die Abläufe verschiedener Agenten-Harnesses erfasst. So soll das Modell lernen, mit wechselnden Werkzeugen, Systemvorgaben und mehrstufigen Aufgaben umzugehen. Genannt werden unter anderem OpenClaw und Hermes Agent. Die veröffentlichten Benchmarks stammen allerdings vom Anbieter und sollten deshalb als Orientierung, nicht als unabhängiger Leistungsnachweis gelesen werden.
Stark bei Werkzeugen, Grenzen beim Programmieren
In den gezeigten Vergleichen tritt LFM2.5-2.6B gegen Modelle mit bis zu etwa vierfacher Größe an. Besonders gut schneidet es laut Liquid AI bei Befolgung von Anweisungen und Tool-Nutzung ab. Auch in mehreren Agenten-Benchmarks bleibt es mit größeren Qwen-Modellen konkurrenzfähig und liegt vor den verglichenen Gemma-Varianten. Beim Programmieren haben größere Modelle dagegen weiterhin einen klaren Vorsprung. Für anspruchsvolle Coding-Agenten ist das kleine Modell damit nicht automatisch die beste Wahl.
Hohe Geschwindigkeit und breiter Software-Support
Für lokale Installationen nennt der Beitrag bis zu 220 Tokens pro Sekunde auf einem Apple M5 Max und 113 Tokens pro Sekunde auf einem AMD Ryzen AI Max+ 395, bei weniger als 2,5 GB Speicherbedarf. Auf Smartphones sollen rund 30 Tokens pro Sekunde möglich sein. Bei hoher Parallelität erreicht eine einzelne H100-GPU laut Hersteller fast 15.000 Ausgabe-Tokens pro Sekunde. Unterstützung gibt es zum Start unter anderem für Transformers ab Version 5, llama.cpp, MLX, vLLM, SGLang und ONNX.
Für DailyTechSnack-Leser ist LFM2.5 vor allem als Baustein für private Offline-Assistenten, lokale Automatisierung und stark skalierende Agenten-Dienste interessant. Praktisch entscheidend bleiben die Qualität im eigenen Einsatzgebiet, die konkrete Hardware, Sicherheitsgrenzen der angebundenen Werkzeuge und unabhängige Tests. Das Modell sowie eine Base-Variante stehen auf Hugging Face bereit; zusätzlich zeigt eine WebGPU-Demo einen Recherche-Agenten direkt im Browser.
Originalquelle: Hugging Face Blog – Deploy local agents everywhere with LFM2.5-2.6B
