Cohere-Modelle jetzt über Hugging Face Inference Providers nutzbar
💡 Quellen-Hinweis: Dieser Beitrag ist eine redaktionelle Zusammenfassung basierend auf einem Originalbericht von Hugging Face Blog.
Cohere ist als Inference Provider auf dem Hugging Face Hub verfügbar. Damit lassen sich ausgewählte Cohere- und Cohere-Labs-Modelle serverlos über die Hub-Oberfläche oder gängige Client-Bibliotheken ansprechen. Laut Hugging Face ist Cohere zugleich der erste Modellentwickler, der eigene Modelle direkt auf dem Hub anbietet und betreibt.
Modelle für Unternehmens- und Mehrsprachszenarien
Zum Start gehören Varianten der Command-R-Familie, Command A, Aya Expanse und Aya Vision. Command A wird mit 256.000 Token Kontext, RAG mit überprüfbaren Zitaten, Werkzeugnutzung und Unterstützung für 23 Sprachen beschrieben. Aya Expanse 32B richtet sich auf Mehrsprachigkeit mit 128.000 Token Kontext aus; Aya Vision 32B kombiniert Bild- und Sprachaufgaben wie OCR, Bildbeschreibung, visuelles Schlussfolgern und Fragen-Antworten.
Für niedrigere Latenz oder Kosten nennt der Beitrag Command R7B. Auch dieses Modell soll RAG, Tool Use und agentische Abläufe unterstützen. Die Auswahl macht sichtbar, dass der Provider nicht nur klassische Chat-Aufgaben adressiert, sondern auch Retrieval- und multimodale Workloads.
Integration über bekannte Schnittstellen
In der Hub-Oberfläche lässt sich nach dem Provider filtern und eine Inferenz direkt aus der Model Card starten. Programmatisch funktioniert der Zugang mit huggingface_hub ab Version 0.30, über das JavaScript-Paket oder über eine OpenAI-kompatible Basis-URL. Beim Hub-Routing kann ein Hugging-Face-Token verwendet werden; alternativ ist ein eigener Cohere-Schlüssel möglich.
Für Unternehmen vereinfacht dies Experimente, weil Modelle und Aufrufe an einer zentralen Plattform zusammenlaufen. Kosten und Governance müssen dennoch genau geprüft werden: Direkte Anfragen werden laut Beitrag über das Cohere-Konto abgerechnet, geroutete Aufrufe zu den regulären Cohere-API-Preisen ohne zusätzlichen Hub-Aufschlag. Die technische Bequemlichkeit ersetzt also weder Datenklassifizierung noch eine Prüfung, ob ein konkretes Modell zum jeweiligen Einsatzfall passt.
Originalquelle: Hugging Face Blog – Cohere on Hugging Face Inference Providers 🔥
