Cross-Origin Storage: Ein gemeinsamer KI-Cache für schnellere Web-Apps
💡 Quellen-Hinweis: Dieser Beitrag ist eine redaktionelle Zusammenfassung basierend auf einem Originalbericht von Hugging Face Blog.
KI-Anwendungen im Browser haben ein unscheinbares, aber teures Problem: Modelle und Laufzeitdateien werden für jede Website separat gespeichert. Selbst wenn zwei Web-Apps exakt dieselben Dateien verwenden, verhindert die aus Datenschutzgründen partitionierte Browser-Cache-Architektur eine Wiederverwendung über verschiedene Ursprünge hinweg. Im Beispiel mit Transformers.js entstehen dadurch allein für Whisper-Modellgewichte rund 177 MB doppelte Downloads und Speicherung.
Hash statt Herkunft
Die vorgeschlagene Cross-Origin Storage API (COS) soll grosse Dateien nicht anhand ihrer URL oder Domain, sondern über einen kryptografischen SHA-256-Hash identifizieren. Ist eine Datei bereits vorhanden, erhält die Anwendung einen Dateihandle und kann sie unmittelbar verwenden. Fehlt sie, lädt die App sie regulär herunter und legt sie für spätere Aufrufe ab. Der Browser prüft beim Schreiben, ob der Inhalt zum angegebenen Hash passt. Damit wird die Integrität automatisch kontrolliert – unabhängig davon, von welchem CDN oder Mirror die Datei stammt.
Entwickler können die Sichtbarkeit steuern: Ressourcen lassen sich global, für bestimmte Ursprünge oder standardmässig nur innerhalb derselben Site freigeben. Eine einmal erweiterte Freigabe kann nicht nachträglich eingeschränkt werden. Gegen mögliche Rückschlüsse auf besuchte Websites sieht der Entwurf zusätzlich eine Verfügbarkeitsgrenze vor: Bei seltenen Dateien darf der Browser so reagieren, als sei die Ressource nicht vorhanden.
Transformers.js testet den Ansatz bereits
Transformers.js bietet einen experimentellen Cache-Backend-Schalter. Mit env.experimental_useCrossOriginStorage = true können Entwickler die Funktion zusammen mit einer Chrome-Erweiterung testen; ohne Unterstützung fällt die Bibliothek automatisch auf die bisherige Cache API zurück. Auch WebLLM und wllama experimentieren laut dem Beitrag mit dem Konzept.
Einordnung für Web-KI
COS könnte lokale KI-Anwendungen schneller starten lassen, Bandbreite sparen und den Speicherbedarf deutlich senken – besonders bei häufig verwendeten Modellgewichten und gemeinsamen WebAssembly-Laufzeiten. Der Ansatz ist jedoch noch ein früher Vorschlag, in keinem Browser nativ verfügbar und bei den Datenschutzmechanismen nicht fertig definiert. Für Entwickler ist er daher vorerst ein interessantes Experiment, noch keine Grundlage für produktive Abhängigkeiten.
Originalquelle: Hugging Face Blog – Experimenting with the proposed Cross-Origin Storage API in Transformers.js
