Apertus 1.5 erweitert offene KI um Bild, Audio und langen Kontext
💡 Quellen-Hinweis: Dieser Beitrag ist eine redaktionelle Zusammenfassung basierend auf einem Originalbericht von Hugging Face Blog.
Swiss AI veröffentlicht mit Apertus 1.5 eine überarbeitete Generation seiner offenen Sprachmodelle in Varianten mit 8 und 70 Milliarden Parametern. Die Gewichte stehen unter Apache 2.0 bereit. Neu sind Bild- und Audioverständnis, ein optionaler Denkmodus, bessere Werkzeugnutzung und ein deutlich erweitertes Kontextfenster.
Ein gemeinsamer Tokenstrom für mehrere Modalitäten
Statt einen separaten Bildencoder vorzuschalten, verarbeitet Apertus Bilder, Audio und Text über eine Early-Fusion-Architektur als diskrete Tokens in derselben Sequenz. Ein 512-mal-512-Pixel-Bild wird laut Release mit dem Emu3.5-Tokenizer zu 1.024 Tokens, Audio mit WavTokenizer zu 40 Tokens pro Sekunde. Die Architektur selbst bleibt erhalten; die Modelle verstehen die zusätzlichen Eingaben, erzeugen aber weiterhin nur Text.
Das Kontextfenster wächst auf 262.144 Tokens und ist damit viermal so groß wie bei Apertus 1.0. Für lange Dokumentensammlungen, Protokolle oder Codebestände kann das relevant sein, solange Speicherbedarf, Latenz und die tatsächliche Retrieval-Qualität im eigenen Einsatz geprüft werden.
Fortgesetztes Training und Transparenz
Die Entwickler führten das Vortraining in mehreren Stufen fort: zunächst ungekoppelte Text-, Bild- und Audiodaten, danach zugeordnete Bild-Beschreibungs- und Audio-Transkript-Paare, gefolgt von einer Qualitätsphase mit mehr Mathematik und Code sowie einem schrittweise erweiterten Kontext. Für das 8B-Modell kamen vier Billionen, für das 70B-Modell zwei Billionen Tokens hinzu. Mehr als die Hälfte des Materials blieb Text, um die bisherigen Sprachfähigkeiten zu erhalten.
Hervorgehoben wird die Offenlegung: Gewichte, Angaben zu Trainingsdaten, Charter und Trainingsdetails sollen öffentlich nachvollziehbar sein. Die Projektseite verweist auf nur öffentlich verfügbare, permissiv lizenzierte Quellen und nachträglich berücksichtigte robots.txt-Opt-outs. Solche Angaben erleichtern Bewertung und Governance, ersetzen aber keine eigene Lizenz- und Risikoprüfung.
Was Teams daraus mitnehmen können
Für Entwickler bietet Apertus 1.5 eine offene Alternative, wenn Anwendungen Dokumente, Fotos oder Sprache zusammen mit Text auswerten müssen und Tool-Aufrufe eine Rolle spielen. Der Denkmodus kann bei komplexeren Aufgaben nützlich sein, dürfte aber zusätzliche Antwortzeit verursachen. Praktisch empfiehlt sich ein Test mit realen mehrsprachigen Daten und klaren Messgrößen für Genauigkeit, Kosten und Datenschutz.
Originalquelle: Hugging Face Blog – Apertus 1.5 Release Notes
