OlmoEarth v1.1 senkt Rechenaufwand für Satelliten-KI deutlich
💡 Quellen-Hinweis: Dieser Beitrag ist eine redaktionelle Zusammenfassung basierend auf einem Originalbericht von Hugging Face Blog.
Weniger Rechenkosten für grossflächige Analysen
Ai2 hat mit OlmoEarth v1.1 eine effizientere Familie von KI-Modellen für Erdbeobachtung veröffentlicht. Gegenüber der ersten Generation soll der Rechenaufwand bei ähnlicher Leistung um bis zu den Faktor drei sinken. Das ist relevant, weil Anwendungen wie Waldverlustanalyse, Mangroven-Monitoring oder landesweite Erntekarten sehr grosse Flächen und wiederkehrende Satellitenaufnahmen verarbeiten. In solchen Projekten dominiert Rechenleistung häufig die Gesamtkosten von Export, Vorverarbeitung, Inferenz und Nachbearbeitung.
Der zentrale Hebel ist die Sequenzlänge. Transformer verarbeiten Satellitendaten als Tokenfolgen, deren Kosten mit zunehmender Länge überproportional steigen. Bisher erzeugte OlmoEarth für Sentinel-2-Daten getrennte Token je Zeitpunkt und Auflösungsstufe. Da Sentinel-2 Bänder mit 10, 20 und 60 Metern Auflösung umfasst, entstehen pro räumlichem Ausschnitt und Zeitpunkt mehrere Token.
Token werden zusammengeführt
OlmoEarth v1.1 bündelt die Auflösungsstufen in einem gemeinsamen Token und reduziert die Tokenzahl dadurch um den Faktor drei. Eine naive Zusammenlegung verschlechterte in den Versuchen allerdings die Qualität deutlich; bei einem gängigen Fernerkundungs-Benchmark betrug der Rückgang zehn Prozentpunkte. Erst Änderungen am Pretraining ermöglichten die kompaktere Darstellung, ohne den Nutzen der Beziehungen zwischen verschiedenen Spektralbändern weitgehend zu verlieren.
Weil Transformer-Aufwand stark von der Sequenzlänge abhängt, wirken sich diese Einsparungen über den gesamten Lebenszyklus aus: Vortraining, Fine-Tuning und Inferenz werden günstiger. Ai2 bietet erneut mehrere Grössen an, darunter Base, Tiny und Nano. Teams können damit zusätzlich zwischen Modellkapazität und Ressourcenbedarf abwägen.
Offene Gewichte mit realistischer Einordnung
Für Entwickler ist der Wechsel besonders dann attraktiv, wenn das bisherige OlmoEarth-Modell bereits passende Ergebnisse liefert, die laufenden Kosten aber eine Skalierung bremsen. Ai2 weist zugleich auf mögliche Regressionen bei einzelnen Aufgaben hin und empfiehlt eine Prüfung anhand des technischen Berichts und eigener Daten. Positiv für die Forschung: Version 1.1 wurde auf demselben Datensatz wie der Vorgänger trainiert. Unterschiede lassen sich deshalb besser auf methodische Änderungen zurückführen. Gewichte und Trainingscode sind offen verfügbar und erleichtern damit unabhängige Evaluationen.
Originalquelle: Hugging Face Blog – OlmoEarth v1.1: A more efficient family of Earth observation models
