Asynchrones Continuous Batching: So arbeiten CPU und GPU ohne Leerlauf zusammen
Continuous Batching verbessert die LLM-Inferenz, indem laufende Anfragen dynamisch in kompakte Batches aufgenommen und abgeschlossene…
Cloud
IT Infrastruktur
KI
Cloud
IT Infrastruktur
KI
Foundation Models auf AWS: Die Infrastruktur-Bausteine für Training und Inferenz
Die Skalierung von Foundation Models beschränkt sich längst nicht mehr auf grösseres Pretraining. Post-Training mit…
IT Infrastruktur
KI
Für KI-Training: Großbritannien bekommt Zugriff auf Militärdaten der Ukraine
Großbritannien soll als erster Staat Zugriff auf ukrainische Militärdaten erhalten , um damit Systeme der…
Browser
IT Infrastruktur
OS
Notepad++ v8.9.8 stopft 14 Sicherheitslücken
Der beliebte Windows-Editor Notepad++ ist in Version 8.9.8 erschienen. Nach Angaben von Heise Security schließt…
KI
WEB
KI-Label für Apple Music wird demnächst sichtbar gemacht
Apple Music bereitet offenbar einen sichtbaren Hinweis für Musik vor, die Elemente künstlicher Intelligenz enthält.
Cloud
IT Infrastruktur
KI
Delta Weight Sync beschleunigt das Training riesiger KI-Modelle
Das Gewichtsproblem bei asynchronem RL Beim asynchronen Reinforcement Learning müssen Trainer und Inferenzsystem regelmässig denselben…
Cloud
KI
OlmoEarth v1.1 senkt Rechenaufwand für Satelliten-KI deutlich
Weniger Rechenkosten für grossflächige Analysen Ai2 hat mit OlmoEarth v1.1 eine effizientere Familie von KI-Modellen…
Hardware
KI
WEB
Ettin-Reranker: Sechs Modelle für präzisere KI-Suche
Zweite Bewertungsstufe für bessere Treffer Hugging Face stellt mit Ettin Reranker sechs neue Cross-Encoder vor,…
Elektromobilität
Mobile APPs
Smartphone
Vier Wochen vor dem Start: Erste Eindrücke vom faltbaren iPhone Ultra
Apples erstes faltbares iPhone rückt offenbar näher. Personen, die das erwartete iPhone Ultra bereits genutzt…
Hardware
KI
OS
Mit M6 und neuen Farben: Neuer iMac soll noch dieses Jahr erscheinen
Apple könnte den nächsten iMac noch in diesem Jahr deutlich stärker aktualisieren als bisher erwartet.…
