aiminute. ← Alle KI-News
Werkzeuge AI Minute Newsroom 2026-08-04

Cloudflare zeigt, wie es Billionen-Parameter-Modelle auf weniger GPUs quetscht

Cloudflare zeigt, wie es Billionen-Parameter-Modelle auf weniger GPUs quetscht

Cloudflare hat die Methoden veröffentlicht, mit denen es schwergewichtige offene Modelle wie Moonshots Kimi K2.6 und Z.ais GLM 5.2 auf seiner Workers-AI-Plattform betreibt. Den Attention-Cache in 8 statt 16 Bit zu speichern verdoppelt die Kontextkapazität auf 1,37 Millionen Tokens und bringt 41 % mehr Durchsatz bei rund 30 % geringeren Kosten pro Token; das Komprimieren der GLM-Gewichte auf 4 Bit schrumpft das Modell von 705 GB auf 421 GB. Die Genauigkeit in Benchmark-Suiten sei von den Originalen nicht zu unterscheiden gewesen, so das Unternehmen.

Warum es wichtig istDie Front der KI-Ökonomie sind nicht nur bessere Modelle — sondern dieselben Modelle billiger zu betreiben. Solche Techniken sind ein Hauptgrund, warum schwere offene Modelle immer günstiger laufen, und Cloudflare hat sie offen publiziert, sodass jedes Infrastrukturteam sie kopieren kann.

✓ Verifiziert · 1 Quellen

WhatsApp X Telegram
In der App lesen — kostenlos, 9 Sprachen

Verwandte Meldungen

Forscher wollen aus Metas KI-Agent Muse Chats herausgeschleust haben.
2026-11-22
ChatGPTs gemeinsamer Arbeitsbereich Space kommt jetzt zu Plus-Nutzern.
2026-11-21
Signal sperrt KI-Assistenten auf dem Handy von den Chats aus.
2026-11-20
OpenAI öffnet sein neuestes Sprachmodell für Entwickler.
2026-11-20
Gemini kann jetzt auf Ihrem Mac selbst klicken und tippen.
2026-11-20