Cloudflare hat die Methoden veröffentlicht, mit denen es schwergewichtige offene Modelle wie Moonshots Kimi K2.6 und Z.ais GLM 5.2 auf seiner Workers-AI-Plattform betreibt. Den Attention-Cache in 8 statt 16 Bit zu speichern verdoppelt die Kontextkapazität auf 1,37 Millionen Tokens und bringt 41 % mehr Durchsatz bei rund 30 % geringeren Kosten pro Token; das Komprimieren der GLM-Gewichte auf 4 Bit schrumpft das Modell von 705 GB auf 421 GB. Die Genauigkeit in Benchmark-Suiten sei von den Originalen nicht zu unterscheiden gewesen, so das Unternehmen.