जब छोटा मॉडल बातचीत बड़े को सौंपता है, तो बड़ा सब कुछ दोबारा पढ़ता है। एनवीडिया कहती है कि यह अनुवाद एक सीधी रेखा कर सकती है।
सस्ते से शुरू करके कठिन सवाल पर मज़बूत मॉडल की ओर बढ़ने वाली प्रणालियाँ एक छिपा हुआ कर चुकाती हैं: लेने वाला मॉडल पूरी बातचीत शून्य से दोबारा पढ़ता है। इसी चरण को प्रीफ़िल कहते हैं और लंबे प्रॉम्प्ट की अधिकांश लागत यहीं बैठती है। इस सप्ताह अधिक ध्यान खींचने वाले एक arXiv पेपर (2608.03893) में एनवीडिया के शोधकर्ता बताते हैं कि एक ही परिवार के एक मॉडल का आंतरिक की-वैल्यू कैश साधारण रैखिक प्रतिगमन से दूसरे पर मैप हो जाता है — बिना ग्रेडिएंट डिसेंट के, केवल 1,024 टोकन वाले 500 अनुक्रमों के अंशांकन सेट से; स्थिति-कूटन हटा देने के कारण यह किसी भी संदर्भ-लंबाई पर काम करता है। 32,768 टोकन के कैश का स्थानांतरण 278 मिलीसेकंड में हुआ, जबकि दोबारा प्रीफ़िल करने में लगभग 7 सेकंड। तीन परिवारों के छह मॉडल-युग्मों में यह मैपिंग दोबारा पढ़ने से 2.7 से 25 गुना तेज़ रही। ईमानदार हिस्सा नतीजों में है: छह में से चार युग्मों में लेने वाले मॉडल की अपनी सटीकता का 73 से 98 प्रतिशत बचा रहा, और दो में तेज़ी से गिरावट आई।
संबंधित खबरें
27 अरब पैरामीटर वाले एक मॉडल ने प्रकाशित शोधपत्रों को दोहराने में Opus 4.8 और GPT-5.5 को हराया2026-08-23किसी अप्रकाशित शोधपत्र की संदर्भ-सूची मॉडल को दें और पूछें कि पत्र क्या कहता है। सबसे अच्छे मॉडल 15 प्रतिशत बार सही होते हैं।
2026-08-22तीन-चौथाई अमेरिकी अपने पास डेटा सेंटर नहीं चाहते। एक साल पहले वे बराबरी पर बँटे थे।
2026-08-22मॉडल अकेले 30 प्रतिशत पर था। एनवीडिया के ढाँचे में लपेटने पर उसी मॉडल ने सब कुछ पार कर लिया।
2026-08-22मशीन लर्निंग ने बीमार मस्तिष्क कोशिकाओं का आकार पढ़ा और नौ पहले से स्वीकृत दवाएँ चुनीं जिन्होंने उन्हें शांत किया
2026-08-21