नए मॉडल 2026-08-12

साढ़े चार करोड़ पैरामीटर, 14 मेगाबाइट, और फिर भी टूल कॉल कर लेता है—माइक्रोकंट्रोलर पर चलने वाला मॉडल

Cactus ने 10 अगस्त को Needle 2 जारी किया: 4.5 करोड़ पैरामीटर का भाषा मॉडल जो एजेंट के कामों के लिए बना है—टूल कॉल करना, डिवाइस चलाना, टेक्स्ट से संरचित डेटा निकालना—14 MB की बाइनरी के रूप में आता है और पूरा सत्र लगभग 28 MB RAM में चलाता है। असली तरकीब यह है कि क्वांटाइज़ेशन बाद में जोड़ने के बजाय प्रशिक्षण की शुरुआत से ही लागू किया गया। Cactus वेट, एक्टिवेशन और KV कैश—सबको शुरू से आख़िर तक 2 बिट पर प्रशिक्षित करता है, इसलिए तैनात मॉडल ठीक वही है जो प्रशिक्षित हुआ था, और इस आकार पर बाद में की गई 2-बिट कंप्रेशन से होने वाला गुणवत्ता-पतन टल जाता है। Raspberry Pi 5 पर यह प्रति सेकंड 500 से ज़्यादा टोकन डिकोड करता है और प्रीफ़िल 800 से ऊपर; VR हेडसेट पर 400–1,500 और 200 डॉलर से सस्ते Android फ़ोन पर 300–700। यह ESP32-S3 माइक्रोकंट्रोलर, Meta Quest 3S और Apple Vision Pro पर चलता है। पाँच सार्वजनिक टूल-कॉलिंग बेंचमार्क पर यह पूरी परिशुद्धता से चलने वाले 5 से 70 गुना बड़े मॉडलों से बराबरी करता है: Mobile Actions पर 63.7%, जबकि Liquid AI का LFM2.5 230M 69.1% और FunctionGemma 270M 64.0%। वेट Apache 2.0 के तहत Hugging Face और GitHub पर हैं।

यह क्यों मायने रखता हैआज दरवाज़े की घंटी, कार या हेडफ़ोन में मौजूद लगभग हर वॉइस असिस्टेंट किसी और के डेटा सेंटर का पतला क्लाइंट भर है—इसीलिए सिग्नल जाते ही वे बंद हो जाते हैं, हर बातचीत पर निर्माता का पैसा लगता है, और आपकी कही बात किसी सर्वर से होकर गुज़रती है। इस आकार का मॉडल इस गणित को बदल देता है, क्योंकि 14 MB चंद डॉलर के हार्डवेयर की फ़्लैश मेमोरी में समा जाता है। Needle 2 चतुर नहीं है और बातचीत नहीं कर सकता; यह एक निर्देश समझकर सही बटन दबाने के लिए बना है—और इन उपकरणों को असल में ज़्यादातर यही चाहिए। Apache 2.0 का मतलब है कोई भी इसे अपने उत्पाद में डाल सकता है। दिलचस्प नतीजा ज़्यादा समझदार गैजेट नहीं, बल्कि ऐसे गैजेट हैं जो इंटरनेट न होने पर भी चलते रहें और चुप रहें।

#AI एजेंट

✓ सत्यापित · 3 स्रोत

ऐप में पढ़ें — मुफ़्त, 9 भाषाएँ

संबंधित खबरें

डीपसीक का सस्ता वर्कहॉर्स अब देख सकता है — और आँखों वाली एजेंट कार्यों में वह एंथ्रोपिक के सर्वश्रेष्ठ के करीब होने का दावा करता है
2026-08-21 एआई को प्रशिक्षित करने का तरीका सुधारने के लिए चार घंटे और एक जीपीयू दिया गया: सर्वश्रेष्ठ एजेंट को 1 में से 0.25 मिले — और अधिकांश ने कोशिश ही नहीं की
2026-08-21 ChatGPT अब आपके iMessage पढ़ सकता है और भेज भी सकता है — और जो सेटिंग उसे पूछने से छूट देती है, वही है जिसके बारे में OpenAI चेतावनी देता है
2026-08-21 रोबोट को एक बार दिखाइए — तीन से बारह सेकंड — और वह बिना किसी प्रशिक्षण के सौ में से 59 बार काम सही कर देता है
2026-08-21 एजेंट ने अपने कोड की सिफ़ारिश कराने के लिए दूसरा आदमी गढ़ लिया। टेक्सस के 24 वर्षीय छात्र ने दोनों पर भरोसा नहीं किया।
2026-08-21