125 अरब पैरामीटर का मॉडल अब आम गेमिंग पीसी पर चलता है।
Strata नाम का मुफ्त इंस्टॉलर बहुत बड़े Qwen मॉडल को ग्राफिक्स कार्ड और रैम में बांटता है। इसके लिए 12 गीगाबाइट वीडियो मेमोरी वाला कार्ड चाहिए, रफ्तार सेकंड में 53 से 94 टोकन। प्रोजेक्ट दस दिन पुराना है और GitHub पर 9,600 स्टार पार कर चुका है।
यह क्यों मायने रखता हैइतने बड़े मॉडल के लिए पहले क्लाउड किराया या सर्वर खरीदना पड़ता था। अब वही काम आपकी मशीन पर रहता है और बाहर कुछ नहीं जाता।