Anthropic के जैविक-हथियार फ़िल्टर ग्यारह महीने तक बंद रहे — 13.3 करोड़ बातचीत के दौरान
14 अगस्त को प्रकाशित अपनी दूसरी कंपनी-व्यापी जोखिम रिपोर्ट में Anthropic ने बताया कि जैविक हथियार बनाने में मदद रोकने के लिए बने ब्लॉकिंग क्लासिफ़ायर मई 2025 से अप्रैल 2026 तक मानव-फ़ीडबैक विक्रेता के पूरे ट्रैफ़िक पर निष्क्रिय रहे। इसमें लगभग 50,000 बाहरी ठेका कर्मियों के साथ लगभग 13.3 करोड़ आदान-प्रदान शामिल हैं — ये लोग केवल उन्हीं बाहरी कंपनियों द्वारा जाँचे गए थे जिन्होंने उन्हें रखा था। इस अवधि में प्रभावित मॉडलों में Mythos Preview भी था, जो कंपनी के सबसे सक्षम मॉडलों में से एक है और लगभग दो हफ़्ते इस अंतर के पीछे चला। कंपनी का कहना है कि आंतरिक जाँच में वास्तविक दुरुपयोग का कोई प्रमाण नहीं मिला, किसी ग्राहक पर असर नहीं पड़ा, और तब से ठेका शर्तें कड़ी करके यह खामी बंद कर दी गई है।
यह क्यों मायने रखता हैअपने सुरक्षा ढाँचे के पक्ष में Anthropic की सार्वजनिक दलील मुख्यतः जैविक हथियार जोखिम पर टिकी है — और कंपनी को पता ही नहीं चला कि उसी जोखिम का मुख्य फ़िल्टर लगभग एक साल बंद रहा। सुरक्षा के वादे ऐसी व्यवस्था पर टिके हैं जो बिना किसी चेतावनी के चुपचाप टूट सकती है। यह यह भी दिखाता है कि बिना फ़िल्टर वाला मॉडल असल में कहाँ रहता है: भुगतान करने वाले ग्राहकों के पास नहीं, बल्कि उन दसियों हज़ार ठेका कर्मियों के पास जिनकी जाँच कोई और करता है।
ऐप में पढ़ें — मुफ़्त, 9 भाषाएँ
संबंधित खबरें
एंथ्रोपिक को स्पेसएक्स जितना — यानी इतिहास की सबसे बड़ी लिस्टिंग जितना — जुटाने की उम्मीद है, और वह इसी महीने सार्वजनिक आवेदन कर सकती है2026-08-21एनवीडिया प्रतिद्वंद्वी की "मॉडल बनाने वाली मशीन" के लिए 6 अरब डॉलर दे रहा है — और उसे चलाने वाले 109 लोगों को नौकरी दे रहा है
2026-08-21एआई के जवाबों को अंक देने वाले डॉक्टर और वकील अब आधा अरब डॉलर का कारोबार हैं — और यह कंपनी आठ महीनों में पाँच गुना बढ़ी
2026-08-21कारोबारी AI ख़र्च में बढ़त अब भी Anthropic की है। पर मई के बाद पहली बार फ़ासला बढ़ नहीं, घट रहा है।
2026-08-21अलीबाबा का एआई कारोबार साढ़े पाँच साल की सबसे तेज़ रफ्तार से बढ़ा। मुनाफा लगभग 75 प्रतिशत गिर गया।
2026-08-20