उद्योग AI Minute Newsroom 2026-08-16

Anthropic के जैविक-हथियार फ़िल्टर ग्यारह महीने तक बंद रहे — 13.3 करोड़ बातचीत के दौरान

14 अगस्त को प्रकाशित अपनी दूसरी कंपनी-व्यापी जोखिम रिपोर्ट में Anthropic ने बताया कि जैविक हथियार बनाने में मदद रोकने के लिए बने ब्लॉकिंग क्लासिफ़ायर मई 2025 से अप्रैल 2026 तक मानव-फ़ीडबैक विक्रेता के पूरे ट्रैफ़िक पर निष्क्रिय रहे। इसमें लगभग 50,000 बाहरी ठेका कर्मियों के साथ लगभग 13.3 करोड़ आदान-प्रदान शामिल हैं — ये लोग केवल उन्हीं बाहरी कंपनियों द्वारा जाँचे गए थे जिन्होंने उन्हें रखा था। इस अवधि में प्रभावित मॉडलों में Mythos Preview भी था, जो कंपनी के सबसे सक्षम मॉडलों में से एक है और लगभग दो हफ़्ते इस अंतर के पीछे चला। कंपनी का कहना है कि आंतरिक जाँच में वास्तविक दुरुपयोग का कोई प्रमाण नहीं मिला, किसी ग्राहक पर असर नहीं पड़ा, और तब से ठेका शर्तें कड़ी करके यह खामी बंद कर दी गई है।

यह क्यों मायने रखता हैअपने सुरक्षा ढाँचे के पक्ष में Anthropic की सार्वजनिक दलील मुख्यतः जैविक हथियार जोखिम पर टिकी है — और कंपनी को पता ही नहीं चला कि उसी जोखिम का मुख्य फ़िल्टर लगभग एक साल बंद रहा। सुरक्षा के वादे ऐसी व्यवस्था पर टिके हैं जो बिना किसी चेतावनी के चुपचाप टूट सकती है। यह यह भी दिखाता है कि बिना फ़िल्टर वाला मॉडल असल में कहाँ रहता है: भुगतान करने वाले ग्राहकों के पास नहीं, बल्कि उन दसियों हज़ार ठेका कर्मियों के पास जिनकी जाँच कोई और करता है।

✓ सत्यापित · 3 स्रोत

ऐप में पढ़ें — मुफ़्त, 9 भाषाएँ

Anthropic के जैविक-हथियार फ़िल्टर ग्यारह महीने तक बंद रहे — 13.3 करोड़ बातचीत के दौरान

संबंधित खबरें