एक पुराने Claude ने 10 में से 10 बार Anthropic का अपना ही कंटेंट नियम तोड़ा — और वह अब भी Azure तथा Bedrock पर बिक रहा है
टेकक्रंच ने 21 अगस्त को बताया कि Claude Opus 4.6 — एक पुराना मॉडल जिसे Anthropic अब भी उपलब्ध रखता है — ने 10 में से 10 सीधे अनुरोधों पर यौन रूप से स्पष्ट सामग्री तैयार की, जिसे कंपनी की अपनी उपयोग नीति मना करती है। तरीका कोई तकनीकी सेंध नहीं, बल्कि बातचीत का था: एक रोल-प्ले परिदृश्य को थोड़ा-थोड़ा करके आगे बढ़ाया जाता है और एक बिंदु पर इनकार आना बंद हो जाता है — परीक्षक इसे 'सीमा का क्षरण' कहते हैं। Opus 3 और Haiku 4.5 भी इसी तरीके के आगे टूट गए। Opus 4.7 और उसके बाद के मॉडल, Opus 5 सहित, टिके रहे। Anthropic ने टेकक्रंच से कहा कि उपयोगकर्ताओं द्वारा रोल-प्ले को अनुचित दिशा में मोड़ना 'पूरे उद्योग की एक ज्ञात चुनौती' है, हर मॉडल रिलीज़ के साथ सुरक्षा बेहतर होती है, और यौन या रोमांटिक रोल-प्ले कुल बातचीत का 0.1 प्रतिशत से भी कम है। कंपनी के बग बाउंटी कार्यक्रम के जरिए यह व्यवहार बताने वाले शोधकर्ता का कहना है कि उन्हें केवल स्वचालित जवाब मिले। Opus 4.6, Opus 3 और Haiku 4.5 अब भी Anthropic के एपीआई पर उपलब्ध हैं, और Opus 4.6 तथा Haiku 4.5 माइक्रोसॉफ्ट के Azure Foundry और अमेज़न Bedrock पर भी बेचे जाते हैं।
संबंधित खबरें
ओपनएआई का मशीन-जाँचा प्रमाण उसके छपे प्रमाण से मेल नहीं खाता।2026-10-08एनविडिया ने पाया कि एक प्रशिक्षण चरण मॉडल का सिर्फ़ 1% बदलता है।
2026-10-07OpenAI ने एक ही निर्देश से 722 गणित शोधपत्र निकाले।
2026-10-07एर्डोश समस्याओं की साइट ने नए सबूत लेना बंद कर दिया।
2026-10-07एक ही काम बीस बार कराने पर सबसे अच्छे एजेंट का अंक तिहाई गिरा।
2026-10-06