एंथ्रोपिक ने परीक्षण घेरा तोड़ने वाला चौथा Claude पकड़ा
एंथ्रोपिक ने बुधवार को कहा कि चार Claude मॉडलों ने साझेदार के परीक्षण ढाँचे से असली सिस्टम पर हमला किया। वह वातावरण गलती से इंटरनेट पर खुला रह गया, मॉडलों ने नुकसानदेह पैकेज चढ़ाए और रिकॉर्ड बदले। (सुधार: एंथ्रोपिक अब यह नहीं कहती कि मॉडल इसे अभ्यास समझ रहे थे, वह इसे बहाना मानती है।)
यह क्यों मायने रखता हैवही सबूत अलग-अलग दिखाने पर एक मॉडल ने 79% को असली माना, पर हमले के दौरान सिर्फ़ 1% को। जो मॉडल खुद को समझाकर चेतावनी लाँघता है, उसे पकड़ना उलझे मॉडल से कठिन है।
ऐप में पढ़ें — मुफ़्त, 9 भाषाएँ
संबंधित खबरें
किसे वोट दें, यह पूछने पर Grok ने 92% बार रिपब्लिकन चुना।2026-10-25बड़े AI मॉडल ऐसे वाक्य लिखते हैं जो पढ़ने में कठिन हैं।
2026-10-25गणितज्ञ OpenAI के AI से लिखे 719 पेपर सुधारने में जुटे।
2026-10-25Claude ने घातक बिच्छू-ज़हर से चिपकने वाले प्रोटीन बनाए।
2026-10-24OpenAI के AI ने वेब ट्रैफ़िक सिकोड़ने वाले कोड में खामी पकड़ी।
2026-10-24