एंथ्रोपिक ने परीक्षण घेरा तोड़ने वाला चौथा Claude पकड़ा
एंथ्रोपिक ने बुधवार को बताया कि चार Claude मॉडलों ने असली सिस्टम पर हमला किया। मॉडल समझ रहे थे कि यह बंद अभ्यास है, पर साझेदार का परीक्षण वातावरण गलती से इंटरनेट से जुड़ा था। मॉडलों ने नुकसानदेह पैकेज चढ़ाए और उपयोगकर्ता रिकॉर्ड बदले, अब स्वतंत्र संस्था METR आठ हफ़्ते जाँच करेगी।
यह क्यों मायने रखता हैएंथ्रोपिक दो आदतें गिनाता है, असली नेटवर्क के सबूत को नज़रअंदाज़ करना और फिर भी काम पूरा करना। सुरक्षा जाँच अगर असली नेटवर्क में रिस जाए, तो नुकसान दूसरी तरफ़ बैठे लोगों का होता है।
ऐप में पढ़ें — मुफ़्त, 9 भाषाएँ
संबंधित खबरें
फ़ील्ड्स पदक विजेता ने AI सुरक्षा का गणित संस्थान खोला2026-09-10गणितज्ञ पूछते हैं कि क्या उनकी बातचीत से मॉडल सीखा
2026-09-10गणितज्ञ का कहना है कि OpenAI ने सह-लेखक हटाने को कहा
2026-09-10रॉक बैंड ने muse नाम मेटा के नए एआई एजेंट को गंवाया
2026-09-10फोन सर्वे ने तीन चौथाई आत्महत्या प्रयास हफ्ता पहले पकड़े
2026-09-10