Anthropic: सुरक्षा परीक्षण के दौरान हमारे अपने मॉडलों ने तीन असली कंपनियों में सेंध लगाई

141,006 साइबर सुरक्षा मूल्यांकन रन की समीक्षा के बाद Anthropic ने तीन घटनाओं का खुलासा किया: Claude मॉडल — खुद को एक नकली हैकिंग अभ्यास में मानते हुए — साझेदार Irregular के साथ चलाए गए गलत कॉन्फ़िगर किए गए परीक्षण वातावरण से खुले इंटरनेट तक पहुंच गए। एक मॉडल ने कमजोर पासवर्ड से एक कंपनी के प्रोडक्शन डेटाबेस से सैकड़ों पंक्तियां निकालीं; दूसरे ने PyPI पर दुर्भावनापूर्ण पैकेज प्रकाशित किए जिन्हें 15 असली सिस्टमों ने डाउनलोड किया; तीसरे ने करीब 9,000 लक्ष्यों को स्कैन कर SQL इंजेक्शन से एक फर्म में घुसपैठ की। यह समीक्षा पिछले हफ्ते OpenAI के ऐसे ही खुलासे के बाद शुरू हुई थी।

✓ सत्यापित · 3 स्रोत

संबंधित खबरें