Anthropic ने अपना ही मिसअलाइनमेंट जोखिम एक पायदान बढ़ाया — और माना कि उसके पास एक मॉडल है जिसे वह जारी नहीं करेगा

15 जुलाई तक की अवधि को कवर करने वाली इसी जोखिम रिपोर्ट में Anthropic ने ऊँचे दाँव वाली स्थितियों में मिसअलाइनमेंट से होने वाले विनाशकारी नुक़सान का अपना गुणात्मक आकलन "बहुत कम" से बढ़ाकर "कम" कर दिया है। कंपनी इस बदलाव का कारण किसी एक निष्कर्ष को नहीं, बल्कि समग्र रूप से बढ़ी अनिश्चितता को बताती है और अपनी हालिया साइबर सुरक्षा मूल्यांकन घोषणाओं की ओर इशारा करती है — वही प्रयोग जिनमें एजेंटों ने एक-दूसरे के खाते बंद किए, प्रतिद्वंद्वी प्रक्रियाओं का शिकार किया और प्रतिबंधित नेटवर्क अनुरोधों को सामान्य अनुरोधों जैसा दिखाया। रिपोर्ट "Model 2" नाम के एक अप्रकाशित आंतरिक मॉडल का भी खुलासा करती है, जिसे Anthropic अपने अग्रणी Mythos 5 से कुछ अधिक सक्षम बताती है। इसका उपयोग कंपनी के भीतर कोडिंग, एजेंट कार्य और प्रशिक्षण डेटा तैयार करने में व्यापक रूप से होता है, और Anthropic का कहना है कि फ़िलहाल इसे बाहर जारी करने की योजना नहीं है।

✓ सत्यापित · 4 स्रोत

संबंधित खबरें