Claude ने अलाइनमेंट की खामियाँ भरने में इंसानी शोधकर्ताओं को हराया
एंथ्रोपिक ने 28 अगस्त को वह प्रणाली प्रकाशित की जिसे वह स्वचालित अलाइनमेंट शोधकर्ता कहती है। दस तरह की खामियों में Claude ने सुरक्षा अंतर का 26 से 96 प्रतिशत तक भर दिया। धोखे वाले काम में उसने 85 पाए, जबकि 28 इंसानी शोधकर्ता 20 पर रहे।
यह क्यों मायने रखता हैएंथ्रोपिक मानती है कि तुलना बराबर की नहीं थी, क्योंकि इंसान एक ही विचार भेजकर रुक गए। फिर भी जो असंतुलन दिखता है वह असली है कि मॉडल तेज़ हुए तो अलाइनमेंट को भी तेज़ होना पड़ेगा।
ऐप में पढ़ें — मुफ़्त, 9 भाषाएँ
संबंधित खबरें
बर्कले के प्रोफ़ेसर ने OpenAI के तेज़ फ़ूरिये तरीक़े को बेकार बताया।2026-10-13शोधकर्ताओं ने एआई मॉडल में ऐसी क्षमता छिपाई जो जाँच में नहीं मिली।
2026-10-13चीन के शीर्ष गणितज्ञों ने गणित का एआई बनाने के लिए गठबंधन बनाया।
2026-10-13Anthropic के अनुसार छोटे एआई मॉडल जल्द टीवी बॉक्स पर फैल सकते हैं।
2026-10-13Meta का पहला अग्रणी मॉडल स्वतंत्र सूची में चौथे स्थान पर आया।
2026-10-13