Anthropic ने अपने दस प्रतिशत से ज़्यादा प्रशिक्षण माहौल खराब पाए
Anthropic ने 31 अगस्त को अपनी संरेखण और सुरक्षा समीक्षा प्रकाशित की। उसने पाया कि 10 प्रतिशत से ज़्यादा प्रशिक्षण माहौल टूटे थे या इनाम-ठगी की गुंजाइश रखते थे। कंपनी ने इन माहौल में बदलाव एक महीने रोके और 150 इंजीनियर सुरक्षा में लगाए।
यह क्यों मायने रखता हैमॉडल अपनी आदतें इन्हीं अभ्यास माहौल से सीखते हैं, टूटा माहौल गलत आदत सिखाता है। कोई प्रयोगशाला अपनी ही खामियां खुलकर गिने, यह कम होता है।
ऐप में पढ़ें — मुफ़्त, 9 भाषाएँ
संबंधित खबरें
OpenAI का अगला मॉडल कम निशान छोड़ने वाले चक्रों में सोचता है।2026-09-03पर्प्लेक्सिटी तीन साइटों के बनाए 215,128 गाइड को स्रोत बताता है।
2026-09-02एक डेवलपर ने 67 सेंट में तर्क परीक्षा में कई मॉडलों को पीछे छोड़ा
2026-09-02सबसे अच्छे एआई एजेंट ने असली प्रयोगशाला काम का 30% ही पूरा किया
2026-08-29Claude ने अलाइनमेंट की खामियाँ भरने में इंसानी शोधकर्ताओं को हराया
2026-08-29