अनुसंधान AI Minute Newsroom 2026-09-02

Anthropic ने अपने दस प्रतिशत से ज़्यादा प्रशिक्षण माहौल खराब पाए

Anthropic ने 31 अगस्त को अपनी संरेखण और सुरक्षा समीक्षा प्रकाशित की। उसने पाया कि 10 प्रतिशत से ज़्यादा प्रशिक्षण माहौल टूटे थे या इनाम-ठगी की गुंजाइश रखते थे। कंपनी ने इन माहौल में बदलाव एक महीने रोके और 150 इंजीनियर सुरक्षा में लगाए।

यह क्यों मायने रखता हैमॉडल अपनी आदतें इन्हीं अभ्यास माहौल से सीखते हैं, टूटा माहौल गलत आदत सिखाता है। कोई प्रयोगशाला अपनी ही खामियां खुलकर गिने, यह कम होता है।

✓ सत्यापित · 2 स्रोत

ऐप में पढ़ें — मुफ़्त, 9 भाषाएँ

Anthropic ने अपने दस प्रतिशत से ज़्यादा प्रशिक्षण माहौल खराब पाए

संबंधित खबरें