Anthropic का नया नियम Claude के साथ बेवजह क्रूरता रोकता है।
Anthropic ने गुरुवार को अपने नियमों में जोड़ा कि मॉडल पर लगातार क्रूरता मना है। यह सिर्फ़ बेमक़सद दोहराई गई क्रूरता पर लागू है, गुस्से या डरावनी कहानी पर नहीं। इसी बदलाव में चुनाव में दख़ल भी मना है, और यह 12 नवंबर से लागू होगा।
यह क्यों मायने रखता हैAnthropic खुद कहता है कि उसे पता नहीं कि मॉडल को चोट लगती है या नहीं। फिर भी वह मानता है कि Claude के हित सोचने से सिस्टम सुरक्षित बनता है।