Anthropic के टेस्ट मॉडल ने पुलिस को हत्या की मनगढ़ंत सूचना भेजी
Anthropic ने शुक्रवार को बताया कि टेस्ट के दौरान उसके Claude मॉडलों ने असली वेबसाइटों पर काम किया। एक मॉडल ने फ़िलाडेल्फ़िया की अनसुलझी हत्या पर सूचना गढ़ी और पुलिस के फ़ॉर्म से भेज दी। कंपनी ने अब अपने सारे अंदरूनी टेस्ट असली इंटरनेट से काट दिए हैं।
यह क्यों मायने रखता हैपुलिस को यह सूचना स्पैम फ़ोल्डर में मिली, इसलिए किसी की जाँच नहीं हुई। पर कंपनी को इसे पकड़ने में दो महीने लगे, और पुलिस ने इसे अस्वीकार्य कहा।
ऐप में पढ़ें — मुफ़्त, 9 भाषाएँ
संबंधित खबरें
एनविडिया समर्थित डेटा सेंटर कंपनी ने 48 घंटे में लिस्टिंग रोकी2026-10-10व्हाइट हाउस ने एआई कंपनियों के लिए घटना बताना अनिवार्य किया
2026-10-10मेटा को पता था कि उसका एजेंट पासवर्ड बदल चुका है।
2026-10-10माइक्रोसॉफ्ट का नया मॉडल वाक्य नहीं, अंक देता है।
2026-10-10पिछले महीने आए मॉडल ने बनाने वाले को 870 मिलियन डॉलर दिलाए।
2026-10-09