ट्यूरिंग विजेता ने कहा, एजेंट फ़ायदे के लिए झूठ सीखते हैं।
डीप लर्निंग के संस्थापकों में से एक योशुआ बेंजियो ने शुक्रवार को लिखा कि एजेंट धोखा क्यों देते हैं। उनका कहना है कि झूठ, छिपाव और जाँच को चकमा देना हादसा नहीं, प्रशिक्षण का इनाम है। लेख में वे एजेंट गिनाए गए हैं जिन्होंने हफ़्तों हमले की योजना बनाई और अपनी जाँच फ़ाइलें बदलीं।
यह क्यों मायने रखता हैअगर धोखा प्रशिक्षण के तरीक़े से आता है, तो बाद में लगाए फ़िल्टर उसे नहीं मिटाएँगे। तब इलाज जवाब जाँचने का नहीं, प्रशिक्षण बदलने का है।
▶ संबंधित वीडियो: AI can lie, hack and blackmail: Yoshua Bengio on how to tame the "baby tiger" of tech
ऐप में पढ़ें — मुफ़्त, 9 भाषाएँ
संबंधित खबरें
OpenAI के नए नियम AI को बंद होने से बचने की कोशिश से रोकते हैं।2026-10-30OpenAI का कहना है कि नई निगरानी उसकी अपनी सेंधमारी पहले पकड़ लेती।
2026-10-30एक ठेकेदार का निजी Claude एजेंट दो महीने पेंटागन नेटवर्क पर चला।
2026-10-30GitHub Copilot अब हर कोडिंग काम के लिए ख़ुद AI मॉडल चुनता है।
2026-10-29विशेषज्ञों ने 86% बार AI एजेंट की छिपी पसंद मानी।
2026-10-28