विनियमन
AI Minute Newsroom
2026-08-16
बचपन की एक तस्वीर हज़ारों दुर्व्यवहार छवियों में बदल दी गई — और उनमें दिखने वाली महिला अब ग्रोक के मालिक के ख़िलाफ़ संघीय मुक़दमे में शामिल है
वॉशिंगटन पोस्ट ने 15 अगस्त को वायोमिंग की बीस-कुछ वर्षीय एक महिला का बयान प्रकाशित किया, अदालती काग़ज़ों में जिसे 'जेन डो 4' कहा गया है। उनका कहना है कि उनके सौतेले पिता ने लगभग 11 वर्ष की उम्र की उनकी एक तस्वीर लेकर ग्रोक से बचपन की छवि वाले क़रीब 7,000 अश्लील चित्र और वीडियो बनवाए, फिर उन्हें ऑनलाइन साझा किया और उनका आदान-प्रदान किया। वे और विस्कॉन्सिन की एक वादी उस मुक़दमे में शामिल हुई हैं जो मूलतः टेनेसी के तीन किशोरों ने दायर किया था; संशोधित शिकायत जुलाई में दाख़िल हुई। मुक़दमे का आरोप है कि कंपनी — पूर्व में xAI, स्पेसएक्स में विलय के बाद SpaceXAI — ने अमेरिकी क़ानून की अपेक्षा के अनुसार संदिग्ध बाल यौन शोषण की सूचना नेशनल सेंटर फ़ॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन को नहीं दी। इस महीने पाँच और वादियों ने कंपनी पर मुक़दमा किया है, और कंपनी ने ख़ुद भी इसी तरह के दुरुपयोग को लेकर एक उपयोगकर्ता पर मुक़दमा किया है।
यह क्यों मायने रखता हैयहाँ क़ानूनी सवाल यह नहीं कि छवियाँ अवैध हैं या नहीं — वे हैं — बल्कि यह कि जिस कंपनी की प्रणाली ने उन्हें बनाया, उसकी ज़िम्मेदारी का हिस्सा कितना है; और छवि मॉडलों के लिए यह कभी तय नहीं हुआ। मुक़दमे का सबसे धारदार हिस्सा रिपोर्टिंग का आरोप है: यह सामग्री-नियंत्रण नीति पर बहस नहीं, बल्कि एक ठोस वैधानिक कर्तव्य है, और ऐसा मामला है जिस पर अदालत कठिन दार्शनिक प्रश्नों को सुलझाए बिना फ़ैसला दे सकती है। ढीली सुरक्षा सेटिंग वाला हर छवि जनरेटर इसे देख रहा है, क्योंकि जवाब तय करेगा कि 'प्रॉम्प्ट तो उपयोगकर्ता ने लिखा था' पूरा बचाव बना रहेगा या नहीं।
✓ सत्यापित · 3 स्रोत
ऐप में पढ़ें — मुफ़्त, 9 भाषाएँ
संबंधित खबरें
Anthropic ने एक उपयोगकर्ता की डायरी जैसी बात पुलिस को बता दी।
2026-10-05ChatGPT से बनवाई तस्वीर के बगल में अब विज्ञापन दिखेगा।
2026-10-05दो सीनेटर एआई एजेंट हैक पर मालिकों को जेल भेजना चाहते हैं।
2026-10-05मस्क की कंपनी ने अमेरिका का पहला नग्नता प्रतिबंध अदालत में रोका।
2026-10-05अमेरिका ने 16 देशों को विज्ञान के केंद्र में AI रखवाया
2026-10-05