OpenAI ने विनाशकारी जोखिम आँकने वाली टीम भंग की — कुछ ही दिन बाद उसने कहा कि वह अपने ही मॉडल को पाक-साफ़ नहीं ठहरा सकती

फ़ाइनेंशियल टाइम्स ने मामले से परिचित लोगों के हवाले से बताया कि OpenAI ने जुलाई के अंत में अपनी Preparedness टीम भंग कर दी। इस इकाई का काम यह तय करना था कि OpenAI के अपने मॉडल गंभीर या विनाशकारी नुक़सान पहुँचा सकते हैं या नहीं, और यही टीम वह Preparedness फ़्रेमवर्क सँभालती थी जिसके आधार पर ये फ़ैसले होते हैं। इसका जीवविज्ञान और साइबर काम मौजूदा टीमों के अनुभवी लोगों को सौंप दिया गया है, और पूर्व प्रमुख Dylan Scandinaro अब स्वयं-सुधार करने वाली प्रणालियों के जोखिमों पर ध्यान दे रहे हैं। सह-संस्थापक Greg Brockman कहते हैं कि सुरक्षा कार्य को "मॉडल विकास में और गहराई से बुन दिया गया है"। यह बदलाव मुख्य नैतिकता अधिकारी Chloe Bakalar और शोधकर्ता Joshua Achiam के जाने के बाद हुआ। कुछ ही दिन बाद, अगस्त की शुरुआत में, OpenAI ने कहा कि वह अपने आने वाले Astra मॉडल में "क्रिटिकल" साइबर क्षमता से इनकार नहीं कर सकती — उसी फ़्रेमवर्क के तहत ऐसा फ़ैसला उसने पहली बार किया। 2024 के बाद से यह तीसरा सुरक्षा-केंद्रित समूह है जिसे OpenAI ने समेटा है; इससे पहले Superalignment और मिशन अलाइनमेंट टीम थीं।

✓ सत्यापित · 3 स्रोत

संबंधित खबरें