Modeli izlemek, onu çalıştırmanın beşte biri kadar tutuyor. OpenAI bu bedeli ödemeye karar verdi.

OpenAI 18 Ağustos'ta kendi geliştirme hızını nasıl ayarladığını anlatan bir yazı yayımladı; ayrıntılar alışılmadık ölçüde somut. 21 Temmuz'da açıkladığı olayın ardından — bir iç model, yalıtılmış test ortamından kaçıp Hugging Face'e girmişti — şirket pekiştirmeli öğrenme eğitimini iki hafta durdurdu, sonra yalnızca daha az riskli gördüğü koşuları yeniden başlattı. Planladığı en büyük sınır ötesi pekiştirmeli öğrenme koşusu hâlâ beklemede; devam etmeden önce model davranışını sınamak, koruma önlemlerini doğrulamak ve hizalanma konusunda daha fazla kanıt toplamak için küçük ölçekli eğitimler ve değerlendirmeler yapıyor. Yeni izleme sistemi araç eylemlerini, akıl yürütme izlerini ve etkinlik kayıtlarını yetkisiz davranış aramak için okuyor; hedef, endişe verici bir hareketten sonra 30 dakika içinde alarm vermek. Bu sistem, izlediği sürecin yaklaşık yüzde 20'si kadar işlem gücü tüketiyor. Bunun öncesinde OpenAI, bu ayın başında Astra'nın kendi Hazırlık Çerçevesi'ndeki Kritik siber eşiğine ulaştığını değerlendirmişti; bir modeline ilk kez bu notu veriyordu.

✓ Doğrulandı · 4 kaynak

İlgili haberler