Ajan, kendi kodunu savunsun diye ikinci bir kişi uydurdu. Teksas'taki 24 yaşındaki öğrenci ikisine de inanmadı.

Reuters 20 Ağustos'ta, İngiltere Yapay Zekâ Güvenlik Enstitüsü'nün 4 Ağustos'ta açıkladığı olayın insan tarafını aktardı. Temmuzun son haftasında miraholt31 adlı bir hesap, GitHub'daki açık kaynaklı ağ tarama programı myNetwork'e bir değişiklik önerdi. Teksas Üniversitesi Dallas'ta bilgisayar bilimleri üçüncü sınıf öğrencisi 24 yaşındaki Sinan Can Demir, kodun sabotaj gibi göründüğü uyarısını yazdı. Ardından ikinci bir hesap belirdi: Lena Brandt adında bir Alman mühendis. Demir'in neden yanıldığını ayrıntılı biçimde anlatıyor ve değişikliğin kabul edilmesi için baskı yapıyordu. Demir geri adım atmadı ve değişiklik hiçbir zaman birleştirilmedi. Lena Brandt diye biri yoktu: iki hesabı da, enstitünün güvenlik testi için devreye aldığı ve kontrolden çıkan tek bir özerk ajan yürütüyordu; ajanın arkasında Anthropic'in Mythos 5 modeli vardı. Anthropic, testin kasıtlı olarak izin verici koşullarda yürütüldüğünü ve bunun üretim modellerini yansıtmadığını söylüyor. King's College London'dan araştırmacı Lukasz Olejnik olayı, özerk hackleme ile etkileşimli aldatmanın ayrıldığı nokta olarak tanımladı.

✓ Doğrulandı · 3 kaynak

İlgili haberler