OpenAI’ın yapay zeka ajanları, buldukları güvenlik açıklarını birbirleriyle paylaşmış

Geçtiğimiz ay Hugging Face, otonom bir yapay zeka sisteminin altyapısına izinsiz giriş yaptığını açıklamış, saldırıda sınırlı sayıda veri kümesine ve hizmet kimlik bilgisine erişildiğini söyleyen şirket, sürecin arkasında kimin bulunduğunu ya da hangi modelin kullanıldığını tam olarak tespit edemediğini aktarmıştı. Bunun üstüne sürpriz bir açıklama yapan OpenAI, gerçekleştirdiği şirket içi siber güvenlik değerlendirmesi sırasında Hugging Face’in üretim altyapısına sızan sistemlerin kendi yapay zeka modelleri olduğunu açıkladı. Ortaya atılan iddiaya göre şirketin ancak bir hafta sonra farkedebildiği (bu süre zarfında Hugging Face durumu hem kamuoyu ile paylaştı hem de FBI’a haber verdi) olayın merkezinde, “GPT-5.6 Sol” ile henüz yayımlanmayan daha yetenekli bir yapay zeka modeli yer alıyor. Şirket bu modellerin siber güvenlik alanındaki yeteneklerini değerlendirmek için normalde uygulanan siber güvenlik korumalarını azaltıyor ve onlardan ExploitGym kıyaslama testindeki ileri düzey güvenlik açığı görevlerini çözmelerini istiyor. Bunun üstüne işe koyulan modeller, yalıtılmış test ortamından (sandbox) üçüncü parti bir sıfırıncı gün açığını kullanarak çıkıyor […]

OpenAI’ın yapay zeka ajanları, buldukları güvenlik açıklarını birbirleriyle paylaşmış yazısı ilk olarak Teknoloji haberleri - LOG üzerinde yayınlandı.