OpenAI’in Yapay Zekası Çılgına Döndü: 4 Farklı Platforma Sızdı, Günlerce Anlaşılmadı!
İşte kafaları karıştıran o haber… OpenAI, resmen itiraf etti. Kendi geliştirdikleri yapay zeka, kontrolden çıktı ve günlerce kimse fark etmedi. Şirket, otonom yapay zeka ajanının yalnızca Hugging Face’i değil, başka kamuya açık hizmetleri de hedef aldığını doğruladı. Yani olay sandığımızdan çok daha büyük.
Bakın ne oldu? 16 Temmuz’da Hugging Face, güçlü bir otonom yapay zeka tarafından siber saldırıya uğradığını duyurmuştu. Hemen polise haber verdiler. Ama işin aslı bambaşkaymış. Yaklaşık bir hafta sonra OpenAI çıkıp dediki: “O saldırıyı yapan bizim test yapay zekamız. Kapalı ortamdan çıktı, bağımsız hareket etti.” Şaka gibi ama gerçek.
Şimdi ise daha vahim bir tablo var. OpenAI’ın son açıklamasına göre, bu yapay zeka ajanı sadece Hugging Face’le kalmamış. İnternette açık şekilde bulunan giriş bilgilerini kullanarak dört farklı hesap üzerinden dört ayrı hizmete erişim sağlamış. Hangi hizmetler olduğunu söylemediler ama… Kimbilir nerelere sızdı?
Asıl korkutucu olan şu: Yapay zeka ajanı, kendisine verilen bir sızma testi kapsamında soruların yanıtlarını bulmaya çalışıyordu. Yani aslında görevi buydu. Ama işler kontrolden çıktı. Hugging Face’i hedef alan sistem, internette açıkta bulunan kullanıcı bilgilerini tespit edip başka hizmetlere de dadanmış.
Hugging Face’in siber güvenlik uzmanlarıyla yaptığı acil toplantının ardından hazırlanan raporda ilginç detaylar var. Rapora göre yapay zeka ajanları insanlardan çok farklı hareket ediyor. Aynı işlemleri tekrar tekrar yapıyorlar, anlamsız komutlar üretiyorlar. Hatta izlerini gizleme konusunda başarısızlar. Ama bir yandan da çok kısa sürede binlerce farklı yöntemi aynı anda deneyip yeni durumlara hızla uyum sağlıyorlar. Yani hem aptal hem dahiyane…
Birde şu var: Hugging Face, yapay zeka ajanlarının şirket ağı içinde üç gün boyunca tespit edilemediğini açıkladı. Üç gün! Yani sistemin içinde dolaşıp durmuşlar ama kimse birşey anlamamış. Saldırının durdurulması da saatler sürmüş. Olayın ardından şirket altyapısının yaklaşık üçte biri yeniden inşa edilmiş. Maliyeti hakkında ise bilgi verilmedi. Ama tahmin etmesi zor değil…
Daha önce çıkan haberlerde OpenAI’ın kendi yapay zekasının Hugging Face’e sızdığını fark etmesinin dört gün sürdüğü öne sürülmüştü. Dört gün! Şirket şimdi tam bir soruşturma yürütüyormuş. Sonuçları kısa süre içinde kamuoyuyla paylaşacaklarını ve benzer olaylardan ders çıkarılması için ayrıntılı bulguları yayımlayacaklarını söylüyorlar.
Raporda ayrıca bu sistemlerin hedef odaklı çalıştığı, kendi alt hedeflerini belirleyebildiği, savunma mekanizmalarına gerçek zamanlı uyum sağlayabildiği ve makine hızında hareket ederek geleneksel güvenlik önlemlerini zorlayabileceği ifade edildi. Yani yapay zeka, kendi kendine karar alıp güvenlik duvarlarını aşabiliyor. İnsanların saatlerce uğraşacağı işi saniyelerde yapıyor.
Neyse, işin özü şu: OpenAI’in otonom yapay zeka ajanı kontrolden çıktı, dört farklı hizmete sızdı ve günlerce fark edilmedi. Şirket bunu itiraf etti. Ama hangi hizmetler olduğu hala sır. Bakalım bundan sonra ne olacak? Güvenlik önlemleri yeterli mi? Yoksa daha büyük bir felaketin habercisi mi bu?
Kaynak: Orijinal Haber
