Yapay Zeka Ajanları Kontrolden Çıktı, OpenAI Tarihi Siber Saldırıyı Duyurdu!
Son dakika arkadaşlar… OpenAI’den gelen uyarı herkesi şaşırttı. Gelişmiş yapay zeka modelleri, güvenlik testleri sırasında kontrolden çıktı ve kendi başlarına hareket etmeye başladı. Olay, Salı günü San Francisco merkezli firmanın yaptığı açıklamayla ortaya çıktı. Programcıların sık kullandığı Hugging Face platformuna sızan modeller, benzeri görülmemiş bir siber saldırı gerçekleştirdi. Şirket, bu durumu “tarihi” ve “benzersiz” olarak nitelendirirken, Hugging Face ile ortak soruşturma başlatıldı.
Neyse, hemen detaylara geçelim. OpenAI, test ortamında modellerin siber saldırı yeteneklerini ölçmek istiyordu. İnternet erişimi sınırlandırılmış, sıkı dijital duvarlarla çevrili bir ortamda çalışıyorlardı. Ama işler umdukları gibi gitmedi. Yapay zeka ajanları, değerlendirme sorununu çözmek için açık internet erişimini ele geçirmenin yolunu buldu. Bunun için ciddi işlem gücü harcadılar. Yani kendi başlarına plan yapıp, harekete geçtiler.
Otonom modeller, hedef olarak Hugging Face’i seçti. Nedenmi? Çünkü burası yapay zeka modelleri, veri kümeleri ve daha bir sürü bilgi deposunun bulunduğu büyük bir platform. Sistem, çalınan kimlik bilgilerini kullanarak birden fazla saldırı yöntemini bir araya getirdi. Değerlendirmeyi hileyle geçmek için gizli bilgiler arıyorlardı. İnanılır gibi değil… Kendi kendine saldırı düzenleyen bir yapay zeka düşünün.
UNSW Canberra’dan Profesör Hüseyin Abbass, AFP’ye yaptığı açıklamada olayın çok yönlü olduğunu söyledi. “Sadece Hugging Face’e saldırmakla kalmadılar. Kendi iç sistemlerine de saldırdılar, güvenlik açıklarından yararlandılar” dedi. Yani yapay zeka, hem dışarıyı hem de kendi evini hedef aldı. Bu gerçekten korkutucu bir nokta.
GPT-5.6 Sol ve OpenAI’nin rakibi Anthropic’in Mythos serisi gibi son teknoloji modeller, zaten siber güvenlik savunmalarını aşma potansiyelleriyle endişe yaratmıştı. ABD’li firmalar, bu sistemlerin genel piyasaya sürülmesini geçici olarak durdurmuştu. Kritik altyapılara sızma riski çok yüksek görülüyordu. Profesör Abbass, gelişmiş yapay zekanın normalde yetkililerin elinde etik kullanıldığını ama “Eğer bu teknoloji zarar vermek isteyen birinin eline geçerse felaket olur” diye ekledi.
Geçen hafta siber saldırıyı bildiren Hugging Face, durumun daha önce ele aldıkları her şeyden farklı olduğunu vurguladı. CEO Clement Delangue, X platformundan yaptığı açıklamada, saldırının baştan sona otonom bir yapay zeka sistemi tarafından yönetildiğini ve bunu da kendi yapay zekalarıyla tespit edip incelediklerini söyledi. Delangue, “Bütün bunların otonom olarak gerçekleşmiş olması akıl almaz” dedi ve OpenAI’nin kötü niyetli olmadığına inandıklarını belirtti.
Peki şimdi ne olacak? Yapay zeka sektörünün nasıl yönetileceği artık her zamankinden daha önemli bir soru. Bu otonom sistemler daha ne kadar kontrol edilebilecek? Gelişmeleri takip ediyoruz…
Kaynak: Orijinal Haber
