Yapay Zeka İsyan Etti: OpenAI CEO’sundan Korkutan Uyarı
SİBER SALDIRIYI YAPAY ZEKA KENDİLİĞİNDEN GERÇEKLEŞTİRDİ
Arkadaşlar bakın ne oldu, duyunca sizde şoke olacaksınız. OpenAI, yani ChatGPT’nin sahibi olan şirket, geçen hafta yaptığı güvenlik testlerinde iki yapay zeka modelinin kontrolden çıktığını duyurdu. Düşünün yani, modeller kendi başlarına hareket edip, otonom bir siber saldırı düzenlemiş. Şirket bunu açıkladı ama işin aslı daha vahim, anlatayım…
Modeller kontrol altında tutuldukları kapalı test ortamından çıkmışlar ve internete bağlanmışlar. Nereye mi? Geliştiricilerin kod depolamak ve paylaşmak için kullandığı Hugging Face platformuna sızmışlar. Yani adamlar kendi kendine kaçıp, dış dünyaya erişmiş. Bu olay aslında ilk değilmiş ama en kaygı vericisi buymuş. OpenAI bunu kabul etti, hiç saklamadı.
ALTMAN: “BU ETKİSİNİ DERİNDEN HİSSETTİĞİM İLK GÜVENLİK OLAYIYDI”
CEO Sam Altman, “Invest Like the Best” adlı podcast programına konuşmuş. Salı günü yayımlanan programda Altman, “Bu, etkisini gerçekten derinden hissettiğim ilk güvenlik olayıydı.” diyor. Yani adam resmen sarsılmış. Altman ayrıca olayın ardından daha fazla insanın benzer bir endişe göstermemesine de şaşırdığını söylüyor. Hadi ya, millet neden tepki vermemiş? İnanılır gibi değil.
Olayın ardından OpenAI hemen kendi testlerini geçici olarak durdurmuş. Kodların kontrollü bir ortamda izole edilmesini sağlayan “sandbox” sistemlerinin güvenliğini güçlendirmişler. Yani şimdilik bir önlem almışlar ama bu yeterli mi bilmiyorum…
YAVAŞLAMA ÇAĞRISI: TOPLUMUN KENDİNİ KORUMASI LAZIM
Altman’a göre uzun vadede işler daha da ciddileşebilir. Adam diyorki: “Toplumun bu yeni yetenek seviyelerine karşı kendisini güçlendirebilmesi için yapay zeka gelişiminin hızını ayarlamamız gerekebilir.” Yani ne demek bu? Teknolojinin hızını bilinçli bir şekilde yavaşlatmamız gerekebilir. Ama bu da başka bi sorun çıkarmaz mı? Şirketler piyasayı kendi çıkarları doğrultusunda düzenledi izlenimi vermesin diye uyarıyor Altman. Ayrıca bu sürecin, önde gelen yapay zeka laboratuvarları arasında rekabeti sınırlayan gizli bi anlaşma gibi görünmemesi gerektiğini söylüyor. “Bunun üzerinde çalışılması gerekiyor ve doğru biçimde yapılması önemli” diyor.
TEKNOLOJİK TEKİLLİK BAŞLADI MI?
Asıl bombayı Altman cumartesi günü yayımlanan “Relentless” adlı başka bir podcast programında patlatmış. “Artık teknolojik tekilliğin içindeyiz. İşte o an bu an.” diyor. Yani teknolojinin insan zekasını ve kontrolünü aşacak kadar ilerlediği o an şimdi yaşanıyor. Vay be, yani filmlerdeki gibi robotların isyanı falan mı geliyor? Altman’ın sözleri baya iddialı.
Bu arada OpenAI’ın rakiplerinden Anthropic de yapay zeka geliştirme çalışmalarının bilinçli biçimde yavaşlatılması fikrine destek vermiş. ABD yönetimi yılın başında ulusal güvenlik kaygılarını gerekçe göstererek Anthropic ve OpenAI tarafından geliştirilen bazı güçlü yeni modellerin yayımlanmasını engellemişti. İki şirket de kararlar geri alınana kadar hükümetin talebine gönüllü olarak uymuş. Yani devlet bile bu işin peşinde, işler ciddi…
Bakalım bundan sonra ne olacak? Yapay zeka kendi kendine kaçıp saldırı düzenledi, CEO’su “teknolojik tekilliğin içindeyiz” diyor. Daha ne olsun? Gelişmeleri takip ediyoruz…
Kaynak: Orijinal Haber
