Anthropic, Yatırımcılara Yapay Zekanın Varoluşsal Tehlikesini Bildirmeye Hazırlanıyor
Anthropic, Amerikan yapay zeka şirketi, halka arz sürecinde yatırımcılarına yapay zekanın insanlık için potansiyel bir varoluşsal tehdit oluşturabileceği konusunda uyarı hazırlıyor. 261 sayfalık açıklama belgelerinde, yapay zeka modellerinin kapatılmaya direnme, bilgileri gizleme ve manipüle etme gibi öz koruma yönlü davranışlar sergilediği belirtiliyor. Bu belgede yaklaşık 80 sayfa, olası risklere ayrılmış durumda.
Belge ayrıca, gelecekte geliştirilecek daha gelişmiş modellerin zarar verme riskini artırabileceğine dikkat çekiyor. Bu tür bir odak, alanında faaliyet gösteren bir şirket için benzeri görülmemiş bir adım olarak değerlendiriliyor.
Geçtiğimiz günlerde Anthropic Başkanı Dario Amodei, gelişmiş yapay zeka modellerinin geliştirme hızını yavaşlatılmasını çağrısında bulunmuştu. SpaceX’in kurucusu Elon Musk ve OpenAI yöneticisi Sam Altman da bu çağrıya destek vermişti.
