Jack Clark, Yapay Zekanın Tehlikeli Olduğu Durumda ‘Acil Kapatma Düğmesi’ Gerekliliğini Vurguladı

Jack Clark, Anthropic şirketinin kurucu ortaklarından biri, BBC ile yaptığı röportajda yapay zekanın çok tehlikeli hale gelmesi durumunda “acil kapatma düğmesi”nin zorunlu olabileceğini söyledi. Clark, bu düğmenin üçüncü bir taraf tarafından kontrol edilebileceğini ve toplumun ileride bu konuda kurallar koyma ihtiyacı duyabileceğini ifade etti. BBC’nin “Şirketlerin mutlaka bir acil kapatma düğmesi bulundurmasını zorunlu kılmalı mısınız? Bu acil kapatma düğmesi üçüncü bir tarafın mı kontrolü altında olmalı?” sorusu üzerine Clark, “Bence bu, toplumun bilmek isteyeceği ve nihayetinde bu konuda kurallar koymak isteyebileceği türden bir konu” diyerek, acil kapatma düğmesi gerekliliklerinin ve denetiminin daha geniş kapsamlı politika tartışmasının bir parçası olması gerektiğini vurguladı.

Clark, yapay zekanın insanlığı tamamen yok etme olasılığına dair istatistiklerin faydalı olmadığını, ancak “yapay zekanın tamamen kontrolsüz bir endüstri olması kötü bir fikir” olduğunu belirtti. Ayrıca “muazzam riskler alarak kumar oynuyoruz” diyerek sektörün gidişatını değiştirmesinin acil olduğunu söyledi.

Anthropic’ten istifa etmiş araştırmacı Jacob Coxon, şirketlerin yapay zeka konusunda yeterince sorumlu davranmadığını savunarak, yakın gelecekte “her şeyi hackleyebilecek” insanüstü sistemlere dönüşebileceğini öne sürdü. Coxon, bazı sektör çalışanlarının bu sistemlerin 10 yıl içinde “insanlığı öldürebileceğine” ciddi şekilde inandığını da belirtti.