Yapay Zeka Sistemleri İçin Tek ‘Acil Kapatma Düğmesi’ Mümkün Midir?
Yapay zeka sistemleri için zorunlu bir “acil kapatma mekanizması” oluşturulması, geçtiğimiz haftalarda uluslararası tartışmaların merkezinde yer aldı. Anthropic’in kurucu ortaklarından biri, BBC’ye verdiği röportajda bu mekanizmanın gerekliliğini vurguladı. Ancak uzmanlar, dünyadaki bütün yapay zekayı durdurabilecek tek bir düğmenin yok olduğunu belirtti.
Toronto Üniversitesi’nin yapay zeka ve bilgisayar güvenliği uzmanı Nicolas Papernot, “acil kapatma düğmesi”nin aslında bir aracının yürüttüğü işlemlerin kesilmesi anlamına geldiğini söyledi. Papernot’a göre, sistemi çalıştıran kişi veya kuruluş, yapay zekanın ihtiyaç duyduğu işlem gücüne erişimi engelleyerek sistemi durdurabilir. Ancak program ilk çalıştırıldığı ortamı terk ederse, örneğin bir yapay zeka kendisini çoğaltarak bilgisayar solucanı yayarsa, tüm kopyaların eş zamanlı olarak durdurulması gerekir. Fransa Ulusal Bilimsel Araştırma Merkezi’nden Thierry Poibeau da tek bir düğmenin varlığının yanıltıcı olduğunu ifade etti. Poibeau, dünya genelinde çok sayıda şirketin farklı yazılımlar ve hizmetleri bulunduğunu, yapay zekayı tamamıyla kontrol eden tek bir kişi veya kurum olmadığını vurguladı. Merkezi bir sistem tek bir operatör tarafından yönetiliyorsa kapatılması teorik ve pratik olarak mümkün olsa da merkezi olmayan sistemleri bütünüyle durdurmak çok daha zor.
Acil kapatma mekanizmasının kullanımı, şirketlerin, kamu kurumlarının ve sağlık kuruluşlarının bağlı olduğu hizmetlerin de aksamasına yol açabilir. Papernot, böyle bir müdahalenin maliyetinin ve yaratacağı aksaklıkların “çok büyük” olacağını belirtti. ABD Başkanı Donald Trump, yapay zekanın insanlığın sonunu getirebileceğine yönelik korkuları “aldatmaca” olarak nitelendirdi, Meta CEO’su Mark Zuckerberg ise gelişmenin yavaşlatılması çağrılarına karşı çıktı. Sorbonne Üniversitesi bilgisayar bilimi profesörü Jean‑Gabriel Ganascia, acil kapatma düğmesi tartışmasının yapay zekanın kendi iradesini geliştirerek kontrolden çıkacağı düşüncesini gereğinden fazla öne çıkardığını ve gerçek tehlikenin toplumların bu sistemlere giderek daha bağımlı hale gelmesi olduğunu belirtti.
