Yapay zeka teknolojilerinin kapasitesi hızla genişlerken, sistemlerin kontrolden çıkması halinde nasıl müdahale edileceği tartışması da gündemdeki yerini koruyor. ABD merkezli yapay zeka şirketi Anthropic’in kurucu ortaklarından Jack Clark, bu kapsamda yapay zeka sistemlerini gerektiğinde tamamen devre dışı bırakabilecek bağımsız bir mekanizmanın gelecekte düzenlemelerle zorunlu hale getirilebileceğini söyledi.
Clark, BBC’ye verdiği röportajda, yapay zeka yazılımının toplum açısından ciddi bir tehlikeye dönüşmesi durumunda sistemin tamamen kapatılmasını sağlayacak bir yöntemin kamu politikalarının gündemine girebileceğini ifade etti.
Anthropic dahil olmak üzere yapay zeka şirketlerinin çeşitli kapatma mekanizmalarına sahip olduğunu belirten Clark, bu sistemlerin nasıl çalışacağı, kim tarafından kontrol edileceği ve hangi koşullarda devreye alınacağı gibi konuların daha geniş yapay zeka politikaları kapsamında ele alınması gerektiğini dile getirdi.
“TOPLUMUN BİLMEK İSTEYECEĞİ BİR KONU”
BBC’nin, şirketlerin mutlaka bir acil kapatma düğmesi bulundurmasının zorunlu hale getirilip getirilmemesi ve böyle bir mekanizmanın üçüncü bir tarafın kontrolünde olup olmaması gerektiğine ilişkin sorusuna Clark şu yanıtı verdi:
“Bence bu, toplumun bilmek isteyeceği ve nihayetinde bu konuda kurallar koymak isteyebileceği türden bir konu.”
Anthropic, gelişmiş yapay zeka sistemlerinin oluşturabileceği risklere yönelik kendi güvenlik politikalarında da eğitim süreçlerinin durdurulması, güvenlik olaylarına müdahale edilmesi ve ciddi açıklar ortaya çıktığında modellerin kullanımının kısıtlanması gibi prosedürlere yer veriyor. Şirketin güncel Responsible Scaling Policy yaklaşımı, gelişmiş modellerin yetenekleri arttıkça güvenlik önlemlerinin de buna paralel biçimde güçlendirilmesini öngörüyor.
“MUAZZAM RİSKLER ALARAK KUMAR OYNUYORUZ”
Yapay zekanın insanlığın tamamını yok etme ihtimalinin oranına ilişkin soruya da yanıt veren Clark, böyle bir istatistiğin faydalı olmayacağını söyledi. Clark, “Bu istatistiklerin bir işe yarayacağını düşünmüyorum. Ancak yapay zekanın tamamen kontrolsüz bir endüstri olması kötü bir fikir.” ifadelerini kullandı. Anthropic kurucu ortağı sözlerini şöyle sürdürdü:
“Muazzam riskler alarak kumar oynuyoruz. Ve asıl mesele şu ki bu sektörün gidişatını değiştirmeliyiz.”
Anthropic, 2026 yılında yayımladığı politika önerilerinde de ileri düzey yapay zeka modelleri için bağımsız değerlendirme, şeffaflık ve yüksek risk taşıyan modellerin dağıtımının engellenmesine yönelik kamu yetkisi gibi mekanizmalar önerdi. Şirket, özellikle çok güçlü modellerin ciddi risk oluşturması halinde hükümetlerin müdahale edebilmesine yönelik bir çerçeve oluşturulmasını savundu.
ANTHROPIC'İN YAPAY ZEKA GÜVENLİĞİ POLİTİKALARI NASIL?
Anthropic'in güvenlik yaklaşımı yalnızca modellerin kullanıma sunulmasından sonraki aşamayı kapsamıyor. Şirket, 2023'te yayımladığı Responsible Scaling Policy ile gelişmiş yapay zeka modellerinin oluşturabileceği riskleri belirli güvenlik seviyeleri üzerinden değerlendirmeye başladı. Politika, modellerin yetenekleri arttıkça daha kapsamlı güvenlik önlemlerinin uygulanmasını esas alıyor.
Şirketin 2026 yılında güncellediği politikada ise gelişmiş modellerin ortaya çıkarabileceği risklere karşı güvenlik testleri, olaylara müdahale prosedürleri ve gerektiğinde modellerin kullanımının sınırlandırılması gibi uygulamalar bulunuyor. Anthropic ayrıca modellerin kontrol, düzeltme, yeniden eğitme veya kapatılmasına yönelik meşru insan denetimine karşı koymaması gerektiğini kendi yapay zeka anayasasında açıkça belirtiyor.
JACOB COXON'UN İSTİFASI TARTIŞMAYI YENİDEN ALEVLENDİRDİ
Yapay zeka güvenliği tartışmalarının son dönemde yeniden öne çıkmasında Anthropic'ten ayrılan araştırmacı Jacob Coxon da etkili oldu. OpenAI ve Anthropic'te toplam yaklaşık üç yıl araştırma yaptığını belirten Coxon, eylül ayında Anthropic'ten ayrıldığını açıklayarak iki şirketin yapay zeka geliştirme yarışında yeterince güvenli hareket etmediğini savundu. Coxon, şirketlerin kendi kendini geliştirebilen yapay zeka sistemlerine doğru ilerlediğini ve bu süreçte ciddi riskler alındığını ileri sürdü.
Coxon, yapay zeka geliştiren şirketlerde çalışan bazı kişilerin bu teknolojinin on yıl içinde insanlığın varlığı açısından ciddi bir tehdit oluşturabileceğine inandığını da öne sürdü. Açıklamaları, yapay zeka sektöründe güvenlik önlemlerinin geliştirme hızına yetişip yetişemediği yönündeki tartışmaları gündeme getirdi.
