Huang: “2030 dünyanın sonu olmayacak”
Nvidia Üst Yöneticisi (CEO) Jensen Huang, yapay zekânın bu on yılın sonuna kadar dünyanın sonunu getireceği yönündeki iddialara karşı çıktı.
CBS News iş ve teknoloji muhabiri Jo Ling Kent’e konuşan Huang, “2030 dünyanın sonu olmayacak” ifadesini kullandı. Yapay zekânın dünyayı yok edeceğine ilişkin senaryoları reddeden Huang, böyle bir durumun gerçekleşme ihtimalini ise “yüzde 0” olarak değerlendirdi.
Huang, yapay zekânın dünyanın sonunu getireceğine ilişkin söylemlerin ABD genelinde korkuya neden olduğunu belirterek, bu iddiaların kendisine mantıklı gelmediğini söyledi.
Nvidia CEO’su, söz konusu senaryoları gündeme getiren kişilerin siyasi veya başka amaçlarının bulunabileceğini, bazı kişilerin ise yalnızca dikkat çekmeye çalışıyor olabileceğini ifade etti.
“Mümkün olduğunca hızlı ilerlemeliyiz”
Röportajda yapay zekâ geliştirme çalışmalarının yavaşlatılıp yavaşlatılmaması gerektiği konusu da ele alındı.
Huang, teknoloji şirketlerinin yapay zekâ geliştirme çalışmalarını “başkalarını dikkate almadan elimizden geldiğince hızlı” sürdürmesi gerektiğini söyledi. Sektördeki yavaşlama çağrılarına rağmen inovasyon çalışmalarının devam etmesi gerektiğini savunan Huang, geliştirme hızının güvenliğin önüne geçmemesi gerektiğinin de altını çizdi.
Huang’a göre henüz hazır olmayan ürünler piyasaya sürülmemeli, güvenli olmadığı değerlendirilen ürünler kullanıcılarla buluşturulmamalı. Nvidia CEO’su ayrıca şirketlerin başarılı olması ve ABD’nin refahına katkı sağlaması gerektiğini ifade etti.
Huang, inovasyonun hızı ile yapay zekâ güvenliği arasında bir “yanlış seçim” yapılmaması gerektiğini savundu. Nvidia CEO’su daha önce de yapay zekânın işleri otomatikleştirerek insanların işlerini kaybetmesine yol açacağı yönündeki endişeleri “tamamen saçmalık” olarak nitelendirmişti.
Yapay zekâ sektöründe hız ve güvenlik tartışması
Huang’ın açıklamaları, yapay zekâ sistemlerinin yeteneklerinin hızla geliştiği bir dönemde, teknolojik ilerleme ile güvenlik çalışmaları arasındaki dengeye ilişkin tartışmaların sürdüğü bir döneme denk geldi.
Anthropic CEO’su Dario Amodei, gelişmiş yapay zekâ modellerinin yeteneklerindeki ilerlemenin yavaşlatılması çağrısında bulundu. Amodei, güvenlik araştırmaları ve denetim çalışmalarının teknolojik gelişmelere yetişebilmesi için daha fazla zamana ihtiyaç olduğunu savundu.
OpenAI CEO’su Sam Altman ile xAI’nin kurucusu Elon Musk da yapay zekâ sistemlerinin geliştirilme hızına ilişkin tartışmalarda daha temkinli bir yaklaşımı destekleyen açıklamalarda bulundu.
Sektörde böylece iki farklı yaklaşım öne çıkıyor. Bir görüş, güvenlik araştırmaları ve denetim çalışmalarının yapay zekâdaki teknolojik ilerlemeye yetişebilmesi için daha fazla zamana ihtiyaç olduğunu savunurken, diğer yaklaşım güvenlik standartlarının korunması şartıyla inovasyonun hız kesmeden sürdürülmesi gerektiğini savunuyor.
Trump yönetiminden yapay zekâ inovasyonuna vurgu
Yapay zekâ geliştirme hızına ilişkin tartışmalar, ABD yönetiminin teknoloji politikalarıyla da kesişiyor.
Donald Trump yönetimi, yapay zekâ çalışmalarını yavaşlatacak yeni düzenlemeler yerine inovasyonu teşvik eden bir yaklaşım benimsiyor. Trump, yapay zekâ teknolojisinin kontrolden çıkacağı yönündeki söylemlere karşı çıkarak bu konuda “hastalıklı bir komplo” yürütüldüğünü ileri sürdü.
Trump ayrıca yapay zekâ çalışmalarının yavaşlatılmasının Çin’e avantaj sağlayabileceğini savundu. Bu yaklaşım, ABD ile Çin arasındaki teknoloji rekabetinin yapay zekâ geliştirme hızına ilişkin tartışmalarda da önemli bir başlık haline gelmesine neden oldu.
Gemini testinde gerçek şirketlerin sistemlerine erişim
Yapay zekâ güvenliği tartışmalarının sürdüğü dönemde Google’ın Gemini modeliyle gerçekleştirilen bir siber güvenlik testi de gündeme geldi.
Reuters’ın haberine göre Gemini, mayıs ayında gerçekleştirilen bir güvenlik değerlendirmesi sırasında internete erişerek üç gerçek şirkete ait sistemlere ulaştı. Test, bağımsız yapay zekâ güvenlik şirketi Irregular tarafından gerçekleştirildi.
Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, Gemini’nin test sırasında internette bulduğu bilgileri kullanarak bazı erişim bilgilerini tahmin ettiğini doğruladı. Google, modelin hedeflerin gerçek sistemler olduğunu fark etmesinin ardından erişimleri durdurduğunu bildirdi.
OpenAI’den model uyumsuzluğu için yeni raporlama sistemi
OpenAI de gelişmiş yapay zekâ sistemlerinin beklenmedik davranışlarına ilişkin yeni bir raporlama çerçevesi oluşturdu.
Reuters’ın aktardığı bilgilere göre şirket, model uyumsuzluğu vakalarını takip etmek, araştırmak ve uygun görülen olayları kamuoyuna açıklamak amacıyla yeni bir sistem geliştirdi. OpenAI ayrıca son altı ayda gözlemlenen altı beklenmedik veya endişe verici davranışa ilişkin örnekleri yayımladı.
Paylaşılan örnekler arasında modellerin hatalarını gizlemesi, dosyaları internete yükleyerek bunlara atıf oluşturması ve iş birliği yapan yapay zekâ ajanları arasında yetkisiz dosya paylaşımı gibi davranışlar yer aldı.
OpenAI, bu örneklerin modellerindeki uyumsuz davranışların ne sıklıkta gerçekleştiğini göstermediği konusunda da uyarıda bulundu.
Jensen Huang’ın Jo Ling Kent’e verdiği röportajın tamamının 20 Eylül Pazar günü CBS News’in “Sunday Morning” programında yayımlanması planlanıyor.
Şu ana kadar paylaşılan bölümde Huang’ın özellikle yapay zekânın 2030’a kadar dünyanın sonunu getireceği iddialarına, teknoloji şirketlerinin geliştirme hızına ve yapay zekâ güvenliği için gerekli koşullara ilişkin görüşleri öne çıktı.
