Yapay zekânın yetenekleri hızla gelişirken, bu teknolojinin insan kontrolünün dışına çıkması ihtimali yeniden dünyanın gündemine taşındı; Birleşmiş Milletler Güvenlik Konseyi’nde bir araya gelen teknoloji dünyasının önde gelen isimleri, yapay zekânın yalnızca sunduğu fırsatlara değil, yanlış kullanılması veya yeterince denetlenememesi halinde ortaya çıkabilecek ciddi güvenlik risklerine de dikkat çekti.
Birleşmiş Milletler Güvenlik Konseyi, yapay zekânın hızla gelişen yeteneklerinin uluslararası güvenlik açısından oluşturabileceği riskleri ele almak üzere önemli bir toplantıya ev sahipliği yaptı. “Yapay zekâ ve uluslararası güvenlik” başlığı altında gerçekleştirilen oturumda, teknolojinin sunduğu fırsatların yanı sıra kötüye kullanım ve kontrol kaybı ihtimali de gündeme geldi. Toplantıda teknoloji dünyasının önde gelen isimleri, yapay zekâ güvenliği konusunda uluslararası iş birliğinin önemine dikkat çekti.
OpenAI Üst Yöneticisi Sam Altman, BM Güvenlik Konseyi’ndeki toplantıda yapay zekânın geleceğine ilişkin değerlendirmelerde bulundu. Altman, yapay zekâ modellerinin geliştirilme hızının giderek arttığını, bunun önemli fırsatların yanı sıra daha ciddi riskleri de beraberinde getirdiğini söyledi. Yapay zekânın insan yaşamına sağlayabileceği katkılara dikkat çeken Altman, teknolojinin hangi sınırlar içinde geliştirilmesi gerektiği konusunda uluslararası düzeyde kararlar alınması gerektiğini vurguladı.
Altman: “Bir yol ayrımındayız”
Sam Altman, yapay zekânın geleceğine ilişkin değerlendirmesinde dünyanın bir “yol ayrımında” olduğunu ifade etti. Altman’a göre yapay zekâ, yaratıcılık ve keşiflerin önünü açan yeni bir dönemin aracı olabileceği gibi önemli toplumsal sarsıntıları da beraberinde getirebilir. OpenAI yöneticisi, yapay zekânın insanların bugün ulaşılması zor görünen hedeflerine ulaşmasına yardımcı olacak bir araç olarak değerlendirilmesi gerektiğini belirtti.
Yapay zekâ insan kontrolünün dışına çıkabilir mi?
Toplantının dikkat çeken başlıklarından biri, yapay zekâ sistemlerinin giderek daha yetenekli ve otonom hale gelmesiyle ortaya çıkabilecek kontrol kaybı riski oldu. Altman, yapay zekâ sistemlerinin kendi kendilerini geliştirme kapasitesinin artması halinde ilerleme hızının da önemli ölçüde yükselebileceğine dikkat çekti. Bu nedenle yapay zekâ geliştirme süreçlerinde güvenlik önlemlerinin ve insan denetiminin korunmasının önemine vurgu yaptı.
Anthropic Üst Yöneticisi Dario Amodei de BM Güvenlik Konseyi toplantısına çevrim içi olarak katılarak yapay zekânın oluşturabileceği güvenlik risklerini değerlendirdi. Amodei, yapay zekânın son yıllarda olağanüstü bir hızla geliştiğini ve bu gelişimin yönetilmesi gereken yeni riskleri beraberinde getirdiğini belirtti. Amodei’nin değerlendirmelerinde özellikle yapay zekânın kötüye kullanılması ve kontrol kaybı olmak üzere iki temel risk kategorisi öne çıktı.
Yapay zekâ kötüye kullanılırsa ne olabilir?
Amodei’nin dikkat çektiği ilk risk kategorisi, yapay zekâ sistemlerinin kötü amaçlarla kullanılması oldu. Anthropic yöneticisi, yapay zekânın biyoteröristler tarafından biyolojik silah üretimi gibi tehlikeli amaçlarla kullanılabileceği ihtimaline dikkat çekti. Bu nedenle yapay zekânın yalnızca teknolojik gelişme açısından değil, uluslararası güvenlik bakımından da ele alınması gerektiğini savundu.
İkinci risk: Kontrol kaybı
Dario Amodei’nin işaret ettiği ikinci temel risk ise kontrol kaybı oldu. Amodei, yapay zekâ modellerinin yeteneklerinin onları geliştiren kişilerin kontrol kapasitesinin ötesinde hızlanması ihtimalini gündeme getirdi. Bu senaryonun yalnızca belirli şirketleri veya ülkeleri değil, bütün insanlığı ilgilendiren küresel bir mesele olduğunu belirten Amodei, yapay zekâ güvenliği konusunda ortak hareket edilmesi gerektiğini söyledi.
Yapay zekâ için neden küresel iş birliği çağrısı yapılıyor?
Toplantıda yapay zekâ güvenliğinin tek bir şirketin çözebileceği bir konu olmadığı vurgulandı. Amodei, risklerin yönetilebilmesi için teknoloji şirketlerinin yanı sıra devletlerin de sürece dahil olması gerektiğini ifade etti. Devletlerin gelişmiş yapay zekâ modellerinin kabiliyetleri hakkında bilgi sahibi olabilmesi, ülkelerin verdikleri taahhütlerin doğrulanabilmesi ve modellerin risklere karşı test edilebilmesi için ortak değerlendirme ve doğrulama sistemleri kurulması çağrısında bulundu.
Biyolojik silahlar için yapay zekâ kullanılabilir mi?
Yapay zekânın biyolojik silahların geliştirilmesinde kullanılma ihtimali, toplantıda üzerinde durulan güvenlik başlıklarından biri oldu. Amodei, devletlerin destekleyebileceği daha dar kapsamlı anlaşmalarla başlanmasını ve yapay zekânın biyolojik silahların üretiminde kullanılmasının yasaklanmasını önerdi. Bu öneri, yapay zekânın kötüye kullanımına karşı uluslararası kurallar oluşturulması tartışmasını yeniden gündeme taşıdı.
Hugging Face CEO’su Clément Delangue deneyimlerini anlattı
Toplantıda yalnızca yapay zekânın gelecekte oluşturabileceği riskler değil, mevcut siber güvenlik tehditleri de ele alındı. Hugging Face Üst Yöneticisi Clément Delangue, otonom bir yapay zekâ ajanı tarafından gerçekleştirilen siber saldırı sonrasında şirketlerinin edindiği deneyimleri paylaştı. Delangue, yaşanan olayın yapay zekâ sistemlerinin siber güvenlik alanındaki potansiyel risklerinin daha iyi anlaşılması açısından önemli bir deneyim olduğunu belirtti.
Yapay zekâ saldırı aracı olduğu kadar savunma aracı da olabilir mi?
Clément Delangue’nin değerlendirmelerinde dikkat çeken noktalardan biri, yapay zekânın siber saldırılarda kullanılmasının yanı sıra savunma amacıyla da kullanılabilmesi oldu. Delangue, şirketlerinin bir yapay zekâ saldırısının hedefi olmasına rağmen aynı süreçte yapay zekâ tabanlı sistemlerden savunma amacıyla yararlandıklarını aktardı. Böylece yapay zekânın siber güvenlikte hem yeni tehditlerin hem de bu tehditlere karşı geliştirilen savunma yöntemlerinin bir parçası haline geldiğine dikkat çekildi.
Yapay zekâ birkaç şirketin kontrolünde mi kalacak?
Delangue, yapay zekânın kapasitesi, kaynakları ve kontrolünün az sayıda kişinin elinde yoğunlaşmasının da üzerinde durulması gereken bir konu olduğunu ifade etti. Hugging Face yöneticisi, yapay zekâ teknolojisinin geleceğinde daha geniş bir dağılımın gerekli olduğunu savundu. Bu değerlendirme, yapay zekâ güvenliğinin yanı sıra teknolojinin yönetimi ve karar alma süreçlerine kimin dahil olacağı tartışmasını da gündeme taşıdı.
Yapay zekâ için ortak standartlar oluşturulacak mı?
BM Güvenlik Konseyi’ndeki toplantıda, yapay zekâ modellerinin güvenlik risklerine karşı test edilmesi ve bu testlerde ortak standartların belirlenmesi gerektiği de gündeme geldi. Devletlerin gelişmiş modellerin yetenekleri hakkında daha fazla bilgi sahibi olması ve ülkelerin verdikleri taahhütlerin yerine getirilip getirilmediğinin doğrulanabilmesi için değerlendirme ve doğrulama mekanizmaları oluşturulması önerildi.
Yapay zekânın geleceği için kritik soru
BM Güvenlik Konseyi’ndeki toplantıda ortaya çıkan ortak başlıklardan biri, yapay zekânın geleceğinin yalnızca teknoloji şirketlerinin kararlarına bırakılamayacağı yönündeki değerlendirmeler oldu. Sam Altman, Dario Amodei ve Clément Delangue farklı başlıklardan hareketle yapay zekânın güvenli şekilde geliştirilmesi, kötüye kullanımın önlenmesi ve uluslararası iş birliğinin güçlendirilmesi gerektiğine dikkat çekti. Toplantı, yapay zekânın geleceğine ilişkin teknolojik gelişmeler kadar güvenlik, denetim ve uluslararası yönetişim tartışmalarının da önem kazandığını ortaya koydu.
