Google’ın yapay zekâ modeli Gemini’nin, siber güvenlik değerlendirmesi sırasında test kapsamında sandığı üç şirketin internet sitesine erişmeye çalıştığı açıklandı.Google, ilgili kurumların bilgilendirildiğini ve test süreçlerinde değişiklikler yapıldığını bildirdi.
Google’ın yapay zekâ modeli Gemini, bağımsız siber güvenlik değerlendirme şirketi Irregular tarafından gerçekleştirilen bir test sırasında internete erişerek üç şirketin web sitesini hedef aldı.
Google’ın yapay zekâ sistemlerinin bağımsız biçimde böyle bir eylem gerçekleştirdiğinin bilinen ilk örneği olarak aktarılan olay, yapay zekâ ajanlarının internetteki faaliyetlerinin nasıl sınırlandırılacağına ilişkin tartışmaları yeniden gündeme taşıdı.
TEST KAPSAMINDA SANDIĞI SİTELERE ERİŞMEYE ÇALIŞTI
Google’ın güvenlik mühendisliğinden sorumlu başkan yardımcısı Heather Adkins, olayın standart bir test değerlendirmesi sırasında yaşandığını söyledi.
Adkins’in açıklamasına göre Gemini, internette herkese açık bilgilere ulaştı ve testin parçası olduğunu düşündüğü üç internet sitesine erişebilmek için kullanıcı bilgilerini tahmin etti.
GOOGLE: ÜÇ KURUMU DA BİLGİLENDİRDİK
İlgili şirketlere olay hakkında bilgi verildiğini belirten Adkins, test süreçlerine ilişkin düzenlemeler üzerinde çalışıldığını açıkladı:
“Üç kurumun da olaydan haberdar olmasını sağladık ve eğitim ortağımızla birlikte test süreçlerinde yaptıkları değişiklikler üzerinde çalıştık. Bu olaylar, güçlü yapay zeka modellerini sorumlu davranacak şekilde eğitmenin önemini ortaya koyuyor.”
IRREGULAR: BİLİNEN SORUNLAR GİDERİLDİ
Irregular sözcüsü, yaşanan olayın diğer yapay zekâ laboratuvarlarını etkileyen sorunla aynı olduğunu belirtti. İlgili tüm laboratuvarların temmuz ayı sonunda bilgilendirildiğini aktaran sözcü, “Bizim tarafımızdaki bilinen tüm sorunlar haftalar önce giderildi ve çözüme kavuşturuldu” dedi.
BENZER OLAYLAR DİĞER ŞİRKETLERDE DE YAŞANDI
Irregular ile bağlantılı benzer olaylar daha önce Meta, Anthropic ve OpenAI tarafından da açıklanmıştı. Meta, ağustos ayında yaptığı açıklamada kendi sisteminde yaşanan olayın bir güvenlik sınırının aşılmasını veya karmaşık bir siber saldırıyı içermediğini belirtmişti.
Yaşananlar, daha fazla özerklik kazanan ve internet ile bilgisayar sistemlerine erişimi artan yapay zekâ ajanları için uygulanacak güvenlik önlemlerini yeniden tartışmaya açtı.
