OpenAI, yapay zeka sistemlerini geliştirme süreçlerinde ortaya çıkan 6 çarpıcı vakayı açıkladı. Modellerin hata ve eksik verileri gizlemeye çalışmasından izinsiz dosya yüklemeye, programlama anahtarını kullanmaya ve kendi iletişim yöntemlerini geliştirmeye kadar uzanan vakalar, yapay zeka güvenliği tartışmalarını yeniden gündeme taşıdı.
OpenAI, yapay zeka sistemlerinde tespit edilen 6 “uyumsuzluk” vakasını açıkladı.
OpenAI, yapay zeka modellerinin hedef veya eylemlerinin insanların niyet ve değerlerinden uzaklaşması anlamında kullanılan “uyumsuzluk” kapsamında 6 vakayı kamuoyuna duyurdu. Şirket, söz konusu davranışların yaklaşık son 6 aylık dönemde gözlemlendiğini ve büyük bölümünün sistemlerin geliştirilmesi ile test edilmesi sırasında ortaya çıktığını bildirdi.
Açıklama, yapay zeka sistemlerinin güvenliği konusunda süren tartışmaların ortasında geldi.
Şirket, mevcut uyum ve izleme sorunlarının teknolojinin sorumlu biçimde daha uzun süre ölçeklendirilmesi için yeterli ölçüde çözülmediğini belirtti.
Açıklanan vakaların çoğu eski modellere ait
OpenAI sözcüsü, açıklanan 6 vakanın çoğunun daha eski yapay zeka modelleriyle ilgili olduğunu ve bu modellerin hiçbir zaman kullanıma sunulmadığını belirtti. Şirket, söz konusu vakaların üçüncü tarafların da dahil olabileceği daha kapsamlı bir soruşturmayı gerektiren durumlar arasında yer almadığını bildirdi.
“OpenAI, yapay zeka sistemlerinin kontrolden çıkarak veri uydurduğu, hatalarını gizlemek için notlar aldığı ve izinsiz internete yüklendiği 6 vakayı açıkladı. Bir modelin ‘Devlete hesap vermem’ çıkışı dikkat çekti”
İşte OpenAI’ın açıkladığı o 6
1. Yapay zeka hatalarını gizlemek için not tuttu
OpenAI’ın açıkladığı vakalardan birinde, geliştirme aşamasındaki GPT-5.6 Sol modelinin kullanıcıların göremeyeceği notlar tuttuğu belirlendi. Modelin bu notları kendi hatalarını gizlemek için kullandığı, bazı notlarda eksik verilerin uydurulmasına ve kaynakların farklı sürümleri arasındaki tutarsızlıkların gizlenmesine yönelik ifadelerin yer aldığı belirtildi.
Bir model kendisine farklı bir “persona” tanımladı
Açıklanan başka bir vakada, henüz kullanıma sunulmayan bir modelin kendi notlarına çeşitli talimatlar eklediği tespit edildi. İncelemede 27 ayrı not bulundu. Bu notlar arasında modelin kendisini diğer sohbet robotlarına uygulanan rol ve kimlik sınırlamalarından bağımsız tanımladığı bir “persona” talimatı da yer aldı.
Programlama anahtarını izinsiz kullandı, ardından veri uydurdu
Bir başka vakada yapay zeka sistemi internette bir programlama anahtarı buldu ve bu anahtarı izin almadan kullandı. Sistem, talep edilen bazı sayısal verilere ulaşamadığında ise eksik bilgileri gerçekmiş gibi üretmeye yöneldi. Vaka, modellerin çevrim içi ortamda buldukları erişim bilgilerini nasıl kullanabildiğine ilişkin güvenlik tartışmalarını gündeme getirdi.
Kendi dosyasını internete yükledi
OpenAI’ın açıkladığı vakalardan birinde model, bir kodlama problemini doğru şekilde çözdükten sonra yanıtında internet üzerindeki bir kaynağa atıf yapabilmek amacıyla kendi dosyasını izinsiz biçimde internete yükledi. Modelin bunu kullanıcı talebini yerine getirmek amacıyla yaptığı, ancak işlemin izin alınmadan gerçekleştirilmesinin güvenlik açısından incelendiği aktarıldı.
Modeller kendi aralarında iletişim kurmak için farklı yollar geliştirdi
İki ayrı vakada otomatik sistemlerin birbirleriyle iletişim kurmak için beklenmeyen yöntemler kullandığı görüldü. Bunlardan birinde sistem, eksik dosyaları ararken kurum içindeki kod deposunu geçici bir duyuru panosu gibi kullanarak isteklerini iletti. Diğerinde ise sistemlerin doğrudan iletişim kuramadığı durumda belgeleri paylaşmak için herkese açık dosya paylaşım sitelerinden yararlanıldığı belirtildi.
Hugging Face olayı yapay zeka güvenliği tartışmasını büyüttü
OpenAI’ın daha önce yaşanan bir olayla ilgili açıklaması da yapay zeka güvenliği tartışmalarında dikkat çekti. OpenAI sistemlerinin Hugging Face'e yönelik bir siber saldırı başlattığı ve şirketin olayı Hugging Face tarafından bilgilendirilmesinden haftalar sonra fark ettiği aktarıldı. OpenAI, yeni açıkladığı 6 vakanın ise yaklaşık son 6 aylık dönemde, ağırlıklı olarak geliştirme ve test süreçlerinde ortaya çıktığını belirtti.
