Araştırmaya göre bazı yapay zeka sohbet sistemleri, kullanıcıların hatalı ya da tartışmalı davranışlarını bile çoğu zaman onaylayarak onları haklı gösterme eğilimi sergiliyor. Uzmanlar, bu durumun uzun vadede bireylerin empati kurma ve öz eleştiri yapma becerilerini zayıflatabileceği uyarısında bulunuyor.
11 YAPAY ZEKA MODELİ TEST EDİLDİ
Araştırma kapsamında aralarında ChatGPT ve Gemini gibi popüler sistemlerin de bulunduğu toplam 11 farklı yapay zeka modeli incelendi. Araştırmacılar, bu sistemlerle çok sayıda konuşma başlatarak çeşitli senaryolar üzerinden tavsiye istedi.
Deneylerde kullanıcıların eşleriyle yaşadığı tartışmalar, arkadaşlık ilişkilerindeki anlaşmazlıklar ya da iş hayatında verilen zor kararlar gibi durumlar yapay zekaya aktarılırken, sistemlerin verdiği yanıtlar analiz edildi. Sonuçlar ise dikkat çekiciydi. Yapay zeka modellerinin büyük bölümünün, kullanıcıların davranışlarını eleştirmek yerine onları onaylama eğiliminde olduğu görüldü.
Araştırmacılara göre bu sistemler çoğu durumda kullanıcıya “duyması gerekeni” değil, “duymak istediğini” söylüyor.
TARTIŞMALI DAVRANIŞLAR BİLE MEŞRULAŞTIRILABİLİYOR
Araştırmanın en çarpıcı bulgularından biri ise bazı yapay zeka yanıtlarının tartışmalı davranışları bile dolaylı şekilde meşrulaştırabilmesi oldu. Deneylerde kullanıcıların birini manipüle ettiğini, incittiğini ya da zarar verdiğini ifade ettiği senaryolar da yapay zekaya yöneltildi.
Bu durumlarda bile bazı modellerin kullanıcıyı sert şekilde eleştirmek yerine davranışı açıklamaya veya gerekçelendirmeye çalışan yanıtlar verdiği tespit edildi. Uzmanlar bu yaklaşımın, kullanıcıların hatalı davranışlarını sorgulamak yerine kendilerini haklı hissetmelerine yol açabileceğini belirtiyor.
1604 KİŞİLİK DENEY
Araştırmanın ikinci aşamasında ise 1604 kişiyle geniş kapsamlı bir deney gerçekleştirildi. Katılımcılar iki gruba ayrıldı. Birinci grup sürekli kullanıcıyı onaylayan bir yapay zeka sistemiyle sohbet etti. İkinci grup ise daha tarafsız ve eleştirel yanıtlar veren sistemlerle iletişim kurdu.
Deney sonuçları iki grup arasında belirgin davranış farklılıkları ortaya koydu.
Sürekli onaylanan ilk grubun zamanla özür dilemeye daha az istekli olduğu, uzlaşma konusunda daha kapalı davrandığı ve karşı tarafın bakış açısını anlamakta zorlandığı gözlemlendi. Araştırmacılar, bu grubun daha bencil davranış eğilimleri sergilediğini ifade etti.
KULLANICILAR ONAYLAYAN YAPAY ZEKAYI DAHA ÇOK SEVİYOR
Araştırmada ortaya çıkan bir diğer dikkat çekici sonuç ise kullanıcıların değerlendirmeleri oldu. Katılımcıların büyük bölümü, kendilerini sürekli onaylayan yapay zeka sistemlerini daha kaliteli ve güvenilir bulduğunu ifade etti.
Bu durum, teknoloji şirketleri açısından önemli bir tartışmayı da beraberinde getiriyor. Uzmanlara göre kullanıcı memnuniyetini artırmak isteyen şirketler, yapay zeka modellerini daha “onaylayıcı” yanıtlar verecek şekilde tasarlama eğilimi gösterebilir.
Bu yaklaşım ise etik açıdan yeni soruları gündeme getiriyor.
UZMANLAR “KISIR DÖNGÜ” UYARISI YAPIYOR
Araştırmacılar, yapay zekanın sürekli kullanıcıyı haklı çıkaran bir araç haline gelmesi durumunda “psikolojik bir kısır döngü” oluşabileceği görüşünde.
Bu döngüde yapay zeka kullanıcıyı daha fazla onayladıkça insanlar da öz eleştiri yapma eğiliminden uzaklaşıyor. Kullanıcıların davranışlarını sorgulamak yerine doğrulayan yanıtlar alması, sosyal ilişkilerdeki çatışmaların daha da büyümesine yol açabiliyor.
Bugün milyonlarca insan ilişkilerindeki sorunları, iş hayatındaki kararlarını ya da kişisel tartışmalarını yapay zeka sohbet sistemlerine danışıyor. Bu durum, yapay zekanın bireylerin düşünce ve davranış biçimleri üzerinde giderek daha büyük bir etkiye sahip olabileceğini gösteriyor.
YAPAY ZEKANIN ETİK TASARIMI TARTIŞILIYOR
Araştırmanın sonuçları, yapay zeka sistemlerinin yalnızca teknik değil aynı zamanda etik açıdan da tasarlanması gerektiğini ortaya koyuyor. Uzmanlara göre yapay zekaların kullanıcıları memnun etmek ile gerçekçi ve sorumlu tavsiyeler vermek arasındaki dengeyi kurması gerekiyor.
Aksi halde yapay zekanın bireysel kararlar ve sosyal ilişkiler üzerinde beklenenden çok daha güçlü bir yönlendirici haline gelebileceği ifade ediliyor.
