Lancaster Üniversitesi araştırmacıları uyarıyor: Bu durum çevrimiçi dolandırıcılık ve diğer zararlar açısından risk taşıyor.
Yapay zekâ ile üretilen yüz görselleri, gerçek insanlara ait yüzlerden daha güvenilir bulunuyor. Lancaster Üniversitesi’nden araştırmacılar bu bulgunun çevrimiçi dolandırıcılık ve benzeri zararlar açısından ciddi bir risk oluşturduğu konusunda uyarıda bulunuyor.
En yeni difüzyon (diffusion) teknolojisiyle üretilen yapay zeka yüzlerinin güvenilirliğini inceleyen bu çalışma, alanında bir ilk niteliği taşıyor. Araştırmayı Lancaster Üniversitesi’nden Alexis McGuire, Paul Taylor ve Sophie Nightingale, Stanford Üniversitesi’nden Maty Bohacek ve California Üniversitesi Berkeley’den Hany Farid yürüttü.
“İnsanlar Kandırılma Riski Altında”
Psikoloji doktora öğrencisi Alexis McGuire, araştırmanın insanların yapay zekâ tarafından üretilen görsellerle kandırılma riski altında olduğunu gösterdiğini belirtiyor. McGuire’a göre bu yapay zekâ modelleri, teknik bilgisi olmayan herkesin sahte yüzler oluşturmasını mümkün kılarak çevrimiçi alanı “demokratikleştirdi” ve bu sahte görseller; yanlış bilgi yayılması, kimlik hırsızlığı ve “catfishing” (sahte kimlikle flört dolandırıcılığı) gibi pek çok kötüye kullanım biçiminde araç olarak kullanılabiliyor.
İnsan beyni gerçek yüzleri işlemede son derece yetkindir ve bir yüzü değerlendirmek yalnızca 100 milisaniye sürebilir. Ancak yapay zekâ ile üretilen yüzler artık son derece gerçekçi hale geldi; daha gelişmiş yeni teknolojilerle üretilen sahte görseller, insanları yaklaşık üçte bir oranında gerçek olduklarına inandırabiliyor.
Deney Sonuçları
Araştırmada 169 katılımcıya, ırk, cinsiyet ve yaş açısından çeşitlilik gösteren 96 yüzden oluşan bir koleksiyon rastgele sırayla gösterildi ve her bir yüzün gerçek mi yoksa yapay zekâ tarafından mı üretildiğini belirtmeleri istendi. Katılımcıların ortalama doğruluk oranı yalnızca %58,4 oldu; bu da yazı-tura atmaya (%50) yakın, rastgele tahminden biraz daha iyi bir sonuç anlamına geliyor.
Dikkat çekici bir bulgu olarak, daha yeni difüzyon modeliyle (DM) üretilen yüzler, daha eski üretici çekişmeli ağ (GAN) modeliyle üretilen yüzlere kıyasla daha az gerçekçi bulundu.
İkinci bir deneyde ise farklı bir katılımcı grubundan, rastgele sırayla gösterilen 96 yüzü birden (çok güvenilmez) yediye (çok güvenilir) kadar bir ölçekte güvenilirlik açısından değerlendirmeleri istendi. Sonuçlar şöyle:
- Gerçek yüzler: ortalama 4,03 güven puanı ile en az güvenilir bulundu
- GAN ile üretilen yüzler: ortalama 4,36 güven puanı
- Difüzyon modeliyle (DM) üretilen yüzler: ortalama 4,70 güven puanı ile en güvenilir bulundu
Yani her iki yapay zekâ yüz türü de gerçek yüzlerden daha güvenilir bulunurken, daha az gerçekçi bulunan difüzyon modeli yüzleri paradoksal biçimde en yüksek güven puanını aldı.
Bir Paradoks
Araştırmacılar, daha yeni difüzyon modeliyle üretilen yüzlerin daha az gerçekçi bulunmasına rağmen en güvenilir yüzler olarak değerlendirilmesini “şaşırtıcı” buluyor. McGuire bu durumun, gerçekçilik ve güvenilirlik değerlendirmelerinin aslında iki farklı psikolojik mekanizma tarafından yönlendirildiği ihtimalini gündeme getirdiğini belirtiyor.
McGuire, en yeni difüzyon teknolojisiyle üretilen yapay zekâ yüzlerinin toplumdaki genel güven duygusunun aşınmasına katkıda bulunabileceği konusunda uyarıyor. Yapay zekâ görsellerinin giderek daha sofistike ve erişilebilir hale gelmesiyle birlikte toplum olarak; siyasi dezenformasyon, finansal ve kimlik dolandırıcılığı ile catfishing gibi kötüye kullanım senaryolarında yapay olarak üretilmiş yüzlere giderek daha fazla maruz kaldığımızı vurguluyor. Bu bağlamda, üretken yapay zekânın bu şekilde yaygınlaşmasının getirdiği tehdidi anlamanın ve bireyler, kurumlar ile demokrasiler açısından olası zararları azaltacak stratejiler geliştirmenin kritik önem taşıdığını ekliyor.
Araştırma Hakkında
“AI-Generated Faces are Becoming More Trustworthy” (Yapay Zekâ ile Üretilen Yüzler Giderek Daha Güvenilir Hale Geliyor) başlıklı araştırma, Journal of Vision dergisinde yayımlandı ve Güvenlik Tehditleri Üzerine Araştırma ve Kanıt Merkezi (CREST) ile Security Lancaster tarafından desteklendi.
Konuya ilgi duyanlar, “Gerçek ve Yapay Zekâ ile Üretilmiş Yüzlerin Tespitinde Bireysel Farklılıkların İncelenmesi” başlıklı anonim çevrimiçi ankete katılarak araştırmaya katkıda bulunabilir. Katılımcılara bir dizi yüz gösterilecek ve bu yüzlerin gerçek mi yoksa yapay zekâ ürünü mü olduğunu değerlendirmeleri, güven düzeylerini belirtmeleri istenecek; anket sonunda bir puan da paylaşılacaktır.
Kaynak: Lancaster Üniversitesi, 7 Temmuz 2026