Yapay Zeka tarafından oluşturulan sahte yüzler, daha güvenilir görünüyor

Yapay Zeka tarafından oluşturulan sahte yüzler, daha güvenilir görünüyor

Yapay zeka o kadar gerçekçi insan yüzleri oluşturabilir ki, insanlar onları gerçek yüzlerden ayırt edemez ve aslında sahte yüzlere daha çok güvenirler.

Bilgisayar tarafından oluşturulan kurgusal insan yüzleri o kadar inandırıcı ki eğitimli gözlemcileri bile kandırabiliyorlar. Çevrimiçi olarak kolayca indirilebilir ve internet dolandırıcılığı ve sahte sosyal medya profilleri için kullanılabilirler.

İngiltere’deki Lancaster Üniversitesi’nden Sophie Nightingale , “Endişelenmeliyiz, çünkü bu sentetik yüzler, örneğin intikam pornosu veya dolandırıcılık gibi hain amaçlar için inanılmaz derecede etkilidir” diyor .

Üretken düşman ağları veya GAN‘lar olarak adlandırılan yapay zeka programları , iki sinir ağını birbirine karşı karşıya getirerek gerçek görüntülerden giderek daha az ayırt edilebilen sahte görüntüler oluşturmayı öğrenir.

Berkeley, California Üniversitesi’nden Nightingale ve meslektaşı Hany Farid , bir kitle kaynaklı web sitesinde işe alınan 315 eğitimsiz ve 219 eğitimli katılımcıya, 400 sahte fotoğraftan oluşan bir seçkiyi 400 gerçek insan fotoğrafından ayırt edip edemediklerini söylemelerini istedi. Her set dört etnik grubun her birinden 100 kişiden oluşuyordu: beyaz, Siyah, Doğu Asyalı ve Güney Asyalı. Daha sonra 223 katılımcıdan aynı yüzlerin bir seçimini güvenilirlik seviyelerine göre 1 ila 7 arasında derecelendirmelerini istediler.

Nightingale, eğitimsiz katılımcıların yüzde 48,2’lik bir ilk doğruluk oranına sahip olduğunu söylüyor şanstan biraz daha kötü. Bilgisayar tarafından oluşturulan yüzleri tanıma eğitimi verilenler, yüzde 59’luk bir doğruluk oranıyla biraz daha başarılı oldular, ancak bu farkın ihmal edilebilir olduğunu söylüyor. Beyaz yüzler, belki de sentez yazılımı orantısız olarak daha fazla beyaz yüzler üzerinde eğitildiği için, insanların gerçek ile sahte arasında ayrım yapması en zor olanıydı.

Nightingale’e göre, katılımcılar sahte yüzleri gerçek yüzlerden ortalama olarak yüzde 8 daha güvenilir olarak değerlendirdi küçük ama önemli bir fark. Bunun nedeni, sentetik yüzlerin daha çok “ortalama” insan yüzlerine benzemesi ve insanların tipik görünen yüzlere güvenme olasılığının daha yüksek olması olabilir, diyor.

İnsanların Siyah yüzleri Güney Asyalı yüzlerden daha güvenilir olarak değerlendirme eğilimi dışında etnik gruplar arasında çok az fark vardı.

Uç noktalara bakıldığında, en güvenilmez olarak değerlendirilen dört yüz gerçek, en güvenilir üç yüz ise sahteydi.

Nightingale, “Daha katı etik yönergelere ve daha fazla yasal çerçeveye ihtiyacımız var, çünkü kaçınılmaz olarak, (bu görüntüleri) zarar vermek için kullanmak isteyen insanlar olacak ve bu endişe verici” diyor.

Geliştiriciler, bu riskleri azaltmak için görüntülerine sahte olarak işaretlemek için filigran ekleyebilir. “Bence bu yeterince kötü. Durdurmak için bir şey yapmazsak daha da kötüleşecek.”