ABD’de federal bir kurum tarafından yapılan çalışmaya, ülkede yaygın olarak benimsenen yüz tanıma sistemlerinin önyargılı olduğunu ortaya koydu.
Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), 99 şirket tarafından federal veri tabanlarından 18 milyon görüntü kullanılarak geliştirilen yaklaşık 200 yüz tanıma algoritmasının doğruluğunun farklı ırk, etnik köken, cinsiyet ve yaş grupları arasında “çılgınca” değiştiği ortaya koydu.
Yüz tanıma sistemleri ırksal olarak önyargılı
Buna göre yerli Amerikalılar, siyahlar ve Asyalılar en yüksek yanlış eşleşme oranlarına sahip. Sabıka fotoğrafları konusunda siyahlar ve Asyalılar, yerlilere oranla 10 ila 100 kat daha fazla yanlış tanımlandı.
'Gelecek için Savaş' adlı insan hakları grubu çalışmanın sonuçlarının, ABD hükümetinin yüz tanıma sistemleri ve gözetleme araçlarını kullanmayı bırakması gerektiğini gösterdiğini belirtti. Grup, 'bu teknolojinin sivil özgürlükler, kamu güvenliği ve temel insan hakları için tehdit oluşturan ciddi kusurları olduğunun' altını çizdi.
‘Sistemler ayrımcılığı güçlendiriyor’
Yüz tanıma sistemi ve diğer gözetleme araçlarının, beyaz olmayan kişilere yönelik resmi kurumlar tarafından yapılan ayrımcılığı sona erdirmek yerine daha iyi hale getirdiği belirtiliyor.
Google için çalışan şirketlerden birinin, koyu tenli insanları hedefleyen şüpheli taktikler kullanarak yüz tanıma sistemlerini eğittiği kısa bir süre önce ortaya çıkmıştı. Şirketin aynı zamanda evsiz insanlara yalan söyleyerek yüzlerini taradığı belirlenmişti.
NIST’in son raporu, devlet tarafından kullanılan gözetim teknolojisinin kusurlu ve önyargılı olduğunu doğruluyor. Uzmanlar önyargılı sistemler yüzünden suçsuz birçok kişinin polis sorgulaması ya da haksız tutuklamalara maruz kalabileceklerinin altını çiziyorlar.
