ABD'de Black Lives Matter, Capitol isyancıları gibi toplumsal olaylar ve adli suçlular da dahil olmak üzere milyonlarca ABD'li üzerinde 'Clearview AI' isimli bir yüz tanıma teknolojisinin kullanıldığı ortaya çıkarıldı.
Buzzfeed tarafından hazırlanan habere göre, konuyla ilgili incelenen çok sayıda rapor ve belge sonucunda söz konusu uygulamanın 2 bin kamu kurumundan 7 binden fazla kişi tarafından kullanıldığı belirlendi. Yapılan araştırmada, uygulamayı kullanan resmi kuruluşlar arasında yerel ve eyalet polisi, ABD Göçmenlik ve Gümrük Muhafaza ve Hava Kuvvetleri, sağlık ortanizasyonları, bazı savcılıklar ve hatta devlet okulları gibi kurumların yer aldığı ifade edildi.
Adı geçen kurumların liderleri ise, çalışanlarının bu aracı kullandığından habersiz oldukları belirlendi ve konuyla ilgili görüşlerini başvurulan kişilerden 5'i ise söz konusu uygulamanın yasaklanacağını açıkladı.
Haberde ayrıca, 2018 ile Şubat 2020 arasında Clearview AI ile gerçekleştirilen yüz tanıma aramalarının yanı sıra on binlerce sayfalık kamu kayıtlarını ve bu hizmeti kullanan kurumların tümüne ulaşmanın hedeflendiği belirtildi.
Clearview AI şirketinin veri kümesindeki 335 kamu kuruluşu da, çalışanlarının yazılımı test ettiğini veya üzerinde çalıştığını onaylarken, 210 kuruluş söz konusu uygluamayı kullandığını reddetti ve 1161 kurum ise kendilerine yöneltilen soruları yanıtsız bıraktı.
Yine de, ortaya çıkarılan veriler Clearview'in yüz tanıma yazılımını ülke çapındaki federal kurumlara ve polis departmanlarına yaygın bir şekilde dağıttığını ve uygulamayı zaman zaman eğitim veya gözetim olmadan kullanan binlerce polis memuru ve hükümet çalışanına sunduğunu gösteriyor. Çalışanlarının yazılımı kullandığını kabul eden kurumlar, bunun, hem halkın hem de üstlerinin bilgisi olmadan gerçekleştirildiğini açıkladı.
'Ne kadar çabuk benimsendiğini görmek sevindirici'
Şirketin kurucu ortağı ve CEO'su Hoan Ton-That, BuzzFeed'e yaptığı açıklamada 'Uygulamanın kanun uygulayıcıları tarafından ne kadar çabuk benimsendiğini görmenin sevindirici' olduğunu söylese de, şirketin uygulamaları ve kolluk kuvvetleriyle ilişkileri hakkında 50'den fazla ayrıntılı soruyu yanıtlamayı reddetti.
Oregonlu Demokrat Senatör Ron Wyden ise, "Amerikalılar, yerel kolluk kuvvetlerinin tanıma teknolojisini kullandığını öğrenmek için BuzzFeed'e güvenmek zorunda olmamalı. Bu rapor, Clearview’in hizmetinin yerel polis tarafından gizlice benimsenmesini teşvik etmek için yürüttüğü kampanya üzerindeki perdeyi kaldırıyor. Hatalı yüz tanıma, kaçınılmaz olarak masum insanların haksız yere suçlanmasına ve suçlardan hüküm giymesine neden olacak ve trajedilere yol açacaktır" dedi.
ABD'de daha önce de yüz tanıma teknolojisine yönelik çeşitli denemeler yapılsa da, yüksek maliyetler, güvenilmez sonuçlar ve toplumsal muhalefet nedeniyle resmen hayata geçirilememişti.
Clearview ise, rakiplerinden hem daha doğru hem de uygun maliyetli olduğunu iddia ettiği bir ürünle teknolojisini ana akım haline getirdi ve uygulamayı bir süreliğine ücretsiz bir deneme yoluyla kaydolmak isteyen hemen hemen tüm kolluk kuvvetleri için erişilebilir hale getirdi.
Kuzey Carolina, Wilson’s Mills'te görev yapan polis şefi Adrian Williams, konuyla ilgili yaptığı açıklamada "Bu siteyi geçen yıl bir kolluk kuvvetleri internet sitesinde buldum, işe yarayıp yaramadığını görmek için bir hesap oluşturdum" dedi.
New York merkezli girişim, internet kullanıcılarının Facebook, Instagram ve LinkedIn gibi yerlerde yayınladığı 3 milyardan fazla görüntüyü izin almadan toplayarak, bilinen en büyük insan yüzleri resim havuzlarından birini topladığını iddia ediyor. Bu durum, eğer bir kullanıcı, fotoğrafını internette yayınladıysa, söz konusu fotoğrafın ülke çapındaki kolluk kuvvetleri tarafından test edilen veya kullanılan bir yüz tanıma ekipmanının parçası olabileceğini gösteriyor.
300 binden fazla kayıt dışı arama
BuzzFeed News tarafından analiz edilen veriler, temasa geçen ve Clearview'i daha önce kullanıp kullanmadıklarını soran 1.803 ajanstaki kişilerin neredeyse 340 bin arama yaptığını gösterdi. Ortaya çıkarılan tablo, tahminlerin çok altında bir veriyi içerse de, bu durum yüz tanıma teknolojisinin ülke genelindeki kolluk kuvvetleri aracılığıyla nasıl yayılabileceğine dair önemli bir ipucu sağlıyor.
Clearview’i ilk kullananların ise daha küçük polis departmanları olduğu belirlendi. Yaklaşık 20 bin nüfusa sahip olan Alabama Mountain Brook'taki yetkililer, ürünü tes etti ve yaklaşık 590 arama yaptı. Illinois'de ise, eyalet ofisi 8.900 arama yaptı ve yazılımın 'soruşturmalarında diğer kolluk kuvvetlerine yardımcı olmak için kullanıldığını' söyledi.
Kansas Leawood'da görev yapan bir suç analisti, uygulamayı bir meslektaşının tavsiyesi üzerine ve 'başka bir dedektifin yazılımı kullandığını keşfetmek için' kullandığını söyledi. Wyoming Otoban Devriyesi'nden Çavuş Jeremy Beck de, Clearview'i Şubat ayında kullandıklarını açıkladı.
Öte yandan, Washington’un Balık ve Vahşi Yaşam Departmanı ve Minnesota Ticari Dolandırıcılık Bürosu temsilcileri de söz konusu uygulamayı kullanan isimler arasında. Iowa'da bir adliye çalışanı ise, uygulamayı 'kanun yaptırımının onu nasıl kullanabileceğini daha iyi anlamak için' kullandığını söyledi.
Mart 2020'den sonra ise, şirket ücretsiz deneme programına, bir müdürün onayı ve kullanımı izlemek için bir yönetici ataması gerekliliği de dahil olmak üzere birkaç kontrol koydu. Clearview’in internet sitesi de geçen ay, memurların bir arama yapmadan önce bir vaka numarası vermeleri gerektiğini belirtecek şekilde güncellendi.
Ancak, 2019 yazı ile Şubat 2020 arasında bu kontrollerin hiçbiri yoktu ve herhangi bir memur bu uygulamayı istediği gibi kullanabiliyordu.
BuzzFeed'e yaptığı açıklamada Ton-That, şirketin başarısından 'gurur duyduğunu' belirterek şunları söyledi:
"Genç bir girişim olarak, başarı geçmişimizden gurur duyuyoruz ve teknolojimizi, siber güvenlik ve uyumluluk protokollerimizi iyileştirmeye devam edeceğiz. Ayrıca gizlilik ve güvenlik arasında Amerika'daki ailelerin ve toplulukların çıkarlarına hizmet eden uygun bir denge oluşturmak için en iyi uygulamalar üzerinde kanun koyucularla birlikte çalışmayı dört gözle bekliyoruz."
Ton-That ayrıca, şirketin iki yıl içinde 'çocuk istismarı, mali dolandırıcılık ve cinayet' dahil olmak üzere 'binlerce ajansa' yardım ettiğini söyledi ancak somut örnekler vermedi.
'Sosyal güvenlik numaranızı değiştirebilirsiniz ancak yüzünüzü değiştiremezsiniz'
Öte yandan, Amerikan Sivil Özgürlükler Birliği (ACLU) gibi kuruluşlar, söz konusu uygulamayı şiddetle eleştirdi.
Birlik avukatlarından Nathan Freed Wessler, uygulamayla ilgili olarak "İnsanların rızası olmadan, özel bilgilerin kontrolünü sürdürmek ve bu kontrolü elimizden almak anlamına geliyor. İzniniz olmadan alındıysa sosyal güvenlik numaranızı değiştirebilirsiniz, ancak yüzünüzü değiştiremezsiniz" ifadelerini kullandı.
ACLU başta olmak üzere, uygulamanın çok sayıda davayla karşı karşıya olduğu da biliniyor. Clearciew'a geçen yılın Mayıs ayında ACLU dava aşarken, Facebook, LinkedIn, Google ve Twitter da şirketin insanların verilerini toplayarak hizmet şartlarını ihlal ettiği suçlamasıyla şirkete yazı gönderdiler. Öte yandan, bu 4 şirket Clearview'e karşı başka yasal işlem yapma planları olup olmadığı konusunda açıklama yapmadı.
Nasıl bu kadar hızlı yayıldı?
Clearview, son yıllarda Slack veya Dropbox gibi yazılım şirketleri için yaygın bir satış stratejisi kullanarak yüzlerce emniyet teşkilatına ulaştı. Satış yapmak için standart satın alma kanalları yerine, ücretsiz denemelerle kurumlarla birlikte bireysel çalışanları da hedef aldı. Böylelikle uygulama için aşağıdan yukarıya bir talep oluşmasına yol açtı.
Bu ücretsiz denemeler, Clearview'in yerel polis memurlarıyla geniş bir bağlantı alanı oluşturmasına yardımcı oldu. Şirketin CEO'su Ton-That, Mart 2021 itibariyle 3.100 kolluk kuvvetinin yazılımı kullandığını söyledi. Örneğin, New York Polis Departmanı'nda toplu olarak 11 binden fazla arama yapan 40'tan fazla kişinin olduğu tespit edildi. NYPD aynı zamanda, bu uygulamayı en çok kullanan polis departmanı olarak listelendi.
Ayrıca, Ocak 2020'de kendi kolluk kuvvetlerinin uygulamayı kullanmasını yasaklayan Teksas, Alabama ve New Jersey'dekiler de dahil olmak üzere 15 farklı eyalet başsavcılığında görevli kişiler de yazılımı denedi.
Öte yandan, Alabama Üniversitesi ve Batı Virginia Üniversitesi, Massachusetts'teki Somerset Berkley Bölge Lisesi ve Pennsylvania'daki Central Montco Teknik Lisesi de dahil olmak üzere 31 kamu eğitim kurumu ve üniversitenin de uygulamayı kullandığı belirlenirken, ismi geçen kuruluşların hiçbiri yorum yapmayı kabul etmedi. Yalnızca, Kaliforniya Eyalet Üniversitesi'nden bir sözcü, bir dedektifin platformun yeteneklerini 30 günlük bir denemede incelediğini doğruladı.
Clearview ise, uygulamayı pazarlarken 'çocuk tacizcilerinin belirlenmesine yardımcı olduğu' argümanını öne çıkarıyor.
Silahlı kuvvetlerde de kullanılmış
Veriler ayrıca, uygulamanın ABD ordusunun tümünde kullanıldığını da gösteriyor. ABD Ordusu Ceza Soruşturma Komutanlığı Şubat 2020 itibarıyla 1.300 arama yaparken, Hava Kuvvetleri'nin Aralık 2019'da Clearview ile 'operasyonel bir ihtiyaç olup olmadığını belirlemek için' 50 bin dolarlık bir keşif sözleşmesi imzaladığı ortaya çıktı. Deniz Piyadeleri ve Sahil Güvenlik ise, kendilerine bağlı herhangi bir personelin Clearview'i kullandığına dair hiçbir gösterge olmadığını söyledi.
Bununla birlikte, 2020'nin başlarında FBI'a bağlı bürolarda da 5 bin 800'den fazla Clearview araması yapıldığı belirlendi.
Ayrıca, 69 kanun uygulayıcı ve vergi mükellefi tarafından finanse edilen kuruluştaki temsilciler de, başlangıçta çalışanlarının yazılımı kullandığını reddettiler ancak incelemeler devam ettikçe uygulamayı kullandıkları ortaya çıktı.
Örneğin California, Chula Vista'daki polis departmanı soruşturma bölümünün kaptanı Eric Thunberg, Kasım ayında yaptığı açıklamada "Görevlilerimiz kendi başlarına böyle bir şeye kaydolamazlar" dedi, ancak daha sonra 'az sayıda arama yapıldığını' kabul etmek zorunda kaldı.
Aynı şekilde, Tacoma polis departmanı da kuruma bağlı çalışan bir memurun yaklaşık 800 arama yaptığının ortaya çıkmasından önce uygulamayı kullandıklarını kabul etmemişti.
Delaware Gizlilik, Teknoloji ve Kanunla ilgili Senato Yargı Alt Komitesi başkanı Demokrat Senatör Chris Coons da, yüz tanımanın yaygınlaşmasıyla birlikte yerel ve federal yetkililerin çeşitli kısıtlamalar getirmeleri gerektiğini söyledi:
"Bu teknolojiyi kimin veya ne zaman kullandığına dair çok az bilgiye sahibiz. Yüz tanıma teknolojilerinin yanılmaya açık olabileceğine veya özellikle beyaz olmayan insanlar için kullanıldığında zararlı önyargılar gösterebileceğine dair kanıtlar nedeniyle derin endişe duyuyorum. Şeffaflık ve uygun korkuluklar olmadan, bu teknoloji sivil haklara ve sivil özgürlüklere gerçek bir tehdit oluşturabilir."
Ohio'nun Montgomery Bölgesi'nde görev yapan Şerif Rob Streck de, dedektiflerinden ikisinin Clearview'i deneme amaçlı test etmiş olmasına rağmen "Mahremiyet ve teknoloji hakkında hala cevaplanmamış birçok soru olduğunu düşünüyorum" ifadeleriyle uygulamayı kullanmayı reddetti.
Georgetown Law’s Center'ın Gizlilik ve Teknoloji Merkezi’nde görevli Jameson Spivack da, bu tür uygulamaların düzgün bir şekilde uygulanmadıkları takdirde pek bir değeri olmayacağını söyledi.
"İşin gerçeği, çoğu durumda, onları bu konuda tutan hiçbir şey yok. Çoğu durumda yasa yoktur, çoğu durumda iç politika yoktur. İstedikleri gibi kullanmak için dizginler hemen hemen ellerinde" dedi.