Kolluk kuvvetleri diyarında yanlış anlayan başka bir yüz tanıma teknolojisi vakasına göz atıyoruz.
Detroit kolluk kuvvetleri, 32 yaşındaki bir kadını, işlemediği bir hırsızlık ve araba hırsızlığı nedeniyle yanlışlıkla tutukladı. 11 saat gözaltında tutuldu ve nihayet gitmesine izin verilmeden önce telefonu delil olarak alındı. Yanlış tutuklamanın nedeni, mahremiyet ve sivil özgürlük örgütlerinin bir süredir uyardığı türden bir yüz tanıma hatası.
Bunu özellikle sinir bozucu yapan şey, bu davada kullanılan güvenlik kamerası görüntülerinin hamile bir kadını göstermemesi. Bu arada, Porsche Woodruff tutuklandığı sırada sekiz aylık hamileydi.
Bütün bunlar nasıl başladı? Bir Detroit polisi, araba hırsızlığı kurbanının telefonunu bir benzin istasyonuna geri götüren bir kadının yüz tanıma talebinde bulundu. Yüz tanıma aracı, Woodruff’u daha önceki ilgisiz bir tutuklamanın 2015 tarihli bir sabıka kaydıyla işaretledi. Görüntüdeki kişinin görünürde hamile olmadığının bilinmesine rağmen, kurbana eski fotoğrafın da yer aldığı bir sıra gösterildi. Soygun kurbanı yanlışlıkla Woodruff’u suçlu olarak tanımladı.
Kısa bir süre sonra, araba hırsızlığı ve soygun suçundan tutuklandı.
Ars Technica, kolluk kuvvetlerinin, gözetleme görüntülerini sabıka kaydı veritabanıyla eşleştirmek için DataWorks Plus adlı bir şey kullandığını bildirdi. DataWorks Plus kendisini bir “yüz tanıma ve vaka yönetimi” teknolojisi olarak faturalandırıyor. “Gelişmiş karşılaştırma ile doğru, güvenilir yüz adayları… incelemeler için araçlar” sağlar. Ayrıca parmak izi, iris ve dövme tanıma konusunda da benzer hizmetler sunuyor.
Ne yazık ki Woodruff için, 2015 sabıka kaydının söz konusu soygunla eşleştiği yanlış bir şekilde belirlendiği gün doğruluk tatildeydi.
Mahkemede hırsızlık ve araba hırsızlığı ile suçlandı ve yaklaşık bir ay sonra tüm suçlamalar reddedildi. Şimdi, şartlar göz önüne alındığında oldukça makul görünen Detroit şehrine karşı haksız tutuklama davası açtı.
New York Times, bunun, bir kişinin yüz tanıma teknolojisinin beklendiği gibi çalışmaması nedeniyle haksız yere suçlandığı son zamanlarda bildirilen altıncı örnek olduğunu iddia ediyor. Bu, Detroit’te meydana gelen üçüncü örnek ve haksız yere suçlanan 6 kişinin tamamı siyah. Bu teknolojilerle ilgili uzun süredir devam eden bir endişe, kadınlarla ve koyu tenli insanlarla uğraşırken çok kötü performans gösterme eğiliminde olmalarıdır. Ars gönderisinin, bu tutarlı kusurlardan bazılarını vurgulayan çeşitli raporlara ve çalışmalara yönelik birden çok bağlantısı vardır.
Aslında, ABD’deki birçok şehir yüz tanıma teknolojisinin kullanımını yasakladı, ancak bu gelecekte lobicilik ve “suçta artış” nedeniyle değişebilecek bir şey olabilir.
“Sen 8 aylık hamile olmana rağmen sen bu kişiye benziyorsun, o değil” demek bu kişiyi hücreden uzak tutar diye düşünür insan. Bu teknolojinin sözde doğruluğuna olan güven, Detroit polisinin kendi gözlerinin tanıklığı yerine ona güveneceği kadar mı büyük?
Woodruff’u ön kapısına götürdüler ve hatta 2021’de verilen mevcut ehliyet fotoğrafına erişimleri olmasına rağmen eski fotoğrafını kullandılar. İş akışının teknoloji tarafına kimsenin müdahale etmemesi çok garip görünüyor raydan çıkıyordu. Şikayetten, CNN aracılığıyla:
Dava, Woodruff’un tutuklama emriyle ilk karşılaştığında “görünür hamile durumu göz önüne alındığında şaşkına döndüğünü ve bunun bir şaka olduğunu varsaydığını” söylüyor. Şikayette, o ve nişanlısı “memurları, soygunu ve araba hırsızlığını yapan kadının hamile olduğunu doğrulamak için tutuklama emrini kontrol etmeye çağırdı, ancak memurlar bunu yapmayı reddetti” diyor.
2018 yılına kadar gidip Detroit kolluk kuvvetlerinin yüz tanıma teknolojisinde yanlış anladığını görebilirsiniz. Orada, bir adam yanlışlıkla saat hırsızı olarak işaretlendi. 2019’da başka bir kişi, avukatı bir kez daha yanlış kişiyi suçladıklarını kanıtlayana kadar kısa bir süre telefon çalmakla suçlandı.
Amerikan Sivil Özgürlükler Birliği (ACLU) Michigan şimdi ilgileniyor ve davanın sonucu henüz belli değil. Sonucu tahmin etmek imkansız olsa da, Woodruff oldukça güçlü bir davaya sahip gibi görünüyor. Soru şu ki, bu, kolluk kuvvetlerinin karar vermeyi teknoloji iş akışlarına nasıl dahil ettiği konusunda anlamlı bir değişikliğe yol açacak mı? Yoksa altı ay sonra bu vakalardan bir başkasını daha görecek miyiz?
Tehditleri sadece rapor etmiyoruz, onları kaldırıyoruz
Siber güvenlik riskleri asla bir manşetin ötesine geçmemelidir. Malwarebytes’i bugün indirerek tehditleri cihazlarınızdan uzak tutun.