Amazon, FBI’ın Rekognition görüntü ve video analiz yazılımını kullanmasının, yüz tanıma teknolojisinin ABD kolluk kuvvetlerine satışına ilişkin kararlarını ihlal etmediğini, çünkü bu teknolojinin yalnızca cezai soruşturmalar yürütürken polis güçlerine uygulandığını iddia ediyor.
Microsoft ve IBM ile birlikte Amazon, bir ay önce George Floyd’un polis tarafından öldürülmesi üzerine yoğun uluslararası tepkinin ardından Haziran 2020’de polisin yüz tanıma yazılımını kullanmasına bir yıllık moratoryum uyguladı.
ABD polis teşkilatlarının bu teknolojiyi kullanması her durumda tamamen yasaklanmış gibi görünse de Amazon, bazı kanun uygulayıcı olmayan kuruluşların Rekognition yazılımını kullanmaya devam etmesine izin vereceğini söyledi.
“Amazon’un yüz tanıma teknolojisinin polis tarafından kullanımına bir yıllık bir moratoryum uyguluyoruz. Thorn, Uluslararası Kayıp ve İstismara Uğrayan Çocuklar Merkezi ve Marinus Analytics gibi kuruluşların, insan ticareti mağdurlarının kurtarılmasına ve kayıp çocukların aileleriyle yeniden bir araya getirilmesine yardımcı olmak için Amazon Rekognition’ı kullanmasına izin vermeye devam edeceğiz.” -paragraf blog yazısı.
Başlangıçta bir yıllığına uygulanan Amazon, daha sonra moratoryumu Mayıs 2021’de hiçbir açıklama yapmadan süresiz olarak uzattı.
Ancak Ocak 2024’te FedScoop, ABD Adalet Bakanlığı (DoJ) tarafından yayınlanan güncellenmiş bir “Yapay Zeka kullanım senaryosu” envanterini ortaya çıkardı; bu envanter, FBI’ın “Tyr Projesi” kapsamında Amazon Rekognition’ı kullandığını ortaya çıkardı; İskandinav savaş tanrısına atıfta bulunan bir isim.
Aracın yüz tanıma yeteneklerinden açıkça bahsetmeyen proje özetinde, “Amazon Rekognition’ın, yasal olarak elde edilen görüntü ve videolardan bilgi ve içgörü elde etmek için önceden eğitilmiş ve özelleştirilebilir bilgisayarlı görüntü (CV) yetenekleri sunduğu” ve şu ifadelere yer verildi: “çıplaklık, silahlar, patlayıcılar ve diğer tanımlayıcı bilgileri içeren öğeleri incelemek ve tanımlamak” üzere özelleştirilecektir.
Envanter, üçüncü bir taraftan “önceden oluşturulmuş” olarak kullanıma hazır olarak satın alınan yazılım hakkında daha fazla ayrıntı sağlarken, aynı zamanda eğitim verilerinin nereden geleceği ve hangi spesifik yapay zeka teknikleri dahil olmak üzere projenin birçok yönünü de gösterir. kullanılacaktır – henüz sonuçlandırılmamıştır.
Amazon’un web sitesindeki herkese açık Rekognition belgelerine göre müşteriler, çeşitli uygulama programlama arayüzlerini (API’ler) kullanarak çeşitli görsel bilgileri tespit etmek ve analiz etmek için aracı kullanabilirler.
Bu API’ler genel olarak biri görüntü analizi ve diğeri video için olmak üzere iki grup halinde sağlanır, ancak her işlem müşterinin API’yi belirli bir şekilde çağırmak için doğru izinlere sahip olmasını gerektirir.
Örneğin, araba veya silah gibi bir nesneyi tespit etmeye çalışırken, Amazon’un müşterileri, örneğin nesne, yazılımın nesneye atanan etiketlere olan güven düzeyi hakkında bilgi vermek için DetectLabels API’yi arayabilir. ve o nesne için olası diğer adlar. Bu nedenle müşteri, insanların yüzleri hakkındaki bilgileri döndürmek için bu API’yi arayamaz; bu da “rekognition:DetectFaces eylemini gerçekleştirmek için izinler” gerektirir.
Computer Weekly, hangi API’lere erişebildiği ve bunun yüz tanıma özelliklerini kullanıp kullanamayacağı da dahil olmak üzere Amazon Rekognition kullanımı hakkında daha fazla bilgi almak için FBI ile temasa geçti, ancak ajans hikayenin herhangi bir yönü hakkında yorum yapmayı reddetti.
Computer Weekly ayrıca polisin yüz tanıma moratoryumunun FBI gibi federal kolluk kuvvetlerini de kapsayıp kapsamadığını açıklığa kavuşturmak için Amazon ile temasa geçti; şirketin, kurumların yüz tanıma işlevlerini kullanmasını sağlayacak API’lere erişimini herhangi bir şekilde kısıtlayıp kısıtlamadığı; ve yerel veya eyalet polisinin bu yeteneklere FBI aracılığıyla erişip erişemeyeceği.
Bir Amazon sözcüsü, “Polis departmanlarının cezai soruşturmalarla bağlantılı olarak Amazon Rekognition’ın yüz karşılaştırma özelliğini kullanmasına Haziran 2020’de moratoryum uyguladık ve bu moratoryumu gevşettiğimizi öne sürmek yanlıştır” dedi.
“Rekognition, yüz dışı birçok analiz ve karşılaştırma özelliğine sahip bir görüntü ve video analiz hizmetidir. Adalet Bakanlığı’nın açıklamasında FBI’ın moratoryumu herhangi bir şekilde ihlal ettiğini gösteren hiçbir şey yok.
“Birçok kez söylediğimiz ve güçlü bir şekilde inanmaya devam ettiğimiz gibi, şirketlerin ve kamu kuruluşlarının mevcut ve yeni teknolojiyi sorumlu ve yasalara uygun bir şekilde kullanması gerekiyor. Ayrıca hükümetlerin, yüz tanıma teknolojisinin etik kullanımını yönetecek düzenlemeler yapması gerektiğine inanıyoruz ve talep edilmesi halinde uygun kuralların tasarlanması konusunda onlara yardımcı olmaya hazırız.”
Sözcü ayrıca Amazon’un Rekognition hizmet şartlarına da dikkat çekti; bu, moratoryumun polis tarafından cezai soruşturmalarda yüz karşılaştırmasının kullanılmasıyla sınırlı olduğu ve “… [the] Kayıp kişilerin belirlenmesine veya bulunmasına yardımcı olacak bir özellik”.
Hizmet şartları, herhangi bir “kolluk kuvvetlerinin… [using] Cezai soruşturmalarda tanınma, yüz tanıma sistemlerinin kullanımını açıklayan bir kamuya açıklama sağlamalıdır.
10 Haziran 2020’deki moratoryum duyurusunun ardından Amazon hizmet şartlarını kontrol etmek için Wayback Machine’i kullanan “kriminal soruşturmalar” uyarısı yalnızca 26 Haziran’dan itibaren web yakalamalarında görünüyor. 24 Haziran’dan iki gün öncesine ait bir kayıtta moratoryumdan bahsedilmediği görülüyor.