Runneymede Trust ve Uluslararası Af Örgütü’ne göre, yapay zeka (YZ) ve yüz tanıma teknolojilerinin polislik alanında kullanımı, Birleşik Krallık’ta renkli insanların medeni ve siyasi haklarında “endişe verici bir gerilemeye” neden oluyor.
Sivil toplum grupları, Birleşmiş Milletler Irk Ayrımcılığının Ortadan Kaldırılması Komitesi’ne (bu komite, devletlerin ırkçılığı ortadan kaldırma ve insan haklarını geliştirme çabalarını bağımsız olarak izliyor) sundukları ortak bildiride, mevzuat, kurumsal uygulamalar ve toplumun geleneklerinin bir araya gelerek Birleşik Krallık’taki renkli insanlara zarar vermeye devam ettiğini açıkladı.
Basın bülteninde, “Başvuru, renkli insanların ceza adalet sistemi, sağlık, eğitim, istihdam ve göç alanlarında karşı karşıya kaldıkları eşitsizliklerin, dört yıl önceki raporlama döneminden bu yana nasıl devam ettiğini gösteriyor” denildi.
“Renkli insanlar için sonuçları iyileştirmede başarısız olmak, bu toplulukların muhalefet etme biçimlerine saldırırken, onlar için imkansız bir duruma yol açar. Önleme tarafından hedeflendi [counter-terrorism programme]”Protesto için kısıtlı yollar, aşırı polis denetimi ve yetersiz koruma ve daha yüksek yoksulluk oranları – renkli topluluklar devletin kendilerine açtığı çatlakları kapatmak zorunda kalıyor.”
Liberty, Black Equity Organisation, Friends Families and Travellers, Migrants Organise ve Inquest gibi 40’tan fazla sivil toplum örgütü tarafından desteklenen 50 sayfalık raporda, Birleşik Krallık’ta polislikteki yapay zeka ve otomasyonun renkli insanlar üzerindeki etkilerine ilişkin bir bölüm yer alıyor.
Örneğin, canlı yüz tanıma (LFR) teknolojisinin renkli insanları yanlış tanımlama eğilimine rağmen, İçişleri Bakanlığı’nın daha önce polis güçlerinin bunu mevcut yasal çerçeveler dahilinde kullanma hakkını teyit ettiğini ve teknolojinin kullanımının genel olarak arttığını belirtti.
“Metropolitan Polisi tarafından yayımlanan kayıtlara göre, LFR 2020 ile 2022 arasında dokuz kez konuşlandırıldı ve dokuz tutuklama veya imha ile sonuçlandı. Bu, 2023 ile Mayıs 2024 arasında 96 olaya önemli ölçüde arttı ve 243 tutuklama ile sonuçlandı,” dedi.
“Liberty Investigates, İçişleri Bakanlığı’nın pasaport fotoğrafı veri tabanını ve göçmenlik veri tabanını kullanarak gizlice yüzlerce yüz tanıma araması gerçekleştirdiğini ortaya çıkardı; bu durum, yüz tanıma için şeffaflık eksikliği ve veri kullanımının kapsamı hakkında daha fazla soru gündeme getirdi.”
Polis tarafından öngörücü polislik ve Otomatik Plaka Tanıma (ANPR) gibi otomatik sistemlerin kullanılmasının insan hakları ihlallerine ve ölümlere yol açabileceği belirtilirken; Eylül 2022’de silahlı bir polis tarafından kafasından vurularak öldürülen 23 yaşındaki Chris Kaba’nın kullandığı aracın, durdurulmadan önce ANPR aracılığıyla tescil plakasıyla işaretlendiği vurgulandı.
Polis o sırada Kaba’nın aracının “önceki günlerde bir ateşli silah suçuyla bağlantılı olduğunu” söylese de, araç ona kayıtlı değildi ve sonunda içinde ateşli silah bulunamadı. Olaya karışan silahlı memur o zamandan beri cinayetle suçlandı ve Ekim 2024’te yargılanacak.
Raporda ayrıca, Met’in Çete Matrisi veri tabanının ayrımcı sonuçlarına da dikkat çekildi. Bu sonuçlara göre, siyahi insanların (bu durumda çoğunlukla genç siyahi erkek çocukları ve erkekler) dinledikleri müzik, sosyal medyadaki davranışları veya arkadaşları nedeniyle ırksal olarak profillenmesi söz konusuydu.
Veritabanının ırkçı olduğu gerekçesiyle kaldırıldığı belirtilirken, yerine ne konulacağı konusunda endişelerin sürdüğü kaydedildi.
Sivil toplum grupları, İngiltere hükümetine polis yapay zekası konusunda sunduğu önerilerde, kolluk kuvvetleri ve ceza adaletinde her türlü tahmin ve profilleme sisteminin yasaklanması gerektiğini (bireylere, gruplara ve konum veya alanlara odaklanan ve bunları hedef alan sistemler dahil); polis veya göç ve ulusal güvenlik ajanslarının “yüksek riskli” yapay zekayı kullandığında kamuya şeffaflık ve denetim sağlanması gerektiğini; ve insan hakları açısından kabul edilemez bir risk oluşturan yapay zeka kullanımlarını yasaklamak için yasal sınırlamalar getirilmesi gerektiğini söyledi.
Birleşik Krallık hükümetinin, ulusal düzeyde daha kapsamlı bir reforma ihtiyaç olup olmadığını incelemek amacıyla tüm polis çetesi veri tabanlarında bir soruşturma başlatması gerektiğini eklediler. Bu, ülke çapındaki güçler tarafından kullanılan veri tabanlarının ciddi şiddet suçlarıyla başa çıkmada etkili bir polislik aracı olup olmadığını; insan hakları ve veri koruma mevzuatına tam uyum içinde çalışıp çalışmadığını; ve ırksal önyargıdan etkilenip etkilenmediğini veya ayrımcı sonuçlara yol açıp açmadığını dikkate almalıdır.
Computer Weekly, raporun önerileri ve yeni yönetim altında yüz tanıma teknolojisinin mevcut mevzuatta yeterince yer aldığı görüşünün devam edip etmediği konusunda İçişleri Bakanlığı ile iletişime geçti.
“Geçtiğimiz hafta, kasabalarımız ve şehirlerimiz korkunç bir şiddete tanık oldu, kişiler ten renkleri nedeniyle hedef alındı ve ibadethanelere saldırıldı. Bu ırkçılık ve nefret yaygın bir sıkıntıya neden oldu,” dedi bir sözcü. “Ne sokak haydutlarının ne de çevrimiçi kışkırtıcıların ulusumuzu tanımlamayacağı konusunda kararlıyız. Gücümüz, tüm geçmişler, inançlar ve kültürler arasında birlik olmaktır.”
Temmuz 2024’ün sonunda, insan haklarına odaklanan 17 sivil toplum kuruluşundan oluşan bir koalisyon da benzer şekilde yeni İşçi Partisi hükümetine, ırksallaştırılmış, işçi sınıfı ve göçmen topluluklarını orantısız bir şekilde hedef almak için kullanıldığı gerekçesiyle yapay zeka destekli öngörücü polislik ve biyometrik gözetim sistemlerini tamamen yasaklaması çağrısında bulundu.
O dönemde Open Rights Group’un suç öncesi program yöneticisi olan Sara Chitseko, “Yapay zeka ve otomatik sistemlerin polislikteki ayrımcılığı ve eşitsizliği artırdığı kanıtlandı” dedi. “Güçlü bir düzenleme olmadan, polis, haklarımızı ihlal eden ve yapısal güç dengesizliklerini daha da kötüleştiren yapay zeka sistemlerini kullanmaya devam edecek, büyük teknoloji şirketleri ise kâr elde edecek.”
İçişleri Bakanlığı her iki raporun bulgularını değerlendiriyor.
Devam eden polis teknolojisi endişeleri
Kasım 2023’te İngiltere ve Galler’deki biyometrik ve gözetleme kamerası komisyoneri Fraser Sampson, yüz tanıma teknolojisinin suç önleme yeteneklerini sorguladı ve yetkililerin aranan kişileri tespit etmedeki gerçek etkinliğinden ziyade, büyük ölçüde korkutucu etkisine güvendiğini savundu.
Ayrıca, polisin biyometrik teknolojilerin kullanımı konusunda genel olarak yetersiz denetime karşı uyardı ve bu güçlü teknolojiler hakkındaki endişelere kulak verilmemesi durumunda İngiltere’nin “kapsayıcı” bir gözetleme devletine dönüşme tehlikesinin gerçek olduğunu sözlerine ekledi.
Sampson ayrıca Şubat 2023’te Birleşik Krallık polisinin biyometrik verilerle ilgili genel “saklama kültürü” konusunda uyarıda bulunmuş ve Parlamento İnsan Hakları Ortak Komitesi’ne (JCHR) polis güçleri arasında biyometrik bilgilerin yasalara uygun olup olmadığına bakılmaksızın saklanmasının varsayılan uygulama olduğunu söylemişti.
Özellikle suçla itham edilmemiş milyonlarca kişinin gözaltı görüntülerinin devam eden ve hukuka aykırı bir şekilde saklandığını vurgulayan Trump, Yüksek Mahkeme’nin 2012’de bu görüntülerin silinmesi gerektiğine karar verdiğini, ancak İngiltere polisi tarafından kullanılan biyometrik veri tabanlarının çoğuna sahip olan İçişleri Bakanlığı’nın, görüntülerin tutulduğu veri tabanının toplu silme özelliği olmadığı için bunun yapılamayacağını söylediğini belirtti.
Lordlar Kamarası’nın Birleşik Krallık polis teşkilatının gelişmiş algoritmik teknolojilerini kullanmasıyla ilgili önceki bir soruşturması – yüz tanıma ve çeşitli suç tahmin araçlarının kullanımını inceleyen – Mart 2022’de bu araçların “insan hakları ve hukukun üstünlüğü için gerçek ve güncel bir risk oluşturduğunu” da buldu. Bu kabul edilmediği ve ele alınmadığı takdirde, gelişmiş teknolojilerin kullanılmasının potansiyel faydaları, ortaya çıkacak zarar ve yaratacağı güvensizlik tarafından ağır basabilir.
Lordlar, “öngörücü polislik” teknolojileri söz konusu olduğunda, bunların, geçmiş tutuklama verilerine dayanarak polis devriyelerini düşük gelirli, zaten aşırı polis denetimi altındaki bölgelere yönlendirdiği için “kısır döngü” üretme ve “önceden var olan ayrımcılık kalıplarını pekiştirme” eğilimlerine dikkat çekti.
Yüz tanıma konusunda ise protestolar üzerinde caydırıcı bir etki yaratabileceğini, mahremiyeti zedeleyebileceğini ve ayrımcı sonuçlara yol açabileceğini eklediler.
Özellikle yüz tanımaya bakan kısa bir takip soruşturmasının ardından Lordlar, Birleşik Krallık polisinin, konuşlandırmaları için açık bir yasal dayanak olmamasına rağmen, uygun inceleme veya hesap verebilirlik olmadan yüz tanıma teknolojisinin kullanımını genişlettiğini belirtti. Ayrıca, kuvvetlerin teknolojiyi kullanımını kontrol etmek için yerinde katı standartlar veya düzenleme sistemleri olmadığını da buldular.