Sivil toplum koalisyonu, yeni İşçi Partisi hükümetinin, ırksallaştırılmış, işçi sınıfı ve göçmen topluluklarını orantısız bir şekilde hedef almak için kullanıldığı gerekçesiyle yapay zeka (YZ) destekli “öngörücü polislik” ve biyometrik gözetim sistemlerine tamamen yasak getirmesi gerektiğini söyledi.
#GüvenlikGözetimDeğil koalisyonu, İçişleri Bakanı Yvette Cooper’a yazdığı açık mektupta, yapay zeka ve algoritmalar kullanarak belirli kişilerde veya yerlerde suç davranışının olasılığını tahmin eden, profilleyen veya değerlendiren öngörücü polislik sistemlerinin kullanımının tamamen yasaklanması çağrısında bulundu.
Open Rights Group (ORG), Big Brother Watch, Network for Police Monitoring (Netpol) ve insan haklarına odaklanan 14 diğer kuruluştan oluşan koalisyon, yüz tanıma gibi biyometrik gözetim sistemlerinin tamamen yasaklanmasını ve polislikteki diğer tüm veri tabanlı, otomatik veya yapay zeka sistemlerinin, insanları zararlardan korumak ve haklarını korumak için düzenlenmesini talep ediyor.
Koalisyon, mektupta, “Yapay zeka, kamusal yaşamın her alanına hızla yayılıyor, ancak özellikle polislik bağlamında insanların hakları, güvenliği ve özgürlüğü açısından yüksek riskler taşıyor” ifadelerine yer verdi.
“Birçok AI sisteminin ayrımcılığı ve eşitsizliği büyüttüğü kanıtlandı. Özellikle, sözde ‘öngörücü polislik’ ve biyometrik gözetim sistemleri, ırksallaştırılmış, işçi sınıfı ve göçmen toplulukları da dahil olmak üzere marjinalleştirilmiş grupları hedeflemek için orantısız bir şekilde kullanılıyor. Bu sistemler insanları suçlulaştırıyor ve masum sayılma temel hakkı da dahil olmak üzere insan haklarını ihlal ediyor.”
Koalisyon, insanların haklarını korumak ve yapısal güç dengesizliklerini daha da kötüleştiren yapay zeka kullanımlarını önlemek için hükümete, öngörücü polislik ve biyometrik gözetimin kullanımını tamamen yasaklama çağrısında bulunurken, polislik kararlarını etkileyen, bilgilendiren veya etkileyen diğer tüm sistemleri sıkı şeffaflık ve hesap verebilirlik yükümlülüklerine tabi kılıyor.
Grup, bu yükümlülüklerin, konuşlandırılan sistemler etrafında “tutarlı kamu şeffaflığı” sağlayan, kamu otoriteleri, kolluk kuvvetleri ve özel sektör arasındaki veri paylaşımını azaltan, yapay zeka tedarikçilerine erişilebilirlik gereklilikleri getiren ve otomatik kararlarda anlamlı insan katılımının ve incelemesinin olmasını sağlayan yeni bir yasal çerçeve ile desteklenmesi gerektiğini ekledi.
Koalisyon ayrıca, herhangi bir yeni mevzuatın etkilenen topluluklarla zorunlu bir etkileşimin sağlanmasını, insanlara otomatik sonucu açıklayan bir insan tarafından yazılı bir karar alma hakkı verilmesini ve hem gruplar hem de bireyler için net bir telafi yolu sağlanmasını da sağlaması gerektiğini ekledi. Herhangi bir telafi mekanizmasının ayrıca ihbarcılar için destek içermesi gerektiğini söyledi.
Yapay zeka ve otomatik sistemlerin polislikteki ayrımcılığı ve eşitsizliği artırdığı kanıtlanmıştır. Güçlü bir düzenleme olmadan, polis haklarımızı ihlal eden ve yapısal güç dengesizliklerini daha da kötüleştiren yapay zeka sistemlerini kullanmaya devam edecek, büyük teknoloji şirketleri ise kâr elde edecek
Sara Chitseko, Açık Haklar Grubu
ORG’nin suç öncesi program yöneticisi Sara Chitseko, “Yapay zeka ve otomatik sistemlerin polislikteki ayrımcılığı ve eşitsizliği artırdığı kanıtlandı” dedi. “Güçlü bir düzenleme olmadan, polis haklarımızı ihlal eden ve yapısal güç dengesizliklerini daha da kötüleştiren yapay zeka sistemlerini kullanmaya devam edecek, büyük teknoloji şirketleri ise kâr edecek.”
Birleşik Krallık hükümeti daha önce Kral’ın Konuşması’nda “en güçlü yapay zeka modellerini geliştirmek için çalışanlara gereklilikler koymak için uygun mevzuatı oluşturmaya çalışacağını” söylemişti. Ancak, konuşmanın arka plan brifinginde yapay zekadan tek bahsedildiği yer Ürün Güvenliği ve Metroloji Yasa Tasarısı’nın bir parçası olduğu için şu anda yapay zekaya özgü mevzuat için bir plan bulunmuyor. Bu yasa tasarısı, “Birleşik Krallık’ın yapay zeka gibi teknolojik gelişmelerle aynı hızda ilerlemesini sağlamak için yeni ürün risklerine ve fırsatlarına yanıt vermeyi” amaçlıyor.
Önceki hükümet, yapay zeka konusunda yasa çıkarmak için acele etmeyeceğini söylerken, en güçlü sistemler için bağlayıcı gerekliliklere ihtiyaç duyulacağını, yapay zeka şirketleri için gönüllü önlemlerin muhtemelen en gelişmiş yeteneklerin sunduğu riskle “orantısız” olacağını söylemişti.
Computer Weekly, yorum almak için İçişleri Bakanlığı ile iletişime geçti ancak yanıtın hala değerlendirildiği söylendi.
Devam eden polis teknolojisi endişeleri
Kasım 2023’te İngiltere ve Galler’deki biyometrik ve gözetleme kamerası komisyoneri Fraser Sampson, yüz tanıma teknolojisinin suç önleme yeteneklerini sorguladı ve yetkililerin aranan kişileri tespit etmedeki gerçek etkinliğinden ziyade, büyük ölçüde korkutucu etkisine güvendiklerini savundu.
Ayrıca, polisin biyometrik teknolojilerin kullanımı konusunda genel olarak yetersiz denetime karşı uyardı ve bu güçlü teknolojiler hakkındaki endişelere kulak verilmemesi durumunda İngiltere’nin “kapsayıcı” bir gözetim devletine dönüşme tehlikesinin gerçek olduğunu sözlerine ekledi.
Sampson ayrıca Şubat 2023’te Birleşik Krallık polisinin biyometrik verilerle ilgili genel “saklama kültürü” konusunda uyarıda bulunmuş ve Parlamento İnsan Hakları Ortak Komitesi’ne (JCHR) polis güçleri arasında biyometrik bilgilerin yasalara uygun olup olmadığına bakılmaksızın saklanmasının varsayılan uygulama olduğunu söylemişti.
Özellikle suçla itham edilmemiş milyonlarca kişinin gözaltı görüntülerinin hukuka aykırı bir şekilde saklanmaya devam ettiğini vurgulayan Trump, Yüksek Mahkeme’nin 2012’de bu görüntülerin silinmesi gerektiğine karar verdiğini ancak İngiltere polisi tarafından kullanılan biyometrik veri tabanlarının çoğuna sahip olan İçişleri Bakanlığı’nın, görüntülerin tutulduğu veri tabanının toplu silme özelliği olmadığı için bunun yapılamayacağını söylediğini belirtti.
Lordlar Kamarası’nın Birleşik Krallık polis teşkilatının gelişmiş algoritmik teknolojilerini kullanmasıyla ilgili önceki bir soruşturması – yüz tanıma ve çeşitli suç tahmin araçlarının kullanımını inceleyen – Mart 2022’de bu araçların “insan hakları ve hukukun üstünlüğü için gerçek ve güncel bir risk oluşturduğunu” da buldu. Bu kabul edilmediği ve ele alınmadığı takdirde, gelişmiş teknolojilerin kullanılmasının potansiyel faydaları, ortaya çıkacak zarar ve yaratacağı güvensizlik tarafından ağır basabilir.
Lordlar, “öngörücü polislik” teknolojileri söz konusu olduğunda, bunların, geçmiş tutuklama verilerine dayanarak polis devriyelerini düşük gelirli, zaten aşırı polis denetimi altındaki bölgelere yönlendirdiği için “kısır döngü” üretme ve “önceden var olan ayrımcılık kalıplarını pekiştirme” eğilimlerine dikkat çekti.
Yüz tanıma konusunda ise protestolar üzerinde caydırıcı bir etki yaratabileceğini, mahremiyeti zedeleyebileceğini ve ayrımcı sonuçlara yol açabileceğini eklediler.
Özellikle yüz tanımaya bakan kısa bir takip soruşturmasının ardından Lordlar, Birleşik Krallık polisinin, konuşlandırmaları için açık bir yasal dayanak olmamasına rağmen, uygun inceleme veya hesap verebilirlik olmadan yüz tanıma teknolojisinin kullanımını genişlettiğini belirtti. Ayrıca, kuvvetlerin teknolojiyi kullanımını kontrol etmek için yerinde katı standartlar veya düzenleme sistemleri olmadığını da buldular.