Metropolitan Polis Hizmetleri (MPS) istihbarat direktörü, Birleşik Krallık’ın yapay zeka (AI) teknolojisi yönetişimine ilişkin soruşturmasının bir parçası olarak, gücün yüz tanıma teknolojisini bir Parlamento komitesine kullanmasını savundu.
Oturum, polis bakanı Chris Philp’in İngiltere ve Galler’in biyometri komiseri ile kapalı kapılar ardında yaptığı toplantılarda teknolojinin ulusal olarak yaygınlaştırılması için bastırdığını ve muhtemelen teknolojiyi polisin vücuda takılan videosuyla entegre etmeye zorlayacağı haberlerini takip ediyor. kameralar.
Ekim 2022’de AI yönetişim soruşturmasını başlatan Bilim ve Teknoloji Komitesi’nin huzuruna çıkan MPS istihbarat direktörü Lindsey Chiswick, yüz tanıma ve AI konusunda anlaşılır bir “kamu kaygısı” olsa da, gücün onu “olduğu gibi” konuşlandırmaya çalıştığını söyledi. dikkatli, orantılı ve şeffaf bir şekilde mümkündür”.
Chiswick, Ulusal Fizik Laboratuvarı (NPL) tarafından yürütülen ve Met’in canlı yüz tanıma (LFR) sisteminde belirli ayarlar kullanıldığında “demografik performans arasında istatistiksel bir anlamlılık olmadığını” tespit eden yakın tarihli bir araştırmaya işaret ederek, bunun kuvvet tarafından yaptırıldığını söyledi. “algoritmadaki önyargı düzeylerini” ve “yapay zekayı orantılı, adil ve eşit bir şekilde nasıl kullanabileceğimizi” daha iyi anlamak için.
Ayrıca, gücün her bir yüz tanıma konuşlandırmasının gerekliliğini ve orantılılığını, kullanıldığı amaca göre değerlendirmesi gerektiğini de sözlerine ekledi.
“Şu anda teknolojiyi neden kullandığımıza dair sağlam bir kullanım durumu olmalı… Bu bir balık tutma gezisi değil; İster daha önce faaliyet gösterdikleri Oxford Street’teki bıçaklı hırsızlıklar olsun, isterse çete bağlantılı şiddet ve bıçaklı soygun olsun, yüksek düzeyde suçla ilgili kamuoyu endişesi olan alanları hedefliyoruz. Camden, dedi.
“Bunu en başta neden orada olduğumuzdan yola çıkarak, o zaman oraya kimin ve neden gittiğine ilişkin politikamızı izleyen izleme listesinin orantılılığı var.”
Milletvekili Stephen Metcalfe tarafından neden herkesin polisin yüz tanıma izleme listelerinde olmadığı sorulduğunda, Chiswick bu tür ayrım gözetmeyen dahil etmenin yasa dışı olacağına dikkat çekti ve gereklilik ve orantılılık ihtiyacını yineledi.
Başka bir yerde, verilerin saklanması için yasal bir neden olmadığı için her ısmarlama izleme listesinin kullanımdan sonra silindiğini ekledi: “Teknik olarak, izleme listesini tutabiliriz, ancak yasal olarak tutamayız.”
Birleşik Krallık şehirlerinin veya bölgelerinin tamamının CCTV ağlarının yüz tanıma yazılımına bağlanıp bağlanamayacağı konusunda Chiswick, “teknik olarak… mümkün” olsa da, tüm kameraları tek bir birleşik sistemde bağlamanın orantılılığını sorgulayacağını yineledi.
Bununla birlikte, Şubat 2023’te biyometri komisyon üyeleri Fraser Sampson tarafından Parlamentonun İnsan Hakları Ortak Komitesi’ne (JCHR) vurgulanan izleme listelerini doldurmak için kullanılan gözaltı görüntülerinin ve diğer biyometrik materyallerin yasa dışı bir şekilde tutulmasıyla ilgili devam eden sorunlar hakkında herhangi bir tartışma yapılmadı.
Aynı endişeler, Mart 2019’da Sampson’ın selefi Paul Wiles tarafından Bilim ve Teknoloji Komitesi’ne iletildi ve 2012’deki Yüksek Mahkeme kararına rağmen İngiltere ve Galler’deki polis güçlerinde gözaltı görüntülerini çevreleyen saklama süresine ilişkin “çok zayıf bir anlayış” olduğunu söyledi. Tutuklamaların hukuka aykırı olduğuna karar veren mahkeme kararı.
Met’in önceki konuşlandırmaları hakkında Computer Weekly’ye konuşan Green London Assembly üyesi Caroline Russell (Mayıs 2023’ün başında Meclis’in polis ve suç komitesine başkanlık etmek üzere seçildi), orantısız polislik uygulamalarının belirli demografik yapılardan veya geçmişlerden gelen insanlar olduğu anlamına geldiğini söyledi. bu da nihayetinde polis izleme listelerini dolduruyor.
“Durdurma ve aramadaki orantısızlığı düşünürseniz, durdurulan, aranan ve tutuklanan siyah ve kahverengi insanların, gençlerin sayısı gerçekten endişe verici olmaya başlar çünkü orantısızlık izleme listelerinize yerleştirilmiştir” dedi.
Polisliğin faydaları ve sonuçları
Chiswick, teknolojinin operasyonel faydalarının ana hatlarını çizerken, milletvekillerine, kullanımının A sınıfı uyuşturucu sağlamak için komplo kurmak, acil durum çalışanlarına saldırı, A sınıfı uyuşturucu sağlamak amacıyla bulundurmak da dahil olmak üzere “bir dizi önemli tutuklamaya” yol açtığını söyledi. , ağır bedensel zarar ve kanuna aykırı olarak hapisten kaçmış olmak.
“Bunlar bugün buraya getirdiğim örneklerden bazıları, ancak teknolojinin polis memurlarını gerçekleştirmeleri için uyardığı tutuklama sayısından daha fazla fayda var, çok daha geniş fayda var. Taç giyme töreni, caydırıcılığın bir fayda sağladığı yerlerin bir örneğidir. Caydırıcılık etkisinin bir parçası olarak orada olacağımızı önceden oldukça geniş çapta duyurduğumuzu fark etmişsinizdir” dedi.
“Yüz tanıma konuşlandırmalarından birini izlemeye gittiğimde Camden’da geçirdiğim zamanı hatırlarsam, o sırada o bölgedeki topluluk için daha geniş bir fayda vardı. Aslında, o bölgedeki suç üzerindeki etkisinden dolayı esnaftan ve yerel halktan oldukça olumlu tepkiler aldık.”
Met’in web sitesindeki yüz tanıma “konuşlandırma kaydı belgesine” göre, 2023’te şimdiye kadar altı dağıtımda iki tutuklama yapıldı ve tahminlere göre yaklaşık 84.600 kişinin biyometrik bilgileri tarandı.
MPS’nin 2022’deki ilk altı konuşlandırması boyunca, güç, Chiswick tarafından belirtilenler de dahil olmak üzere suçların yanı sıra mahkemeye çıkmama ve belirsiz bir trafik suçu için yaklaşık 144.366 kişinin biyometrik bilgilerini taradıktan sonra sekiz tutuklama yaptı.
Met’in teknolojinin bir sonucu olarak tutuklamalarda ve mahkûmiyetlerde artış gösterip gösteremeyeceği sorulduğunda Chiswick, aracın sadece tutuklama sayılarını artırmakla ilgili olmadığını söyledi: “Bu, hassasiyete dayalı, topluluk suçla mücadele aracıdır. Samanlıktaki bir iğnenin korkunç benzetmesini kullanacak olursak, teknoloji, genellikle çok ciddi suçlardan aranan birinin olası bir eşleşmesini seçmemizi ve o kişiyle konuşma fırsatı bulmamızı sağlıyor.
“Size az önce okuduğum sonuçlar, o teknolojiyi kullanmasaydık hâlâ serbest kalacak olan insanlardı. Bu toplu tutuklamalar için bir araç değil, size çok sayıda tutuklama sağlayacak bir araç değil, tam olarak tespit etmeye çalıştığımız kişilere odaklanacak bir araç.”
Şimdiye kadar yüz tanıma kullanılarak yapılan tutuklamaların doğasına rağmen, İçişleri Bakanlığı ve polis bakanları teknolojinin kullanımını “polisin cinayet, bıçaklı suçlar, tecavüz, çocuk cinsel sömürü ve terör”.
Computer Weekly, bu iddiayı desteklemek için birçok kez kanıt istedi, ancak İçişleri Bakanlığı’ndan hiçbir zaman bir yanıt almadı. Ancak Met, Ocak 2023’te Computer Weekly’ye LFR kullanımının bir sonucu olarak bu nedenlerle herhangi bir tutuklama yapılmadığını doğruladı.
Biyometrik gözetim
Komite ayrıca Chiswick’i hükümetin önerdiği Veri Koruma ve Dijital Bilgi Yasası (DPDI) hakkında ve özellikle biyometri komisyon üyesi rolünü ortadan kaldırmaya ve hükümetin güvenlik kamerasını denetleyen bir güvenlik kamerası uygulama kuralları yayınlama görevini yürürlükten kaldırmaya yönelik tedbirler hakkında ne düşündüğünü sorguladı. kamusal alanlarda yetkililer tarafından gözetleme sistemlerinin kullanılması.
Hangi mevcut düzenleyicilerin biyometri komiserinin sorumluluklarını ve işlevlerini üstlenebileceği konusunda tartışmalar olsa da – örneğin, Bilgi Komiserliği Ofisi (ICO) veya Soruşturma Yetkileri Komiseri’nin (IPCO) biyometri komiserinin farklı yönlerini üstlenebileceği yönündeki önerilerle. rol – açık ve devam ediyor.
“Daha fazla gözetimin eklenmesi ve inşa edilmesinin en iyi gözetim olduğunu düşünmüyorum. Gözetim için gözetim, biyometri için gözetim, verilerden gözetim gibi silolara ayrılmış bir gözetim riskiyle karşı karşıyayız; Şu anda, aynı zamanda kesişen ve biraz örtüşen bir rehberlik var, ”dedi Chiswick milletvekillerine.
“Dolayısıyla, daha yüzeysel bir düzeyde ek gözetim katmanları oluşturmak yerine, doğru sorularla birlikte basitleştirilmiş bir gözetime sahip olmanın harika olacağını düşünüyorum. Anahtar nokta budur – olması gerektiği gibi davrandığımızdan ve politikada taahhüt ettiğimiz şekilde davrandığımızdan emin olmak için bu teknolojiyi nasıl kullandığımıza dair doğru derin dalışa sahip olmak.
“Bana göre, daha az sayıda farklı gözetleme organı ve doğru soruları sorma noktasına gelmek için daha basit bir yaklaşım muhtemelen yardımcı olacaktır.”
Bir sonraki oturumda aynı komiteye konuşan Ada Lovelace Enstitüsü Yapay Zeka, veri hukuku ve politikası direktör yardımcısı Michael Birtwistle şunları söyledi: [the DPDI Bill] düzenleyici manzarayı basitleştirmesi, içinde daha az aktör olacağı anlamında doğru olabilir, ancak bu, söz konusu teknolojinin kullanıcıları için daha fazla düzenleyici netlik olacağı anlamına gelmez… gözetleme kamerası kodunun kaldırılması böyle bir şeydir.
“Kapsamlı biyometri düzenlemesine ilişkin teklifimiz, bu işlevlerin birçoğunu, kamu sektörü kullanımının bir kaydını yayınlamak, biyometrik teknolojilerin bilimsel temelli standartları karşılamasını zorunlu kılmak ve kullanımlarının orantılılığının değerlendirilmesinde bir rol. Tüm bu şeylerin tek bir yerde gerçekleşmesi basitleştirme olur ve uygun bir gözetim sağlar.”
Alan Turing Enstitüsü ve Northumbria Üniversitesi’nde güvenli ve etik yapay zeka konusunda kıdemli araştırma görevlisi ve Hukuk alanında Doçent olan Marion Oswald, basitleştirmenin mutlaka netlik anlamına gelmediğini kabul etti: “Kesinlikle, polislik sektöründe, nerede olduğu konusunda çok daha fazla netliğe ihtiyacımız var. sorumluluk gerçekten yatıyor. Turtada parmağı olan çok sayıda bedenimiz var, ancak turtanın genel olarak pişirilmesinden sorumlu biri olması gerekmez.
“Düzenleyici yapının, polisin verileri nasıl kullandığına ve yapay zekanın konuşlandırılabileceği farklı yollara çok odaklanması gerekiyor. Bazen zorlayıcı güçlere göre – durdurma ve arama ve tutuklama – konuşlandırılır, ancak bazen soruşturma aşamasında ve her türden farklı mülahazaları beraberinde getiren istihbarat aşamasında konuşlandırılır. Bir düzenleyicinin bunu anlaması ve bu farklı süreçler ve aşamalar etrafında kurallar koyabilmesi gerekiyor.”
Hem Parlamento hem de sivil toplum, polisin ileri algoritmik teknolojileri kullanmasına ilişkin bir Lordlar Kamarası soruşturması da dahil olmak üzere, kolluk kuvvetlerinin biyometri kullanımını yönetmek için defalarca yeni yasal çerçeveler için çağrıda bulundu; Matthew Ryder QC tarafından bağımsız bir yasal inceleme; Birleşik Krallık Eşitlikler ve İnsan Hakları Komisyonu; ve Temmuz 2019’a kadar canlı yüz tanıma konusunda bir moratoryum çağrısında bulunan Avam Kamarası Bilim ve Teknoloji Komitesi’nin kendisi.
Şubat 2023’te Sampson, ilk yıllık raporunda ayrıca polisin Birleşik Krallık’ta yapay zeka ve biyometri kullanımını düzenlemek için açık, kapsamlı ve tutarlı çerçeveler çağrısında bulundu.
Ancak hükümet, “zaten kapsamlı bir çerçevenin” yürürlükte olduğunu ileri sürdü.