ADA Lovelace Enstitüsü (ALI), İngiltere’nin biyometrik gözetim teknolojilerini düzenlemeye yönelik patchwork yaklaşımının “yetersiz” olduğunu, temel hakları riske attığını ve nihayetinde kamu güvenini zayıflattığını söylüyor.
İngiltere kamu ve özel kuruluşlar çeşitli biyometrik gözetim teknolojileri kullanımlarını hızla genişlettikçe, ALI tarafından yapılan bir analiz, bu araçlar için mevcut yönetişim çerçevelerinde “önemli boşluklar ve parçalanma” nın insanların haklarının korunmadığı anlamına gelmiştir.
ADA Lovelace Enstitüsü’nün analizi öncelikle İngiltere Polisliği’nin canlı yüz tanıma (LFR) teknolojisindeki eksikliklere odaklanmış olsa da – en belirgin ve yüksek düzeyde yönetilen biyometrik gözetim kullanım durumu olarak tanımlanmıştır – biyometrik kitle sürveyans teknolojileri için yasal netliğe ve etkili yönetime ihtiyaç olduğunu kaydetmiştir.
Bu, okullarda nakitsiz ödemeler için parmak izleri veya insanların duygularını veya doğruluğunu uzaktan çıkardığını iddia eden sistemlerin yanı sıra süpermarketlerin alkol alımlarına yönelik yaşları temin etmek için dükkanları veya doğrulama sistemlerini tanımlamak için LFR kullandıkları gibi diğer dağıtım senaryoları gibi diğer biyometri formları için içerir.
Kapsamlı düzenlemeye acil ihtiyaç, aynı zamanda, İngiltere polisi tarafından “aktif kullanımlarına” rağmen, şimdiye kadar kamuoyuna dikkat ve düzenleyici gözetim alan retrospektif veya operatör tarafından başlatılan diğer yüz tanıma biçimlerine de uzanmaktadır.
“Yasal analizimiz, İngiltere’nin mevcut ‘dağınık’ yönetişim modelinin biyometriklerin orantılı, hesap verebilir ve etik kullanımını sağlamanın yetersiz olduğunu göstermektedir. LFR’nin polis kullanımı, İngiltere’de en yüksek düzeyde yönetilen biyometri uygulamasıdır ve ‘yeterli yasal çerçeve’ çubuğunu karşılamadığını,” dedi Ali, mevcut sektörün daha az olduğu, özellikle de daha az, daha az, daha az, daha az, daha az, daha az, daha az, daha az, daha az, özellikle de daha az, daha az, daha az, daha az, daha az, özellikle de daha az, daha az, daha az, daha az, özellikle de daha az, daha az, daha az, daha az olduğunu eklediğini, özellikle de daha az olduğunu ekledi.
“Bu artan kullanım tarafından sunulan etkiler aralığı, merkezi bir yönetişim modeli olmadan etkili bir şekilde yönetilemez: açık, tutarlı bir yasal çerçeve ve mevcut teknolojileri yönetmekten ve gelecekteki gelişmeleri öngörmekten sorumlu özel, bağımsız bir düzenleyici kurum.
“Daha da önemlisi, bu çerçeve, gizlilik ve ayrımcılık konusundaki riskleri anlamlı bir şekilde azaltmak ve hesap verebilirliği sağlamak için polis kullanımı, özel sektör gözetim ve çıkarımsal biyometrik sistemleri kapsayan kullanım durumları arasında kapsamlı olmalıdır.”
Ali, sonrasında geliştirilen parça parça bir yaklaşımın Güney Galler Polisi’ne karşı Köprüler Ağustos 2020’de– İngiltere’nin bugüne kadar LFR ile ilgili tek içtihat – Temyiz Mahkemesi’nin gücün teknolojiyi kullanmasını yasadışı olarak yönetti. Bireysel memurlara “çok fazla takdir yetkisi” verildiğini ve Watchlists’e kimin konuşlandırılacağı ve kimin dahil edileceğine dair kriterlerin belirsiz olduğunu belirterek, yasal çerçevede “temel eksiklikleri” vurguladı.
ALI, “düzenleyiciler, polislik organları ve hükümet tarafından parçalanmış bir gönüllü rehberlik, ilkeler, standartlar ve diğer çerçeveler tarafından geliştirildiğini” söyledi.
Özellikle, ALI, herhangi bir LFR dağıtımının gerekliliği ve orantılılığı konusunda devam eden bir netlik eksikliğinin yanı sıra saat listelerini geliştirmek ve dağıtmak için açık kriterlerin eksikliğini vurguladı.
ALI, “üst düzey polis rehberliği ve yerel polis politikaları” farklı kaygıları ele almasına rağmen, “dağınık” yönetişim modelinin doldurulmayan boşluklar yarattığını da sözlerine ekledi. “Her bir politika veya rehberlik geliştirme ve uygulama sorumluluğu, düzenleyiciler, polislik organları ve merkezi hükümet dahil olmak üzere bir dizi ilgili aktöre devredilir ve uygulama ve uyum konusunda izlemek veya raporlamak için resmi bir teşvik yoktur” dedi.
Tartışmanın genişletilmesi
Bununla birlikte, ALI, kamuoyu tartışmasının büyük bir kısmının şu ana kadar polis LFR’ye odaklanmış olsa da, biyometrik gözetim teknolojilerinin ortaya koyduğu risklerin tek bir sektör veya kullanım durumu ile sınırlı olmadığı ve bunun yerine giderek yaygın olarak konuşlandırma, opak süreçler ve insanlarla ilgili aktifler tarafından yapılan hassas verilerin artan etkilerinin, aksiyon ve kararların artan kullanımının birleşik etkilerinden kaynaklanmaktadır.
“Sadece kapsamlı bir yaklaşım boşlukları kapatabilir, teknolojik gelişmelere ayak uydurabilir ve biyometrik sistemlerin nasıl kullanıldığına dair kamuoyunun güvenini koruyabilir” dedi, özellikle polis LFR ile sınırlı herhangi bir biyometri düzenlemesinin “yasa uygulama sorumlulukları için sapkın teşvikler” yaratabileceğini ve hakların haklarına yönelik daha az yönetişim yükümlülüğü olan şirketlere yaratabileceğini belirtti.
Canlı yüz tanıma ve diğer biyometrik teknolojilerin kullanımı için açık bir temel sağlayan belirli bir yasa yoktur.
Nual Polo, Ada Lovelace Enstitüsü
“Aksi takdirde insanlar ve toplum için risk oluşturan canlı yüz tanıma ve diğer biyometrik teknolojilerin kullanımı için açık bir temel sağlayan belirli bir yasa yoktur. Teoride, rehberlik, ilkeler ve standartlar kullanımlarını yönetmeye yardımcı olabilir, ancak analizimiz, İngiltere’nin ad hoc ve parçalı yaklaşımının, hem teknolojiye yönelik, hem de kullanmaya yönelik olanlar tarafından yapılan bu konu ile ilgili olarak, barınakları, hem de kullanmaya devam ettiğini gösteriyor” dedi. Ali.
Yetkili, polis ve diğer kuruluşların konuşlandırmalarının mevcut görevler altında yasal olduğunu iddia ederken, bu iddiaların geriye dönük mahkeme davaları olmadan değerlendirilmesinin neredeyse imkansız olduğunu da sözlerine ekledi.
“Yeterli bir yasal çerçeve olduğunu söylemek güvenilir değildir. Bu, bu teknolojilerin hızlı bir şekilde ortaya çıkmasının yasal gri bir alanda var olduğu, hesap verebilirlik, şeffaflık ve kamu güvenini baltaladığı anlamına gelir-dağıtıcıları nasıl güvenli bir şekilde konuşlandırabileceklerini anlamanın risklerine karşı engeller” dedi. “Dağıtımcılar için net kurallar ve insanlar ve toplum için anlamlı önlemler oluşturmak için mevzuata acilen ihtiyaç duyulmaktadır.”
Tespit edilen konuları hafifletmek için ALI, Avrupa Birliği’nin Yapay Zeka Yasası’na benzer, belirli bir biyometrik sistemle ilişkili risk seviyesine bağlı olarak yasal yükümlülükleri katmanlayacak ve şeffaflık gereksinimleri ve zorunlu teknik standartlar gibi yeni korumaları belirleyecek riske dayalı mevzuat da dahil olmak üzere bir dizi politika önerisini özetledi.
Ayrıca, hem mevcut hem de yeni biyometrik gözetim biçimlerinin yakalanması ve herhangi bir yeni yasal çerçeveyi denetlemek ve uygulamak için bağımsız bir düzenleyici organ oluşturması için “doğal bir kişinin fiziksel, fizyolojik veya davranışsal özelliklerine ilişkin veriler” olarak biyometrik tanımının benimsenmesini önerdi.
“Bağımsız düzenleyici organ, polis organları ile işbirliği içinde, canlı, operatörle başlatılan ve retrospektif kullanım dahil olmak üzere yüz tanıma teknolojilerinin polisin kullanımı için dağıtım kriterlerini özetleyen bir uygulama kuralını birlikte geliştirmek için görev” dedi. “Bu uygulama kuralları, mevcut rehberlik içinde kriterlerin belirsizliğini ve öznelliğini ele almalı ve polis konuşlandırmaları arasında tutarlılığı sağlamalıdır.”
Bilgisayar Haftalık, ALI raporu hakkında İçişleri Bakanlığı ile birlikte yıllar boyunca Parlamento ve Sivil Toplum Gruplarından biyometrik düzenleme çağrılarıyla temasa geçti.
Bir ev ofisi sözcüsü, “Yüz tanıma, modern polislikte suçluları daha hızlı ve doğru bir şekilde tanımlayabilen önemli bir araçtır, birçok ciddi suçlu kullanımı yoluyla adalete teslim edildi” dedi.
“Bu teknolojiyi kullanan tüm polis güçlerinin, nasıl ve nerede kullanıldığına dair mevcut mevzuata uymaları gerekmektedir ve bu teknolojinin kullanımı ve buna eşlik eden güvenceler hakkında kamuya açıklanmaya devam edeceğiz. Gelecek aylarda daha geniş polis reformlarının yanında yüz tanıma teknolojisinin kullanımı için planlarımızı belirleyeceğiz.”
Önceki biyometrik düzenleme çağrıları
Hem parlamento hem de sivil toplum, İngiltere kolluk kuvvetlerinin biyometri kullanımını yönetmek için yeni yasal çerçeveler için tekrar tekrar çağrılar yaptı.
Bu, Lordlar Adalet ve İçişleri Komitesi (JHAC) tarafından hırsızlık, polis algoritmaları ve polis yüz tanıma ile ilgili üç ayrı soruşturmayı; İngiltere’nin eski Biyometri Komiserleri Paul Wiles ve Fraser Sampson’dan ikisi; Matthew Ryder QC tarafından bağımsız bir yasal inceleme; İngiltere’nin Eşitlikleri ve İnsan Hakları Komisyonu; ve Temmuz 2019’a kadar LFR’de bir moratoryum çağrısında bulunan Avam Kamarası Bilim ve Teknoloji Komitesi.
Tüm polis güçleri kullanıyor [LFR] Teknolojinin, önümüzdeki aylarda daha geniş polislik reformlarının yanı sıra, yüz tanıma teknolojisinin gelecekteki kullanımı için planlarımızı belirleyeceğiz.
Ev Ofisi Sözcüsü
Bununla birlikte, bunların çoğu sadece polis biyometrisine odaklanırken, özellikle Ryder incelemesi, kamu-özel ortaklıkları ve işyeri izleme gibi biyometrik verilerin ve teknolojilerin özel sektör kullanımlarını da dikkate aldı.
Ekim 2023’te istifa etmeden önce görev yaptığı süre boyunca Sampson, kamusal alan gözetiminin ölçeği ve kapsamı hakkında netlik eksikliğinin yanı sıra İngiltere biyometrik veriler etrafında polislikte genel “elde tutma kültürü” konusundaki endişeleri vurguladı.
Polisin algoritmik teknolojilerin polis kullanımını, yukarıdan aşağıya strateji, hesap verebilirlik ve şeffaflık eksikliği ile karakterize eden JHAC soruşturması boyunca – İngiltere polisinin, etkileri veya etkileri hakkında açık kanıtlar olmadan açık kanıtlar olmadan, yeni teknolojileri çok az kargaşa veya eğitim ile yeni teknolojiler getirdiklerini duyduklarını duyurdu.
Kısa bir takip soruşturmasında, bu kez sadece yüz tanımaya bakarak JHAC, polisin, konuşlandırmaları için açık bir yasal temelden yoksun olmasına rağmen, LFR kullanımlarını uygun inceleme veya hesap verebilirlik olmadan genişlettiğini buldu. Komite ayrıca LFR’nin yasal olup olmadığını da sorguladı.
Komite, geleceğe bakıldığında, İngiltere’nin tüm bölgelerini tanıtılabilecek tüm ağa bağlı yüz tanıma kameralarının gerçek bir olasılığı olduğunu ve bu potansiyel gelişimi düzenlemek için hiçbir şey olmadığını da sözlerine ekledi.
Sayısız farklı mahallelerden yeni bir yasama çerçevesi çağrısında bulunmasına rağmen, hükümet bakanları birçok kez İngiltere’de LFR için sağlam bir yasal dayanak olduğunu ve “kapsamlı bir çek ve bakiye ağının” zaten olduğunu iddia ettiler.