İngiltere Bilgi Komiseri Ofisi (ICO), düzenleyicinin insanların veri haklarını korurken inovasyonu destekleyeceğini söylediği yapay zeka (AI) ve biyometri stratejisi başlattı.
5 Haziran 2025’te yayınlanan strateji, ICO’nun çabalarını risklerin çoğunun yoğunlaştığı, ancak kamu yararı için “önemli potansiyel” olduğu teknoloji kullanım durumlarına nasıl odaklayacağını vurgulamaktadır.
Bu, işe alım ve kamu hizmetlerinde otomatik karar verme (ADM) sistemlerinin kullanımı, polis güçleri tarafından yüz tanıma kullanımı ve AI Vakfı modellerinin geliştirilmesini içerir.
Bu alanlar için özetlenen özel eylemler arasında, polisin yüz tanımının “yasal, adil ve orantılı” kullanımı hakkında denetim yapılması ve rehberlik üretilmesi, insanların kişisel verilerinin üretken AI modellerini eğitmek için nasıl kullanılabileceği ve kuruluşların kullanımı için yasal bir uygulama kodu geliştirmesi için “net beklentiler” oluşturulmasını içerir.
Regülatör, ADM profilerleri için rehberliğin güncellenmesi, özellikle Çalışma ve Emeklilik Bakanlığı (DWP) gibi erken benimseyenlerle birlikte çalışacağını ve giderek daha fazla otonom hareket edebilen ajan AI’nın etkileri hakkında bir ufuk tarama raporu oluşturacağını da ekledi.
Bilgi Komiseri John Edwards, “Aynı veri koruma ilkeleri şimdi her zamanki gibi geçerlidir – güven önemlidir ve yalnızca insanların kişisel bilgilerini sorumlu bir şekilde kullanan kuruluşlar tarafından oluşturulabilir” dedi. “Kamu güveni, yeni teknolojilerin kendileri tarafından değil, bu teknolojilerin gerekli korkulukların dışındaki pervasız uygulamaları tarafından tehdit ediliyor.”
Strateji aynı zamanda – şeffaflık ve açıklanabilirlik, önyargı ve ayrımcılık, haklar ve düzeltme etrafında “sürekli olarak kamu endişesini görüyoruz” – bunların regülatörün çabalarını odaklayacağı alanlardır.
Örneğin AI modellerinde ICO, geliştiricilerin insanların kişisel bilgilerini nasıl kullandıkları konusunda “güvenceleri güvence altına alacağını”, böylece insanların farkında olmaları için, polis yüz tanıma için nasıl yasal olarak konuşlandırılabileceğini açıklayan rehberlik yayınlayacağını söyledi.
Polis yüz tanıma sistemleri de denetlenecek ve insanlara sistemlerin iyi yönetildiğinden ve haklarının korunmasını sağlamak için yayınlanan bulgular.
Yapay zeka sadece bir teknoloji değişikliğinden daha fazlasıdır – toplumdaki bir değişikliktir. Ancak AI herkes için çalışmalıdır … ve bu, adalet, açıklık ve dahil edilmeyi temel oluşturmayı içerir
Dawn Butler, AI Tüm Parti Parlamento Grubu
AI All Party Parlamento Grubu’nun (APPG) Başkan Yardımcısı Dawn Butler, “Yapay zeka sadece bir teknoloji değişikliğinden daha fazlasıdır-toplumdaki bir değişikliktir. Toplumdaki bir değişikliktir. Sağlık hizmeti alma, okula gitme, seyahat etme ve hatta demokrasiyi deneyimleme şeklimizde giderek daha fazla değişecek” dedi. “Ancak AI, sadece birkaç kişi değil, bir şeyleri değiştirmek için herkes için çalışmalıdır. Ve bu, adalet, açıklık ve dahil edilmeyi temel koymayı içerir.”
AI APPG’nin eş başkanı Lord Clement-Jones şunları ekledi: “AI devrimi güven üzerine kurulmalıdır. Gizlilik, şeffaflık ve hesap verebilirlik inovasyona engeller değildir-AI, temelini oluştururlar. Üretken modellerden otonom sistemlere geçiş yapmaktır. Bununla birlikte, artan sistemlere geçiş yapmaktır. Bununla birlikte, inovasyonun, karmaşıklığın, karmaşıklığın, karmaşıklığın, karmaşıklığın, karmaşıklığın veya karmaşıklığın, karmaşıklığın sıkışmasını garanti etmediğini, karmaşıklığın, karmaşıklığın veya karmaşıklığın, karmaşıklığın yanı sıra, karmaşıklığı garanti etmediğini garanti eder. ilkeler. “
ICO’ya göre, AI ve biyometrilerin nasıl uygulandığına dair olumsuz algılar, alımlarını engelleyen riskler, özellikle insanların bu teknolojileri veya onların tarafından desteklenen hizmetleri desteklemesi veya bunlarla etkileşime geçmeleri için güvene ihtiyaç olduğunu belirtiyor.
Polis biyometri söz konusu olduğunda kamu endişelerinin özellikle yüksek olduğunu, işe alım görevlileri tarafından otomatik algoritmaların kullanılması ve AI’nın insanların refah faydaları için uygunluğunu belirlemek için kullanımı olduğunu belirtti.
Regülatör, “2024’te, İngiltere kuruluşlarının sadece% 8’i kişisel bilgileri işlerken AI karar verme araçlarını kullandığını bildirdi ve% 7’si yüz veya biyometrik tanıma kullandığını bildirdi. Her ikisi de sadece bir önceki yıla göre marjinal olarak yükseldi” dedi.
“Hedefimiz, kuruluşları veri koruma yasası doğrultusunda bu karmaşık ve gelişen AI ve biyometrik teknolojileri kullanmaları için güçlendirmektir.
“Bununla birlikte, kuruluşlar kişisel bilgileri dikkatsizce kullanıyorsa veya sorumluluklarından kaçınmaya çalışıyorsa, halkın haklarını korumak için resmi güçlerimizi kullanmakta tereddüt etmeyeceğiz. Orantılı olarak müdahale ederek, uyumlu kuruluşlar için daha adil bir oyun alanı oluşturacağız ve insanlar için sağlam korumalar sağlayacağız.”
Mayıs 2025’in sonlarında, ADA Lovelace Enstitüsü tarafından yapılan bir analiz, biyometrik gözetim teknolojileri için mevcut “patchwork” yönetişim çerçevelerinde “önemli boşluklar ve parçalanma” nın insanların haklarının yeterince korunmadığı anlamına geldiğini buldu.
ADA Lovelace Enstitüsü’nün analizi öncelikle İngiltere Polisliği’nin canlı yüz tanıma (LFR) teknolojisindeki eksikliklere odaklanmış olsa da – en belirgin ve yüksek düzeyde yönetilen biyometrik gözetim kullanım durumu olarak tanımlanmıştır – biyometrik kitle sürveyans teknolojileri için yasal netliğe ve etkili yönetime ihtiyaç olduğunu kaydetmiştir.
Bu, okullarda nakitsiz ödemeler için parmak izleri veya insanların duygularını veya doğruluğunu uzaktan çıkardığını iddia eden sistemlerin yanı sıra süpermarketlerin, insanların alkol alımlarına yönelik yaşlarını temin etmek için lfr veya doğrulama sistemlerini tanımlamak için LFR kullandıkları gibi diğer dağıtım senaryoları gibi diğer biyometri formlarını içerir.
Hem parlamento hem de sivil toplum, İngiltere kolluk kuvvetlerinin biyometri kullanımını yönetmek için yeni yasal çerçeveler için tekrar tekrar çağrılar yaptı.
Bu, Lordlar Adalet ve İçişleri Komitesi (JHAC) tarafından hırsızlık, polis algoritmaları ve polis yüz tanıma ile ilgili üç ayrı soruşturmayı; İngiltere’nin eski Biyometri Komiserleri Paul Wiles ve Fraser Sampson’dan ikisi; Matthew Ryder QC tarafından bağımsız bir yasal inceleme; İngiltere’nin Eşitlikleri ve İnsan Hakları Komisyonu; ve Temmuz 2019’a kadar LFR’de bir moratoryum çağıran Avam Kamarası Bilim ve Teknoloji Komitesi
Bununla birlikte, bunların çoğu tamamen polis biyometrisine odaklanırken, özellikle Ryder incelemesi, kamu-özel ortaklıklarında ve işyeri izleme gibi biyometrik veri ve teknolojilerin özel sektör kullanımlarını da dikkate aldı.