Yapay Zeka ve Makine Öğrenimi, Genel Veri Koruma Yönetmeliği (GDPR), Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Trento Şehri Düzenleyicilere 50.000 Euro Ödemeli
Akşaya Asokan (asokan_akshaya) •
30 Ocak 2024
İtalyan veri koruma düzenleyicisi, Avrupa Birliği tarafından finanse edilen bir pilot yapay zeka kamu güvenliği projesini uyguladığı için kuzeydeki orta ölçekli bir şehre 50.000 avro para cezası verdi.
Ayrıca bakınız: İsteğe Bağlı Panel | Operasyonel Mükemmelliği Güvenceye Alma: CISO’ları Engelleme 5 En Önemli Güvenlik Sorunu
Alplerdeki Trento şehri, yapay zekanın tehditleri tespit etmek için görsel-işitsel verileri işlemesini planlayan üç pilotun ortağıydı.
Koruyucu lakaplı pilotlardan birinin görevi geçen Nisan ayında sona erdi. Güvenlik kameralarından gelen verileri ve YouTube ve Twitter’dan gelen metin verilerini analiz ederek kentsel ibadet yerlerinin korunmasını iyileştirmeyi amaçlıyordu.
Marvel adlı bir diğeri Aralık ayında sona erdi. Sensörlere dahil edilmek üzere sokak düzeyinde model tanıma dağıtılmış bir bilgi işlem çerçevesi oluşturmada kullanılmak üzere tasarlanmıştır. Mayıs 2025’e kadar devam etmesi planlanan üçüncü proje Precrisis henüz yapay zeka tabanlı bir bileşen almamıştı.
Hem Protector hem de Marvel, halka açık veri kümeleri konusunda eğitildi ve hareketlerdeki anormallikleri belirlemek için hareket ve nesne algılama ve kümeleme metodolojileri gibi özellikler içeriyordu.
Veri koruma yetkilisi Garante, “Bu devasa ve istilacı tedavi yöntemleri, veri sahiplerinin hakları ve özgürlükleri açısından önemli riskler doğurdu” dedi. “Kamusal alanlardaki bu tür gözetim biçimleri insanların davranışlarını değiştirebilir ve hatta demokratik özgürlüklerin kullanılmasını bile etkileyebilir.”
Garante ayrıca Trento belediyesinin, ülkenin veri koruma düzenlemeleri kapsamında yapay zeka sistemlerinin veri işleme gerekliliklerini haklı çıkarmadığını söyledi.
Hatalar arasında, projeyi uygulamaya koymadan önce mahremiyet etki değerlendirmesinin yapılmaması ve bölge sakinlerine kameraların ve mikrofonların yerleştirilmesi veya verilerinin nasıl işlendiği konusunda bilgi verilmemesi de vardı. Trento belediyesi ayrıca projeden toplanan verileri araştırmacılar, yerel polis, Belçika’nın Anvers kentindeki kolluk kuvvetleri ve Bulgaristan içişleri bakanlığı gibi üçüncü taraflarla da paylaştı.
Trento’nun Marvel projesindeki araştırma ortağı Araştırma ve Teknoloji Vakfı – Hellas, yapay zeka sistemleri tarafından toplanan verileri anonimleştirdi. Bu, kullanıcı adlarının ve URL’lerin kaldırılmasının yanı sıra yüzlerin ve plakaların bulanıklaştırılmasını da içeriyordu.
Garante, anonimleştirmeye rağmen, araştırmacıların hoparlör seslerini değiştirme ve anlamsal değişim gibi standart anonimleştirme uygulamasını uygulamamaları nedeniyle mikrofonlardan alınan seslerden kişisel bilgilerin elde edilebileceğini söyledi. Ajans ayrıca, deneklerin kıyafetlerinden veya vücut morfolojilerinden tanınabileceği için yüzleri bulanıklaştırmanın yetersiz olduğunu söyledi.
Garante, “Verilerin tam olarak anonimleştirilmesini sağlamak için yukarıda bahsedilen tekniklerin yetersizliğinin belediye tarafından iyi bilindiğini” ifade ederek, yine de tespit riskinin “düşük” olduğunu belirtti.
Garante başlangıçta belediyeye 20 milyon avroluk ceza vermeyi planlamıştı, ancak belediyenin video ve ses toplamayı durdurmasının ardından bu meblağı 50.000 avroya düşürdü.
Ajansın kararı, Avrupa’nın yapay zeka konusunda kapsamlı bir düzenleme uygulamaya hazırlandığı dönemde geldi. Yapay Zeka Yasası, duygu tanıma ve CCTV’den yüz verilerinin kazınması gibi yüksek riskli yapay zeka sistemlerini yasaklıyor.
Avrupalı gizlilik uzmanları uzun zamandır, şu anda yasa kapsamında yasaklanmayan kamusal alanda yüz yapay zekalı yüz tanıma kullanımının mahremiyeti aşındırdığını savundu.
Fransız dijital haklar grubu La Quadrature du Net’in sözcüsü, “Yapay zeka destekli gözetimin kullanılması, Avrupa Genel Veri Koruma ve diğer gizlilik yasalarının ihlali anlamına gelecektir. Yapay zeka gözetimi, anonimleştirmeyle bile insan vücudunu veri noktalarına dönüştürebilir” dedi. söz konusu.