“CCTV kameralarını güçlü bir izleme aracına dönüştürmek için yaptığımız şey,” diyor algoritmalarının Olimpiyatlarda devreye alınması için sözleşme kazanan dört Fransız şirketinden biri olan Wintics’in kurucu ortağı Matthias Houllier. “Binlerce kamerayla, polis memurlarının [to react to every camera.]”
Wintics, 2020 yılında Paris’te ilk kamu sözleşmesini kazanarak, Paris ulaşım yetkililerinin daha fazla bisiklet yolu inşa etme planlarına yardımcı olmak için şehrin farklı bölgelerindeki bisikletçilerin sayısı hakkında veri topladı. Algoritmalarını 200 mevcut trafik kamerasına bağlayarak, hala çalışmakta olan Wintics’in sistemi, yoğun caddelerin ortasında bisikletçileri önce tespit edip sonra sayabiliyor. Fransa, bu yaz yapılacak Olimpiyatlar’da güvenliği artırmaya yardımcı olacak algoritmalar oluşturabilecek şirketler aradığını duyurduğunda, Houllier bunu doğal bir evrim olarak değerlendirdi. “Teknoloji aynı,” diyor. “Kamusal alanlardaki anonim şekilleri analiz ediyor.”
Wintics’in sistemleri, algoritmalarını hem açık kaynaklı hem de sentetik veriler üzerinde eğittikten sonra, örneğin kalabalıktaki kişi sayısını veya yere düşen kişi sayısını sayacak ve sayı belirli bir eşiği aştığında operatörleri uyaracak şekilde uyarlandı.
“Bu kadar. Otomatik bir karar yok,” diye açıklıyor Houllier. Ekibi, içişleri bakanlığı yetkililerine şirketin yazılımını nasıl kullanacakları konusunda eğitim verdi ve yazılımı nasıl dağıtmak istediklerine karar verdiler, diyor. “Amaç, operatörün dikkatini çekmek, böylece iki kez kontrol edebilir ve ne yapılması gerektiğine karar verebilirler.”
Houllier, algoritmalarının 2022 Katar Dünya Kupası gibi geçmişteki küresel spor etkinliklerinde kullanılan tartışmalı yüz tanıma sistemlerine karşı gizlilik dostu bir alternatif olduğunu savunuyor. “Burada başka bir yol bulmaya çalışıyoruz,” diyor. Ona göre, algoritmaların CCTV görüntülerini taramasına izin vermek, kişisel özgürlükleri tehlikeye atmadan etkinliğin güvenli olduğundan emin olmanın bir yolu. “Hiçbir kişisel veriyi analiz etmiyoruz. Sadece şekillere bakıyoruz, yüz yok, plaka tanıma yok, davranışsal analiz yok.”
Ancak gizlilik aktivistleri bu teknolojinin insanların kişisel özgürlüklerini koruduğu fikrini reddediyor. 20. bölgede, aktivist grup La Quadrature du Net’in bir üyesi olan Noémie Levain, grubun dağıtmayı planladığı, Parislileri şehirlerini ele geçiren “algoritmik gözetim” konusunda uyarmak ve onları “kamusal alanların otoriterce ele geçirilmesini” reddetmeye çağırmak için tasarlanmış 6.000 posterlik bir teslimat aldı. Levain, algoritmaların kişisel verileri işlemediği fikrini reddediyor. “İnsanların görüntüleri olduğunda, görüntüdeki tüm verileri analiz etmeniz gerekir, bunlar kişisel verilerdir, bunlar biyometrik verilerdir,” diyor. “Bu, yüz tanıma ile tam olarak aynı teknolojidir. Tam olarak aynı ilkedir.”
Levain, AI gözetleme sistemlerinin sporcular ayrıldıktan uzun süre sonra bile Fransa’da kalacağından endişe ediyor. Ona göre bu algoritmalar polisin ve güvenlik güçlerinin şehrin daha geniş kesimlerine gözetleme uygulayabilmesini sağlıyor. “Bu teknoloji polisin klişelerini yeniden üretecek,” diyor. “Ayrımcılık yaptıklarını biliyoruz. Her zaman aynı bölgeye gittiklerini biliyoruz. Her zaman aynı insanları taciz ediyorlar. Ve bu teknoloji, her gözetleme teknolojisinde olduğu gibi, bunu yapmalarına yardımcı olacak.”
Şehir merkezindeki sürücüler sokakları kapatan güvenlik bariyerlerine öfkelenirken, Levain Olimpiyatlar başlarken Fransa’nın güneyine göç etmeyi planlayan birçok Parisliden biri. Yine de geri döndüğünde onu karşılayacak şehir konusunda endişeli. “Olimpiyatlar bir bahane,” diyor. “Onlar -hükümet, şirketler, polis- şimdiden sonrasını düşünüyor.”