bir yerde John Honovich dizüstü bilgisayarındaydı ve yarım dünya ötedeki bir konferans için bir web sitesindeki her bağlantıyı sistemli bir şekilde araştırıyordu. Dünyanın en büyük güvenlik kamerası üreticisi olan Hikvision, Şangay’dan çok da uzak olmayan yaklaşık 10 milyon nüfuslu bir şehir olan memleketi Hangzhou’da 2018 Yapay Zeka Bulut Dünya Zirvesi etkinliğine ev sahipliği yapıyordu. Güvenlik kamerası teknolojisini kapsayan küçük bir ticari yayının kurucusu olan Honovich, en yeni Hikvision donanımının neler yapabileceğini öğrenmek istedi.
Konferans gündeminin “Çevre Dostu, Huzurlu, Rahat” başlıklı bir bölümüne odaklandı ve Shandong’da tarihsel olarak kutsal bir dağ olan Tai Dağı çevresinde kurulmuş yapay zeka destekli bir sistemin açıklamasını buldu. Bir video, Hikvision kameralarının ünlü zirveye çıkan binlerce taş basamağı tırmanan turistlere doğrulttuğunu gösterdi. Bir anlatıcı olarak çalınan piyano müziği, Mandarin dilinde İngilizce altyazılı olarak, kameraların “herkesin güvenliğini sağlamak için tüm ziyaretçileri tanımlamak için” orada olduğunu açıkladı. Video bir bilgisayar ekranı görüntüsüne dönüştü ve Honovich duraklat düğmesine bastı. Bir ziyaretçinin yüzünün yakınlaştırılmış bir görüntüsünü gördü. Altında, kameranın yapay zekasının çıkardığı veriler vardı. Honovich videoyu indirdi ve saklamak için bilgisayar ekranının ekran görüntülerini aldı.
Daha sonra bir tercüman yardımıyla o ekrandaki her bir metni dikkatle inceledi. Çevirmenin açıklamasına göre bir dizi karakter, her ziyaretçinin otomatik olarak kategorilere ayrılmasını önerdi: yaş, cinsiyet, gözlük takmak, gülümsemek. Honovich beşinci kategoriyi işaret edip “Bu nedir?” tercüman “azınlık” diye yanıtladı. Honovich bastı: “Emin misin?” Tercüman, okumanın başka bir yolu olmadığını doğruladı.
Honovich şok oldu. Sektörde geçirdiği uzun yıllar boyunca, ırksal azınlıkları otomatik olarak tespit etmek için yola çıkan bir gözetim şirketi görmemişti. Bu özellik ona tamamen etik dışı göründü ve hemen Çin’in bunu Sincan eyaletindeki çoğunluğu Müslüman bir etnik azınlık grubu olan Uygur halkına karşı nasıl kullanabileceğini merak etti. Honovich, Uygurların Batı’da sıkı gözetime ve toplu gözaltılara tabi tutulduğuna dair raporların aktığını görmüştü. AI Zirvesi web sitesini tıklayan Honovich, Çinli yetkililerin bu teknolojiyi azınlıkları ezmek için kullanıp kullanmadığını anlayamadı, ancak bu tehlikenin birleştiğini gördü. Hızla Hikvision’ın etnik köken tespit teknolojisi hakkında video, ekran görüntüleri ve şirketten yorumsuz bir yazı içeren bir makale yazdı ve bunu kendi kurduğu ticari yayın olan IPVM’nin web sitesinde yayınladı.
IPVM muhabirlerinden biri olan ve ABD dışında yaşayan ve aynı zamanda konumunu gizli tutan bir Fransız olan Charles Rollet ile keşif hakkında konuştu. Rollet, Hikvision ve Çin’deki en büyük ikinci güvenlik kamerası üreticisi Dahua’nın Sincan’daki hükümet işlerinden nasıl büyük karlar elde ettiğini yazmıştı. Rollet bir gazete geçmişine sahipti ve 25 yaşında olmasına rağmen, yaşının iki katı kadar mürekkep lekeli bir haberci gibi konuşuyordu, tüm “kepçe” ve “istismarları haykırmak” ve “sert haberler”. İnternette halka açık materyaller arasında gezinen Rollet, Hikvision’ın Sincan’ın bir ilçesini kapsayacak bir toplu yüz tanıma sistemi kurmak için bir anlaşma yaptığını öğrenmişti – bir “yeniden eğitim” merkezi ve camilerinden bazıları dahil – ve video konferans sistemleri kurmak için bir sözleşme camilerde, muhtemelen katılımcılar hükümet tarafından yayınlanan vaazları izleyebilsinler diye. Dahua daha büyük bir sözleşmeyi kazandı: Sincan’ın başka bir yerinde kamera donanımlı polis karakolları inşa etmek için 686 milyon dolar. Anlaşmalar, şirketlerin bu sistemleri kuracağını, birkaç yıl çalıştıracağını ve ardından hükümete devredeceğini belirtiyordu. Rollet, hükümetin Sincan’daki video gözetiminin birçok yönüyle ilgili olarak, iki şirketin “derinden müdahil olduğunu” bildirdi.
Hikvision ve Dahua kameraları ayrıca ABD’de ve dünyanın birçok yerinde evlere, işyerlerine ve kamu binalarına asıldı. Güvenlik sistemi kurulumcuları hevesle çok sayıda ucuz kamera sattı. Fidelity International ve Norveç’in egemen servet fonu gibi küresel finans kurumları, kârlı, hızlı büyüyen Çinli şirketlerin hevesli yatırımcılarıydı. Amerikan çip devleri Intel ve Nvidia, yüz tanımalarını güçlendirmek için onlara silikon sattı.
Bunların hepsi yakında değişecekti. Önümüzdeki birkaç yıl içinde, IPVM’nin yazarları, Çin gözetleme teçhizatında birbiri ardına lanet olası ayrıntıları ortaya çıkardı. Kepçeleri sonunda ulusal politikayı etkileyecek, bu şirketlerin servetlerini değiştirecek ve muhabirleri doğrudan ABD-Çin soğuk savaşının ön saflarına yerleştirecekti.