Yüz Tanıma Teknolojisinin Gizli Maliyetleri
kaydeden Tinglong Dai
Bernard T. Ferrari İşletme Profesörü
Johns Hopkins Üniversitesi’ndeki Carey İşletme Okulu
Üretken yapay zeka teknoloji dünyasının dikkatini çekerken, yüz tanıma uzun ve korkutucu bir gölge gibi görünüyor. Eğitilme ve kullanılma şekli, kişisel özgürlük ve mahremiyetin sınırlarını değiştiren bir güçtür. Eğitim süreci, kim olduğumuza ve ne yaptığımıza dair ayrıntılı, genellikle güvenilmez bir resim oluşturmak için kullanıcılar tarafından çevrimiçi olarak yayınlanan görseller de dahil olmak üzere çok çeşitli veri kaynaklarını kullanır. Bu kadar güvenilmez bir teknolojinin kullanımı daha da şüphelidir.
Bu teknoloji sadece bizi tanımaya çalışmakla kalmıyor, aynı zamanda eğitilme şekli de, genellikle interneti tarayan, çevrimiçi olarak yayınladığınız her fotoğrafı bulan ve yüzünüzü, yüzünüzün bulabildikleri her temsiliyle eşleştiren botlar tarafından toplanan verileri kullanarak, hayatımıza kolaylıkla sızabilir, en mahrem yerlerine göz atabilir. Bir güvenlik kamerasının veya bir Instagram fotoğrafının önünden yaptığımız basit yürüyüş, dijital ayak izlerimizin bir araya getirilmesiyle, genellikle bizim ayak izlerimizin başkalarınınkilerle karıştırılmasıyla kişisel, yasal ve mali kayıtlarımızın bir dosyasına dönüştürülebilir. Sonuçlar da aynı derecede hızlı ve korkutucu olabilir.
Ve teknolojinin kamu ve özel karar vericilere reklamı yapıldığı kadar güvenilir olmasını umabiliriz. Gerçekte teknoloji, kalıplarla eşleşen ancak hataya açık olasılıksal bir modele dayanmaktadır. Daha fazla veri kaynağı eklendikçe bu hatalar büyüyebilir ve feci sonuçlar doğurabilir. Karar vericiler, güvenilirliğini sorgulamadan teknolojiye güvendiğinde daha da fazlası olur.
Bu hatalar yalnızca varsayımsal değildir. Eyal Press’in The New Yorker için yazdığı gibi, Maryland’li bir adam olan Alonzo Sawyer’ın hikayesi bunları açıkça gösteriyor. Yüz tanıma sisteminin onu yanlış tanımlamasının ardından Sawyer’ı bir dizi hukuki ve duygusal sorun sarmıştı. Sistemin kararı, kendisi ile gerçek fail arasındaki, normal bir insanın çıplak gözle görebileceği bariz yaş ve fiziksel farklılıklara rağmen onaylandı. Bir şartlı tahliye memurunun aceleci ve hatalı onayı, yüz tanıma sisteminin yanlış olabileceği ihtimalini reddetmesiyle birlikte, durumu daha da kötüleştirdi. Ceza adaleti sistemi Sawyer ve ailesi için korkunç bir çile olmuştur. Kafaları karıştı, korktular ve onun masumiyetini savunmak zorunda kaldılar. Her zaman güvenilir olmayan teknolojiye güvenmenin kurbanı oldular.
Trajik bir hikaye olan Sawyer’ın hikayesi, aynı zamanda otorite konumundaki kişiler için hızlı bir iç gözlem ve kararlı eylem çağrısında bulunan bir çağrıdır. Teknolojinin gölgesinde büyük görünen korkutucu sorularla yüzleşmeliyiz. Bu kadar yaygın olan bir teknolojinin kullanımına hangi ahlaki sınırlar konulmalıdır? İnsanların dijital kimlikleri üzerinde hangi haklara ve sınırlamalara sahip olması gerekir? Biz insanlar, hükümetlerimizin vatandaşların hayatlarını özür dilemeden mahvedebilecek kararlar almak için güvenilmez teknolojiyi kullanmasına ne ölçüde izin vermeliyiz? Yapay zeka hızla hayatlarımıza ve işimize nüfuz ederken bunlar acil yanıt gerektiren acil sorulardır.
Bu kavşakta bu soruların cevapları bizim ve gelecek nesillerin hayatlarının gidişatını şekillendirecek. Yüz tanıma teknolojisinin ortaya çıkardığı etik sorunları dikkate almalıyız. Teknolojik ilerlemeler ile sosyal adalet ve insan haklarına yönelik kaygılar arasında bir orta yol bulmak çok önemlidir. En azından modellerin nasıl eğitildiğine, veri kaynaklarına ve bu modellerin performansının bağımsız, sürekli test edilmesine ve izlenmesine ilişkin dürüst bir açıklama olmalıdır.
Yeni teknolojilerin geliştirilme hızı, düşünmeye zaman bırakmayacak. Açık ahlaki standartlar ve güçlü yönetim sistemleri olmadan geçen her saniye, hayatlarımızın kusurlu olduğu kadar kontrolsüz de olan geniş bir gözetim ağındaki veri noktalarından ibaret olduğu bir geleceğe doğru atılmış bir adımdır.
Geleceğimizi otomatik pilota alamayız. Teknolojiyi, insanların mahremiyet haklarına ve seçim özgürlüğüne değer veren ve koruyan bir geleceğe doğru yönlendirebiliriz ve yönlendirmeliyiz. Arkamızda bıraktığımız mirasın açıklık, dürüstlük ve bizi insan yapan temel değerlere güçlü bir bağlılık olmasını sağlamalıyız. Alonzo Sawyer’ın ve yüz tanıma teknolojisi ağına yakalanabilecek diğer pek çok kişinin hikayesi, bunun ne kadar önemli olduğuna dair çarpıcı bir uyarıdır. Şimdi harekete geçme zamanı.
yazar hakkında
Tinglong Dai, Johns Hopkins Üniversitesi Carey İşletme Okulu’nda Bernard T. Ferrari İşletme Profesörüdür. Hopkins Business of Health Initiative’in çekirdek kadrosunda ve Veri Yoğun Mühendislik ve Bilim Enstitüsü’nün yönetim kurulunda görev yapmaktadır. Aynı zamanda INFORMS’ta Pazarlama, İletişim ve Sosyal Yardımdan Sorumlu Başkan Yardımcısıdır. Tinglong’a çevrimiçi olarak Tinglong Dai, PhD (jhu.edu) adresinden ulaşılabilir.