FTC, Rite Aid’in Yüz Tanıma Teknolojisini Kullanmasını Yasakladı

Salı günü FTC, perakendecinin ırk ve cinsiyete dayalı hatalı çıktılara ilişkin riskleri azaltmak gibi önlemleri uygulamadığını söyledi.

Ajans, Aralık 2019 ile Temmuz 2020 arasında ülke çapında yaklaşık 2.300 mağazadan oluşan zincirin, hırsızlık yapmış olabilecek müşterileri tespit etmek için yüz tanıma teknolojisini kullandığını ve binlerce yanlış pozitifi kaydettiğini söyledi. Perakende zincirinin yüz tanıma sistemlerini ilk olarak 2012 yılında uygulamaya başladığı belirtildi.

FTC, bir federal mahkeme şikayetinde, yüz tanıma teknolojisinin bireyleri daha önce kimliği belirlenen biriyle eşleştiği yönünde yanlışlıkla işaretlediği için Rite Aid’in, çalışanlar tarafından yanlışlıkla suçlananlar gibi tüketicilere zarar gelmesini önlemek için makul önlemler almadığını söyledi. bir hırsız veya “diğer baş belası” olarak.

Rite Aid yaptığı açıklamada, “Ajansın şikayetindeki yüz tanıma iddialarına temel olarak katılmıyoruz” dedi ve yüz tanıma başarısızlığı iddialarının “şirketin sınırlı sayıda mağazada uyguladığı pilot programdan” kaynaklandığını ekledi.

Bir hakimin onayını gerektiren anlaşma, eczanenin müşterilerin ve çalışanların mali ve tıbbi bilgilerini korumada başarısız olduğu iddiaları üzerine Rite Aid ile FTC arasında 2010 yılında varılan 1 milyon dolarlık muvafakat kararının değiştirilmiş halidir (bkz.: Rite Aid, HIPAA Davasında 1 Milyon Dolar Ödeyecek).

Kurumun eczane zinciriyle ilgili yeni şikayetleri arasında, yüz tanıma teknolojisinin, beyazların çoğunlukta olduğu topluluklara kıyasla ağırlıklı olarak Siyah ve Asyalı topluluklarda bulunan mağazalarda yanlış pozitifler üretme olasılığının daha yüksek olması yer alıyor. Teknoloji ve uygulamalardaki önyargı, özellikle 2019’da hükümet tarafından yayınlanan bir çalışmanın ırk ve cinsiyet arasında doğruluk eşitsizlikleri bulmasından bu yana devam eden bir endişe kaynağı olmaya devam ediyor. Ekim 2022’de yapılan bir akademik çalışma, kolluk kuvvetlerinin yüz tanıma teknolojisini kullanmasının tutuklamalarda ırksal eşitsizliğin artmasına katkıda bulunduğunu ortaya çıkardı.

FTC, Rite Aid’in ilgili kişiler olarak kabul edilen kişilerin resim veri tabanını oluşturmaya yardımcı olmak için iki şirketle sözleşme yaptığını söyledi. FTC, Rite Aid’in, bireylerin “perakende satış noktalarından birinde suç faaliyetinde bulunduğuna veya bu faaliyette bulunmaya teşebbüs ettiğine” ve “isimlerini ve herhangi bir suç geçmişi verileri gibi diğer bilgileri” edindiğine inandığını söyledi.

Rite Aid’in on binlerce kişiden oluşan görüntü koleksiyonu, perakendecinin güvenlik kameralarından, çalışanların telefon kameralarından ve medya raporlarından alınan birçok düşük kaliteli görüntüyü içeriyordu.

FTC Tüketiciyi Koruma Bürosu müdürü Samuel Levine yaptığı açıklamada, “Rite Aid’in yüz izleme sistemlerini dikkatsizce kullanması, müşterilerini aşağılanma ve diğer zararlarla karşı karşıya bıraktı ve sipariş ihlalleri tüketicilerin hassas bilgilerini riske attı” dedi.

Anlaşmanın bir parçası olarak, Rite Aid ve üçüncü taraf satıcıları, tüketicilerin yüz tanıma işleminin yanı sıra ilgili veriler, modeller veya algoritmalarla bağlantılı olarak kullanılan veya toplanan tüm fotoğraf ve videolarını silmeli veya yok etmelidir.

Rite Aid ayrıca, biyometrik bilgilerin bir biyometrik güvenlik veya gözetim sistemi için kullanıldığı ve perakendecinin sistem tarafından oluşturulan bir çıktıya dayanarak onlara karşı bir işlem yaptığı zaman tüketicileri bilgilendirmelidir.

Şirket ayrıca, otomatik biyometrik güvenlik veya gözetim sistemiyle ilgili olarak tüketicilere karşı yapılan işlemlere ilişkin şikayetleri araştırmalı ve bunlara yazılı olarak yanıt vermelidir.

Rite Aid, Bilgi Güvenliği Medya Grubu’nun daha fazla yorum yapma talebine hemen yanıt vermedi.

Yapay Zeka Endişeleri

FTC’nin yüz tanıma davasında Rite Aid ile yaptığı anlaşma, kurumun ayrımcı sonuçlar üreten algoritmalar kullanarak yapay zeka ürünleri geliştiren şirketlere karşı harekete geçeceği uyarısının ardından geldi.

Kasım ayında komisyon, FTC’nin yapay zeka ile ilgili soruşturmalarda sivil soruşturma talepleri sunmasını ve yapay zeka ürünleri, hizmetleri ve araçları geliştiren kuruluşlardan bilgi ve işbirliğini zorunlu kılmasını kolaylaştırmak için oy kullandı (bkz: FTC, Yapay Zeka Soruşturma Süreçlerini İyileştirmeyi ve Genişletmeyi Oyladı).

Ajans, kuruluşları şeffaflık çerçevelerini ve bağımsız standartları benimsemeye çağırdı. Komisyon, 2021’de yapay zeka hakkında kılavuz yayınlayarak şirketlere FTC Yasası’nın tüketicilere yönelik beyanların “doğru, aldatıcı olmaması ve kanıtlarla desteklenmesi” gerektiğini hatırlattı.