Yapay Zeka ve Makine Öğrenimi, Devlet, Sektöre Özel
IntelliVision Yüz Tanıma İddiaları Konusunda Federal Ticaret Komisyonuyla Anlaştı
Mathew J. Schwartz (euroinfosec) •
4 Aralık 2024
Yüz tanıma yazılımı üreticisi IntelliVision, araçlarının “sıfır cinsiyet veya ırksal önyargıyla” çalıştığı ve pazar lideri doğruluk düzeyleri de dahil olmak üzere aldatıcı pazarlama iddiaları nedeniyle düzenleyicilerle anlaşmaya vardı.
Ayrıca bakınız: Görev teslimi, vatandaş hizmetleri ve eğitimde veri kullanımını en üst düzeye çıkarma
ABD Federal Ticaret Komisyonu Salı günü yaptığı bir şikayette, şirketin 2018’in sonlarından 2024’ün başlarına kadar çok sayıda yanlış iddiada bulunduğunu, bunların arasında yazılımın “ırksal önyargı olmaksızın tüm etnik kökenlerin yüzlerini algılayabildiğini ve bunları bir görüntü veritabanından tanıyabildiğini” belirtti. ” ve yazılımını “dünya çapında milyonlarca görüntüyü” kullanarak eğittiğini söyledi.
Komisyon üyeleri şikayette bulunmak ve San Jose, California şirketi ile yapılan uzlaşma anlaşmasını kabul etmek için 5-0 oy kullandı; bu, Mattel Electronics’in ilk kez 1979’da piyasaya sürülen bir oyun konsolu olan Intellivision ile karıştırılmamalıdır.
FTC Tüketiciyi Koruma Bürosu direktörü Sam Levine, “Şirketler, bu iddiaları destekleyemedikleri sürece önyargısız yapay zeka sistemlerinin çığırtkanlığını yapmamalı” dedi. “Yapay zeka sistemlerini geliştirenler ve kullananlar, temel aldatıcı reklam ilkelerinden muaf değil.”
Ev güvenlik sisteminde kullanılan yüz tanıma yazılımı ve yapay zeka destekli akıllı ev teknolojisinin satışını yapan IntelliVision, yazılımının dünya çapında 15 milyondan fazla kamerada ve diğer uç cihazlarda kullanıldığını söylüyor.
Ring, Arlo ve SimpliSafe gibi şirketlerin aksine, video yapay zeka sağlayıcısı doğrudan tüketicilere değil, orijinal ekipman üreticilerine, büyük entegratörlere, danışmanlık şirketlerine ve büyük son kullanıcılara satış yapıyor. Şirketin yazılımının kullanıldığı yerlere örnek olarak, eski ana şirketi Nice Kuzey Amerika tarafından üretilen, kullanıcıların sisteme erişmek için yüzlerini tarayabilmesini sağlayan 2GIG Edge ev güvenlik sistemi ve Elan Akıllı Dokunmatik Panel dahil olmak üzere ekipmanlar verilebilir. Bu sayede kullanıcılar dokunmatik tabanlı kontrollerin kilidini açmak için yüzlerini tarayabilirler.
FTC, IntelliVision’ın, yazılımının sahteciliğe karşı “canlılık testleri” içerdiğini ve aracın önceden kaydedilmiş videolar veya statik fotoğraflar kullanılarak sahteciliğin yapılamamasını sağlayan hatalı bir iddiada bulunduğunu söyledi. IntelliVision, ürünlerini ticari müşterilere kendi ürünlerine dahil edip etmemeyi düşünen müşterilere sunarken ayrıca “yüz tanıma teknolojisinin piyasadaki en yüksek doğruluk oranlarından birine sahip olduğunu iddia etti” dedi.
FTC, şirketin, sözde yüksek düzeyde doğruluk ve önyargısız olma veya sahteciliğe karşı teknolojisinin etkinliği de dahil olmak üzere bu iddiaları kanıtlayamadığını söyledi. Şirket ayrıca aracını milyonlarca yüz kullanarak eğitmedi, bunun yerine “yaklaşık 100.000 benzersiz kişinin görüntülerini” kullandı ve ardından eğitim amacıyla “aynı görüntü ve yüzlerin birden fazla varyantını” oluşturdu.
Test verileri, ABD Ulusal Standartlar ve Teknoloji Enstitüsü’ne göre IntelliVision araçlarının, bu tür araçlarda tipik olduğu gibi, bireyin doğum bölgesine ve cinsiyetine bağlı olarak çok farklı sonuçlar verdiğini gösterdi. FTC, “NIST testi, birçok yüz tanıma algoritmasının, Batı ve Doğu Afrika, Doğu Asya ve Amerikan Kızılderilileri de dahil olmak üzere belirli demografik özellikler için Doğu Avrupalı yüz görüntülerine göre önemli ölçüde daha fazla hatalı pozitif ‘eşleşme’ ürettiğini ortaya çıkardı” dedi. “NIST ayrıca kadınlarda erkeklere göre yanlış pozitiflerin daha yüksek olduğunu buldu.”
IntelliVision, yüz tanıma algoritmalarını 2019, 2022 ve 2023’te birden çok kez test edilmek üzere NIST’e sundu ve NIST tarafından yayınlanan sonuçlar, yazılımın etkinliğinin bu iki tür yanlış pozitifliği de sergilediğini ve aynı zamanda kendisini rakiplerinden ayırmayı başaramadığını gösterdi. Pazar lideri olma iddiası.
FTC, “Yanlış eşleşmeme oranı açısından IntelliVision’ın algoritmaları, 19 Aralık 2023 itibarıyla NIST tarafından test edilen en iyi 100 en iyi performans gösteren algoritma arasında yer almadı” dedi.
IntelliVision, iddialar veya uzlaşma anlaşmasıyla ilgili yorum talebine hemen yanıt vermedi. FTC anlaşmasını kabul eden bir şirkette tipik olduğu gibi, şikayetteki iddiaları ne kabul eder ne de reddeder. Bir kuruluşun uzlaşma anlaşmasını ihlal etmesi durumunda, kurum, sivil tazminat talep ederek federal mahkemede onlara dava açabilir.
Bu, FTC’nin ulaştığı ikinci büyük yüz tanıma anlaşmasını işaret ediyor. Geçtiğimiz Aralık ayında kurum, ABD eczane zinciri Rite Aid’in güvenlik gözetimi için yüz tanıma teknolojisini kullanmasını beş yıl boyunca yasaklamıştı. Düzenleyici, bu teknolojiyi yüzlerce mağazada kullanıma sunduktan sonra perakendecinin ırk ve cinsiyete dayalı hatalı çıktılar üreten araçların oluşturduğu riskle mücadele etmek için gerekli önlemleri uygulamadığını tespit ettikten sonra yasağı duyurdu.
Cumhuriyetçi FTC Komiseri Andrew N. Ferguson, Salı günü IntelliVision’a yönelik şikayetin yanı sıra yayınlanan mutabakat beyanında, ajansın tüm yapay zeka sistemlerinin eşit derecede yanlış-pozitif ve yanlış-pozitif üretmesi anlamında önyargısız olacağını öne sürmediğini söyledi. çeşitli ırk ve cinsiyet gruplarında olumsuz sonuçlar.
Bunun yerine IntelliVision’ın pazarlama materyallerinde “önyargı” kelimesini kullanmasının şirketin ne anlama geldiğini net bir şekilde ortaya koymadığını öne sürdü.
“Eğer ‘önyargı’nın spesifik bir tanımına başvurmayı amaçladıysa bunu söylemesi gerekiyordu. Ancak bunu söylemedi; bunun yerine bu belirsizliğin çözümünü tüketicilere bıraktı” dedi. “Bu nedenle IntelliVision, yazılımının ‘sıfır cinsiyet veya ırksal önyargıya’ sahip olduğu yönündeki iddiasını tüketicilerin vermiş olabileceği tüm makul yorumları doğrulama yükünü üstlenmelidir.”
IntelliVision’ın mülkiyeti yakın zamanda değişti. Kaliforniya merkezli akıllı ev, konut ve endüstriyel teknoloji tedarikçisi Nice’in bir yan kuruluşu olan Nice Kuzey Amerika, geçen ay Nipun Vision tarafından satın alındı. NipunVision.AI olarak da bilinen San Jose merkezli şirket, IntelliVision’ın eski kurucusu ve 2021 yılına kadar CEO’su olan ve şu anda yeni şirketin yönetim kurulu başkanı olan Vaidhi Nathan tarafından Ağustos ayında kuruldu.
IntelliVision yaptığı açıklamada, güvenlik ve gözetim pazarının yanı sıra sırasıyla gelişmiş sürücü destek sistemi ve sürücü izleme sistemine atıfta bulunarak ADAS ve DMS filo araç kameralarına odaklanmayı planladığını söyledi.