Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme, Standartlar, Düzenlemeler ve Uyumluluk
Federal Ticaret Komisyonu Yapay Zekanın Aldatıcı Kullanımını Hedef Alıyor
Chris Riotta (@chrisriotta) •
25 Eylül 2024
ABD Federal Ticaret Komisyonu tarafından yapay zeka yeteneklerini yanlış şekilde tanıtmakla suçlanan bir dizi şirket, ya yapay zekayı denetleyen kurumla anlaştı ya da mahkemede federal avukatlarla karşı karşıya gelecek.
Ayrıca bakınız: Makine Öğrenimi Sonuçlarına Daha Hızlı Ulaşın
Komisyon, “AI avukat” hizmetleri sattığını iddia eden bir şirket ve tüketicilere AI destekli çevrimiçi vitrinler aracılığıyla para kazanabileceklerini vaat eden ve sahte incelemelerin oluşturulmasını sağlayan bir şirket de dahil olmak üzere beş şirkete karşı şikayette bulundu. Komisyon, kolluk kuvvetlerinin eylemlerinin, FTC’nin “Operation AI Comply” adını verdiği, AI kullanan şirketleri “tüketicileri sahte planlara çekmek” için hedefleyen yeni bir kampanyanın parçası olduğunu söyledi.
FTC Başkanı Lina Khan, “Yapay zeka araçlarını kullanarak insanları kandırmak, yanıltmak veya dolandırmak yasadışıdır” dedi ve baskının amacının “yasalarda yer alan hiçbir yapay zeka muafiyetinin olmadığını açıkça ortaya koymak” olduğunu sözlerine ekledi.
FTC, “200 milyar dolarlık hukuk sektörünü yapay zeka ile değiştirebileceğini” ve kullanıcıların geçerli yasal belgeler oluşturmasına ve “avukat olmadan saldırı davası açmasına” olanak tanıyabileceğini iddia eden DoNotPay adlı şirkete karşı şikayette bulundu. Şikayete göre, DoNotPay yapay zeka sohbet robotlarının aslında bir insan avukatın seviyesine eşdeğer yasal danışmanlık üretip üretmediğini değerlendirmede başarısız oldu.
İddiaya göre hiçbir insan avukatı olmayan DoNotPay, ayrıca yüzlerce federal ve eyalet yasası ihlali için küçük işletme web sitelerini kontrol etmek için hizmetler sundu ve bu da 125.000 dolardan fazla yasal ücrete mal olabilir. DoNotPay, 193.000 dolarlık önerilen bir anlaşmayı kabul etti ve anlaşma şartlarına göre hizmete abone olan tüketicileri sınırlamaları hakkında bilgilendirmek zorunda kalacaktı. Komisyon üyeleri anlaşmayı oy birliğiyle onayladı; hala kamuoyunun yorumuna ve nihai komisyon oylamasına tabi, bunlar genellikle formalite adımlarıdır.
FTC ayrıca, müşterilerin çevrimiçi mağaza vitrinleri aracılığıyla binlerce pasif gelir elde etmelerine yardımcı olmak için “son teknoloji” AI araçları vaat ettiği iddia edilen Ascend Ecom’u da hedef aldı. 25 milyon dolarlık iddia edilen dolandırıcılığın arkasındaki operatörler, 2021’den beri Ascend Ecommerce ve ACV gibi takma adlar kullandı ve müşterilerin e-ticaret işlerini büyütmek için AI’yı kullanmada sektöre öncülük ettiklerini iddia etti.
FTC’nin şikayeti üzerine federal bir mahkeme, Ascend’in projeye devam etmesini geçici olarak durduran bir emir yayınladı.
Komisyon, milyonlarca dolarlık kazanç vaatlerini yerine getirmeyen çevrimiçi vitrinler inşa etmek için kullanıcılardan yaklaşık 2.000 dolar ücret alan Ecommerce Empire Builders adlı iddia edilen bir dolandırıcılık nedeniyle benzer bir işletmeye dava açtı. FTC’ye göre şirket, müşterilerinin aylık 10.000 dolara kadar kazanabileceği iddialarını yaymak için sosyal medyayı kullandı, ancak çok sayıda tüketici “çok az veya hiç para kazanmadı” ve şirket “tüketicilere geri ödeme yapmayı reddetti.”
Federal bir mahkeme ayrıca Ecommerce Empire Builders’ın ve FTC’nin Haziran ayında yapay zeka destekli çevrimiçi vitrinler aracılığıyla benzer şekilde garantili gelir teşvik ettiği gerekçesiyle dava açtığı FBA Machine adlı şirketin faaliyetlerine devam etmesini geçici olarak engelledi.
FTC ayrıca 2021’den beri ücretli abonelerin “çok sınırlı ve genel girdilere dayalı sınırsız sayıda ayrıntılı tüketici yorumu” oluşturmasına olanak tanıyan bir yapay zeka “yazma asistanı” satan Rytr adlı bir şirkete karşı da şikayette bulundu.
FTC’ye göre şirket, müşterilerin “satın alma kararları almak için yorumları kullanan potansiyel tüketicileri aldatacak” bilgiler içeren yapay zeka tarafından oluşturulmuş yorumlar oluşturmasına izin verdi. Şikayette, Rytr’nin abonelere tüketici yorumları için yanlış ve yanıltıcı içerik üretme araçları vererek federal tüketici koruma yasasını ihlal ettiği belirtiliyor.