Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Tüketiciler Önyargı, Dolandırıcılık, Gizlilik, Telif Hakkı, Veri Kullanımı Endişelerinden Şikayetçi
Rashmi Ramesh (raşmiramesh_) •
4 Ekim 2023
ABD FTC’si, yapay zekayı “yakından takip ettiğini” söyleyerek Salı günü yazdığı yazıda, önyargıya, ses izleri gibi biyometrik verilerin toplanmasına ve tatmin edici olmayan kararlı bir algoritmaya itiraz etmenin sınırlı yollarına itiraz eden bir dizi şikayet aldığını bildirdi. tüketiciler.
Ayrıca bakınız: Canlı Web Semineri Yarın | Kafanızı Buluta Taşıyın: Modern Güvenlik Sorunları ve Çözümleri
Teknoloji devleri, OpenAI’nin ChatGPT büyük dil modelinin 2022’nin sonlarında halka açık bir şekilde piyasaya sürülmesinin ardından üretken yapay zekayı ürünlere dahil etme yarışına girdi; ancak yüz tanıma veya otomatik müşteri tanıma biçimindeki yapay zeka, ChatGPT kullanıma sunulmadan önce zaten pazara yayılmıştı.
Bu yılın başlarında bir dizi teknoloji uzmanı, güvenlik protokolleri geliştirmek için bir duraklama çağrısında bulunmuştu ancak endüstri bu çağrıyı yerine getirmedi. Çağrının arkasındaki güçlerden biri geçtiğimiz günlerde The Guardian’a şirketlerin “birbirlerine karşı dibe doğru bir yarışta” sıkışıp kaldıklarını söyledi.
Ajansın Teknoloji Ofisi tarafından yazılan bir FTC blog yazısı, yapay zekanın “çalışma şeklimizi temelden değiştirdiğini; perde arkasında gizlendiğini ve günlük yaşamlarımızı sürdürdüğümüz mekaniği değiştirdiğini” söylüyor.
Ofis, “yalnızca son 12 aydaki binlerce başvuruyu” incelemek için “piyasadaki yapay zeka ile ilgili etkileşimleri en iyi şekilde yakalayabileceğini düşündüğümüz arama terimlerini kullanarak” tüketici şikayet portalını sorguladı.
Yapay zeka modelleri çok büyük miktarda veri kullanılarak eğitiliyor; bu da tüketicilerin yapay zeka endüstrisinin verilerini internet üzerinden sildiği konusunda şikayette bulunmalarına yol açıyor. Birçok içerik oluşturucu FTC’ye, AI modellerinin arkasındaki şirketlerin içeriklerini modelleri eğitmek için kullanıyor olabileceğini, büyük şirketlerin pazar hakimiyetine katkıda bulunurken içerik oluşturarak geçimlerini sağlama yeteneklerinin yerine geçebileceğini söyledi.
Blog yazısında başka bir şikayet alanının da biyometrik ve kişisel verilerin toplanması olduğu belirtiliyor. Bazı tüketiciler, ajansa müşteri destek çağrılarının kaydedilmesi konusunda çekinceleri olduğunu belirterek, “kayıtların daha sonra kendi seslerini kullanarak bir yapay zekayı eğitmek için kullanılabileceğinden korktuklarını ifade etti.”
Yapay zeka modelleri önyargılara, yanlışlıklara, halüsinasyonlara ve kötü performansa karşı hassastır. Bazı tüketiciler ajansa, temel algoritmanın demografik açıdan temsili bir örnek tarafından eğitilmemesi nedeniyle kimliklerini otomatik araçlarla doğrulayamadıklarını söyledi.
FTC, yapay zeka sohbet botundan bir bankanın müşteri hizmetleri numarasını isteyen ancak bunun yerine dolandırıcının numarasını alan bir tüketicinin şikayetine atıfta bulunarak, dolandırıcılardan gelen verilerin bazı büyük dil modellerine de sızdığını söyledi.
FTC, yapay zekanın aşk dolandırıcılıklarını ve mali dolandırıcılığı hızlandırma potansiyeline sahip olduğu konusunda uyardı. “Birçok rapor, bu tür dolandırıcılıklarla kandırıldığını ve mesajların bir yapay zeka modelinden kaynaklandığına inanıldığını ifade ediyor.”