ABD Federal Ticaret Komisyonu (FTC), ticari kazanç için insanların davranışlarını manipüle etmek için yapay zekanın (AI) kullanılması konusunda şirketlere bir uyarı yayınladı.
FTC reklamcılık uygulamaları avukatı Michael Atleson, 1 Mayıs 2023’te yayınlanan bir blog gönderisinde, firmaların halihazırda yeni üretken yapay zeka araçları dalgasını insanların inançlarını, duygularını ve davranışlarını etkileyebilecek şekillerde kullandıklarını söyledi.
Bu, bilgi, tavsiye, destek veya arkadaşlık sağlamak için tasarlanmış sohbet robotlarının kullanımını içerir; bunların çoğu, Atleson’un “etkili bir şekilde ikna etmek için inşa edildiğini”, sorulara kendinden emin bir dille yanıt vererek, bu yanıtlar tamamen kurgu olsa bile.
Otomasyon yanlılığı (insanların tarafsızlık veya tarafsızlık görünümünden dolayı bir makineye gereğinden fazla güvenmesi) ve antropomorfizm (burada chatbot örneğin dili veya emojileri kullanma şekliyle daha insani görünecek şekilde tasarlanmıştır).
Atleson, “İnsanlar kolayca kendilerini anlayan ve onların yanında olan bir şeyle konuştuklarını düşünmeye yönlendirilebilir” dedi.
“Pek çok ticari aktör, bu üretken yapay zeka araçlarıyla ve bunların kazanılmamış insan güveninden yararlanma konusundaki yerleşik avantajlarıyla ilgileniyor.
“Kötü niyetli kullanımlarıyla ilgili endişeler, FTC yetkisinin çok ötesine geçiyor” dedi. “Fakat FTC’nin temel endişelerinden biri, şirketlerin onları, kasıtlı veya bilinçsiz olarak, insanları finans, sağlık, eğitim, barınma ve istihdam gibi alanlarda zararlı kararlara haksız veya aldatıcı bir şekilde yönlendirecek şekillerde kullanmasıdır.”
Atleson, reklamcılık uygulamalarında üretken yapay zeka kullanmayı düşünen şirketlerin, insanları “kandırmayı” amaçlayan tasarım öğelerinin FTC vakalarının ortak bir özelliği olduğunun farkında olması gerektiğini de sözlerine ekledi.
Ayrıca, şirketlerin üretken bir yapay zeka özelliğine reklam yerleştirmeye başlayabilecekleri ve bunun da yanıltıcı veya haksız uygulamalara yol açabileceği konusunda uyardı.
Atleson, “Diğer şeylerin yanı sıra, bir reklamın bir reklam olduğu her zaman açık olmalıdır ve arama sonuçları veya herhangi bir üretken AI çıktısı, neyin organik ve neyin ödendiğini açıkça ayırt etmelidir” dedi.
“İnsanlar, bir AI ürününün yanıtının onları ticari bir ilişki nedeniyle belirli bir web sitesine, hizmet sağlayıcıya veya ürüne yönlendirip yönlendirmediğini bilmelidir” dedi. “Ve kesinlikle, insanlar gerçek bir insanla mı yoksa bir makineyle mi iletişim kurduklarını bilmeliler.”
Mart 2023’te Microsoft’un OpenAI ile ortaklığı yoluyla üretken yapay zekayı öne çıkaran lider şirketlerden biri olmasına rağmen yapay zeka etiği ve güvenliğine adanmış tüm bir ekibi işten çıkardığına ilişkin haberlere atıfta bulunan Atleson, “şirketler için belki de en iyi zaman değil” dedi. bu konularda çalışan personeli azaltmaktır.
“FTC gelip bizi riskleri yeterince değerlendirdiğinize ve zararları hafiflettiğinize ikna etmek isterseniz, bu indirimler iyi bir görünüm olmayabilir” dedi. “Diğer şeylerin yanı sıra, risk değerlendirmeniz ve hafifletme işlemleriniz, öngörülebilir aşağı yönlü kullanımları ve personeli ve yüklenicileri eğitme ihtiyacını ve ayrıca nihai olarak dağıtılan herhangi bir aracın gerçek kullanımını ve etkisini izleme ve ele almayı hesaba katmalıdır.”
Uyarı
FTC ayrıca son zamanlarda şirketleri yapay zeka ürünleri hakkında abartılı veya asılsız iddialarda bulunmaya ve üretken yapay zeka araçlarının siber saldırılar ve dolandırıcılık için kullanılma potansiyeline karşı uyardı.
Atleson, Şubat 2023’ün sonlarına ait eski bir blog gönderisinde “İşletmeleri, önyargılı veya ayrımcı etkileri olan otomatik araçları kullanmaktan kaçınmaları konusunda zaten uyarmıştık” dedi. ilk yer. Bazı durumlarda, bu etkinlik eksikliği, ürünlerin neden olabileceği diğer zararlardan bağımsız olarak mevcut olabilir. Pazarlamacılar, FTC uygulama amaçları doğrultusunda, bir ürünün etkinliğine ilişkin yanlış veya asılsız iddiaların bizim ekmeğimiz ve tereyağımız olduğunu bilmelidir.”
2023’ün başından bu yana, üretken yapay zeka şirketlerine (Stable Diffusion, Midjourney ve Open AI dahil) karşı, modellerini eğitmek için potansiyel olarak korunan materyalleri kullanmalarından kaynaklanan telif hakkı yasasını ihlal ettikleri iddiasıyla bir dizi yasal itiraz başlatıldı.
16 Mart 2023’te ABD hükümeti, üretken yapay zeka ve telif hakkıyla ilgili bir politika bildirisi yayınladı.
Bununla birlikte, yalnızca, üretken AI firmalarının başkalarının telif hakkıyla korunan materyallerine erişiminden ziyade, “teknolojinin çıktısının ifade unsurlarını belirlediği” AI tarafından üretilen materyalin telif hakkı ile korunup korunamayacağına odaklanır.
Öte yandan Birleşik Krallık hükümeti, alandaki şirketler için telif hakkıyla korunan malzemeye erişimlerini kolaylaştırmak için bir uygulama kuralları oluşturmayı ve yapay zeka firmaları ile oradakiler arasında tatmin edici bir anlaşmaya varılamazsa belirli mevzuatı takip etmeyi taahhüt etti. yaratıcı sektörler
Nisan ayı sonlarında, başbakan Rishi Sunak, yapay zekanın ekonomi genelinde güvenli ve güvenilir kullanımını teşvik etmek ve Birleşik Krallık’ın küresel olarak rekabetçi olmasını sağlamak için bir Vakıf Modeli Görev Gücü’nün oluşturulmasına gidecek olan üretken yapay zeka girişimlerini desteklemek için 100 milyon sterlinlik bir fon sağladığını duyurdu. bu stratejik teknoloji.