Üretken Yapay Zeka Uyarıları Kendi Tehlikelerini İçeriyor


Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme

Yapay Zeka Bu Açıklamadan Başlayarak Demokrasiye Olan Güveni Sarsabilir

Rashmi Ramesh (raşmiramesh_) •
6 Eylül 2023

Üretken Yapay Zeka Uyarıları Kendi Tehlikelerini İçeriyor
6 Ocak isyancılarının demokrasiyi baltalamak için üretken yapay zekaya ihtiyacı yoktu (Resim: Shutterstock)

Bir siber güvenlik firması, yapay zekanın demokratik siyasete olan güveni zayıflatma potansiyeli taşıdığını ancak aşırı uyarıların, eleştirmenlerin korumaya çalıştığı sisteme olan güveni aşındırabileceği uyarısında bulunuyor.

Ayrıca bakınız: Web Semineri | Üretken Yapay Zeka Kullanımının Organizasyonel Risklerini Azaltma: İyi, Kötü ve Çirkin

Siyasi yeraltı dünyası, sözde polis saldırganlığını göz ardı eden bir Chicago belediye başkanı adayı ve iddiaya göre Cumhuriyetçilerin oy kullanmasının yasaklanması gerektiğini iddia eden bir ABD Demokrat senatörü de dahil olmak üzere deepfake ses ve video kliplerini çoktan dağıttı.

Yapay zeka tarafından oluşturulan içeriğin kalitesi, bazı akademisyenlerin düzenlenmemiş yapay zekanın “insanları hacklemek” için kullanılacağından endişe etmesine yetecek kadar iyi.

İsrailli siber güvenlik firması Checkpoint, yapay zekanın “gerçeklik algımızı ve siyasi söylemi büyük ölçüde etkilemekten hâlâ çok uzakta” olduğu göz önüne alındığında, bu tür uyarıların kendi tehlikelerini de taşıdığını söylüyor.

“Kötüleşen şey, kamusal söyleme olan güvenimizdir ve dengesiz uyarılar bu güveni daha da aşındırabilir.” Siber istihbarat araştırmacısı Yoav Arad Pinkas’ın yazdığı bir blog yazısı bunu söylüyor.

Siyaset bilimciler, politikacıların kişiselleştirilmiş mesajlarla bireysel seçmenleri hedef almak için ucuz, yapay zeka tarafından oluşturulan içerik kullanarak güç kazanma olasılığını öngörüyorlar. Harvard profesörleri Archon Fung ve Lawrence Lessig bu yılın başlarında “Kazanan, daha etkili makinenin müşterisi olacak” diye yazmıştı. Sonuç, mutlaka seçmenlerin iradesini yansıtmayan seçimler olacaktır.

“Seçmenler, siyasi liderlerini ve politikalarını özgürce seçmek yerine yapay zeka tarafından manipüle edilirdi” diye yazdılar.

Ancak Pinkas, vatandaşların yalanlardaki artışa gerçek konusunda daha fazla ısrar ederek tepki vermelerinin de mümkün olduğunu söyledi. “Sahteciliği tespit etmenin giderek zorlaştığı bir gerçeklikte, kaynak ve bağlam en önemli hale geliyor. Böyle bir durumda kişinin ve bilgi kaynağının güvenilirliği giderek daha önemli hale geliyor. Gerçek tehlikeye girdiğinde, hoşgörünün azalmasıyla caydırıcılık yaratılıyor. yalanlar ve aldatıcılar için.”

Doğruluk ve kimlik doğrulama konusundaki kararlılığıyla insanları robotlardan ayırmayı amaçlayan geleneksel medyanın da gelecekte daha önemli hale gelebileceğini söyledi.

Ne olursa olsun, üretken yapay zeka hâlâ en kötü senaryoların öngördüğü kamusal söylemin yozlaşma düzeyine ulaşmış değil. Pinkas, bunun yıpratıcı etkileri konusunda uyarıda bulunan herkesi mevcut güvensizliğin kanıt olmadan daha da aşınmayacağından emin olmak gibi zor bir duruma soktuğunu söyledi.

“Oy verme makinelerinin zayıf noktalarına aşırı odaklanmanın, halkın oylama mekanizmalarına olan güvenini aşındırarak demokratik dayanıklılığı istemeden zayıflatması gibi, yapay zeka konusunda da benzer bir tehlikeyle karşı karşıya kalabiliriz.”





Source link