Önde gelen bir yapay zeka şirketi olan Openai, AI araçlarının Çin, Rusya, Kuzey Kore ve İran gibi ülkelerden kötü niyetli gruplar tarafından yaygın olarak kötüye kullanıldığını açıkladı.
Bu haftanın başlarında yayınlanan yeni bir raporda Openai, sadece üç ay içinde on büyük ağı başarıyla kapattığını ve çevrimiçi tehditlerle mücadele konusundaki taahhüdünü gösterdiğini açıkladı.
Rapor, aktörlerin ikna edici çevrimiçi aldatmacalar oluşturmak için AI kullandıklarını vurgulamaktadır. Örneğin, Çin’e bağlı gruplar AI kullandı.
Bu, Pakistanlı aktivist Mahrang Baloch’u pornografik bir filmde görünmekle suçlayan sahte bir video içeriyordu. Ayrıca, Spam Amca adlı bir operasyonda ABD gazilerinin tarifeleri etkilemek için sahte profiller oluşturmak da dahil olmak üzere ABD’deki polarize etmek için içerik oluşturmak için AI kullandılar.
Kuzey Koreli aktörler ise AI kullanarak sahte özgeçmişler ve iş başvuruları hazırladı. Veri çalması muhtemel olan küresel olarak uzak BT işlerini aradılar. Bu arada, Rus grupları, bir operasyon, Scopecreep ile tehlikeli yazılım geliştirmek ve siber saldırılar planlamak için AI kullandı, bilgi çalmak ve algılamadan gizlemek için tasarlanmış kötü amaçlı yazılımlar oluşturmaya odaklandı.
Bir İran grubu olan Storm-2012 (AKA APT42, Imperial Kitten ve TA456), ABD göçü, İskoç bağımsızlığı ve diğer hassas siyasi meseleler hakkında İspanyolca ve İngilizce tweetler oluşturmak için tekrar tekrar AI kullandı. Yerel sakinler olarak görünmek için genellikle belirsiz profil resimleri olan sahte sosyal medya hesapları oluşturdular.
AI ayrıca yaygın dolandırıcılıklarda da kullanılıyor. Dikkate değer bir durumda, Kamboçya merkezli, yanlış numara olarak adlandırılan bir işlem, bir görev aldatmacası için mesajları çevirmek için AI kullandı. Bu plan, sosyal medya yayınlarını beğenmek gibi basit çevrimiçi etkinlikler için yüksek ücret vaat etti.
Dolandırıcılık net bir model izledi: yüksek ücretler, bir “zing” (sahte kazançlarla güven ve heyecan inşa) ve son olarak bir “acı” (sözde daha büyük ödüller için kurbanlardan para talep eden) sunan bir “ping” (soğuk temas). Bu dolandırıcılık, İngilizce, İspanyolca ve Almanca dahil olmak üzere birçok dilde faaliyet gösterdi ve kurbanları Whatsapp ve Telegram gibi uygulamalara yönlendirdi.
Openai, AI’yi araştırmacı ekipleri için ‘kuvvet çarpanı’ olarak kullanarak bu faaliyetlerde yer alan hesapları aktif olarak tespit ediyor ve yasaklıyor. Bu proaktif yaklaşım genellikle bu kötü niyetli kampanyaların çoğunun kapatılmadan önce çok az otantik katılım veya sınırlı gerçek dünya etkisi elde ettiği anlamına gelir.
Yapay zeka kötüye kullanımı ile mücadelesine ek olarak Openai, kullanıcı gizliliği konusunda da önemli bir yasal zorlukla karşı karşıya. 13 Mayıs’ta Yargıç Ona T. Wang liderliğindeki bir ABD mahkemesi, Openai’ye ChatGPT konuşmalarını korumasını emretti.
Bu emir, Openai’nin AI modellerini eğitmek için milyonlarca telif hakkıyla korunan makalelerini yasadışı bir şekilde kullandığını iddia eden New York Times ve diğer yayıncılar tarafından açılan bir telif hakkı ihlali davasından kaynaklanmaktadır. Chatgpt’in içeriklerini izin veya tazminat olmadan çoğaltma, özetleme veya taklit etme yeteneğinin iş modellerini tehdit ettiğini iddia ediyorlar.
Openai bu emri protesto etti ve şirketi kullanıcı gizliliği ve kontrolü konusundaki taahhüdüne karşı çıkmaya zorladığını belirtti. Şirket, kullanıcıların sık sık sohbetlerde hassas kişisel bilgileri paylaştığını ve silinmesini veya özel kalmasını beklediklerini vurguladı. Bu yasal talep Openai için karmaşık bir zorluk yaratıyor.