Yapay Zeka Tabanlı Saldırılar, Dolandırıcılık Yönetimi ve Siber Suçlar, Coğrafi Odak: Asya
Movie Star’ın Deepfake’i, Hükümete Sosyal Medya Firmalarını Kısıtlama Çağrısında Bulundu
Jayant Chakravarti (@JayJay_Tech) •
8 Kasım 2023
Hindistan hükümeti, önde gelen bir aktrisin sahte videosunun kamuoyunda eleştiriye yol açmasından kısa bir süre sonra sosyal medya şirketlerine derin sahtekarlıklara ve yanlış bilgilere karşı önlem almaları talimatını verdi.
Ayrıca bakınız: Osterman Research: E-posta Güvenliğinde Yapay Zekanın Rolü
Salı günü Elektronik ve Bilgi Teknolojileri Bakanlığı, sosyal medya aracılarına, platformlarındaki dezenformasyon ve derin sahtekarlıkları tespit etmeleri ve bir kullanıcıdan veya bir hükümet yetkilisinden rapor aldıktan sonra 36 saat içinde bunları kaldırmaları yönünde talimat verdi.
Sendikanın Elektronik ve Bilişimden Sorumlu Devlet Bakanı Rajeev Chandrasekhar, “Yanlış bilgi ve deepfake’lerin yarattığı önemli zorluklar göz önüne alındığında, son altı ay içinde ikinci bir tavsiye kararı yayınladılar ve çevrimiçi platformları deepfake’lerin yayılmasına karşı kararlı adımlar atmaya çağırdılar” dedi. .
Hindistan yasalarına göre deepfake oluşturmak ve yaymak, üç yıla kadar hapis ve 1.200 dolar para cezasıyla sonuçlanabiliyor.
Hükümet tavsiyesi, popüler sinema oyuncusu Rashmika Mandanna’nın Facebook, X ve WhatsApp gibi popüler sosyal medya kanallarında dolaşan deepfake video klibinin kamuoyunda yarattığı tepkinin ardından geldi.
Mandanna, “Bunu paylaşmak beni gerçekten üzdü ve internette yayılan deepfake videom hakkında konuşmak zorunda kaldım” dedi. yazdı X’te.
Chandrasekhar, yanlış bilgi veya derin sahtekarlıklarla ilgili kullanıcı raporlarına yanıt vermekte başarısız olan sosyal medya aracılarının Hindistan Bilgi Teknolojileri Yasası kapsamındaki yasal korumalarını kaybedebileceğini söyledi. Kanun, sosyal medya aracılarının kullanıcılar tarafından sunulan veya barındırılan üçüncü taraf bilgi, veri veya iletişim bağlantılarından sorumlu tutulamayacağını öngörmektedir.
Hindistan hükümeti, sosyal medya şirketlerinin platformlarının yanlış bilgi, yanlış veya sakıncalı içerik barındırmamasını sağlamasını zorunlu kılmak için 2021’de Bilgi Teknolojileri Yasası’na yeni kurallar getirdi. Geçmişte aracıların yalnızca kullanıcıları kanallarında yayınlayabilecekleri veya paylaşabilecekleri içeriğin niteliği hakkında bilgilendirmesi gerekiyordu.
ABD merkezli Home Security Heroes tarafından hazırlanan 2023 Deepfakes Durumu raporu, 2023’teki çevrimiçi deepfake videolarının toplam sayısının 2019’a göre %550 daha yüksek olduğunu ve bu videoların %99’a kadarının doğası gereği pornografik olduğunu ve kadınları hedef aldığını belirtiyor. Araştırma ayrıca deepfake içerik mağduru kadınların %94’ünün eğlence sektöründe çalıştığını da ortaya çıkardı.
Home Security Heroes, deepfake videoların en iyi 10 özel web sitesinde geniş çapta görüntülendiğini ve 303 milyonun üzerinde görüntülemeye ulaştığını söyledi. Bu platformlar, 2023’te şu ana kadar toplamda yaklaşık 34 milyon aylık ziyaretçi çekti. Yüklenen deepfake videoların %53’üne katkıda bulunan Güney Kore dünya çapında liderliği alırken, onu %20 ile ABD takip ediyor. Hindistan, deepfake video pazarının %2’lik payıyla listede altıncı sırada yer alıyor.
Firma, “Ünlüler, politikacılar ve etki sahibi kişiler gibi tanınmış kişiler, görünürlükleri ve yanlış veya skandal içeriklerin kariyerleri ve kamuoyu üzerindeki potansiyel etkileri nedeniyle sıklıkla daha yüksek hedeflenme riskiyle karşı karşıyadır” dedi.