Pentagon yakınlarında bir patlama meydana geldiğini iddia etmek için yapay zeka tarafından oluşturulan görüntüleri kullanan Twitter’daki viral bir aldatmacaya göz atacağız.
Twitter’ın onay işareti doğrulamasında yaptığı son değişiklikler, bu sefer potansiyel olarak tehlikeli yanlış bilgilendirme alanında kaosa neden olmaya devam ediyor. İşaretli bir hesap, Pentagon gibi önemli yerlere yakın patlamaların görüntülerini gösterdiğini iddia etti. Bu görüntüler, AI tarafından üretilmesine ve sözde fotoğraflara bakan herkes için birden fazla açık hata içermesine rağmen hızla viral oldu.
Bu nasıl oldu?
Yakın zamana kadar, önemli bir haber çıktığında sosyal medya rutini şu şekilde olurdu:
- Bir şey olur ve bu, Twitter’daki doğrulanmış hesaplar tarafından bildirilir
- Bu haber, doğrulanmamış hesaplara göre filtrelenir
“Doğrulanmış” hesaplar artık ayda 8 ABD doları tutarındaki Twitter Blue hizmetine kaydolmak isteyen herkes tarafından ödeniyor. İşaretli bir video oyunu şirketinin, ünlünün veya haber kaynağının aslında iddia ettikleri kişi olduğunun gerçek bir garantisi yoktur. Halihazırda sosyal medyaya biraz kargaşa enjekte eden bu yeni politikanın birçok örneği oldu. Saldırgan görüntüler dağıtan sahte Nintendo ve kötü şöhretli “İnsülin bedava” Tweet’i akla bir stok dalışına neden oluyor.
İnsanlar “onay işareti diyarında her şey olur” yaklaşımını benimsedi ve onunla birlikte çalışıyor.
Şimdi olan şu:
- Sahte hikayeler, onay işaretli hesaplar tarafından desteklenir
- Bu hikayeler, işaretlenmemiş hesaplara göre filtrelenir
- Gerçekleri arayan insanlar, işaretli hesapları görmezden gelirken, işaretlenmemiş (ancak gerçek) gazetecileri ve haber ajanslarını bulmaya çalışırlar.
Ücretli hesaplar herhangi bir konuşmanın en üstünde “yüzerken” Twitter’ın yanıtları görüntüleme şeklindeki değişikliklerle bu daha da zorlaşıyor. Sonuç olarak, onay işaretli bir hesabın gerçek kişiler, orijinal “doğrulanmış” hesaplar ve yanlış bilgi yaymak isteyenlerin bir araya gelmesiyle viral hale gelmesi potansiyel olarak felaketle sonuçlanabilir.
Aylar önce, bu raporların doğru olup olmadığını anlamaya çalışırken mavi çek hesapları arardınız.
Bugün? *Doğrulanmamış* gazetecileri bulmaya çalışmak için dezenformasyona *zorlayarak* mavi çek hesaplarını karıştırmanız gerekir.
delilik https://t.co/6innvxb4Uk
— John Scott-Railton (@jsrailton) 22 Mayıs 2023
Bu durumda, birkaç işaretli hesap, Pentagon ve ardından Beyaz Saray yakınlarında patlama iddiasında bulundu. Bellingcat müfettişleri, görüntünün ne olduğunu çabucak çürüttü: Kötü yapılmış, bolca hata var.
“Beşgenin yakınında bir patlama” gösterdiğini iddia eden bu resmin yapay zeka tarafından üretildiğinden eminiz.
Binanın ön cephesine ve çitin kalabalık bariyerlere nasıl karıştığına bakın. Ayrıca birinci elden tanık olarak gönderen başka resim, video veya kişi de yok. pic.twitter.com/t1YKKabuNL
— Nick Waters (@N_Waters89) 22 Mayıs 2023
Görüntüler ne kadar tuhaf görünse de, hiç insan, ezilmiş korkuluklar ve birbiri içinde eriyen duvarlar, hiçbir fark yaratmadı. Sahte tweet’lerin görünürlüğü fırladı ve çok geçmeden gereksiz bir terör saldırısı paniği olasılığı doğdu.
Birçok ABD Hükümeti, kolluk kuvvetleri ve ilk müdahale hesabı, Twitter Blue için ödeme yapmayı reddettikleri için artık bir onay işaretine sahip değil. Neyse ki bazılarında yeni gri Hükümet rozeti var ve Arlington İlçe İtfaiyesi herhangi bir patlama olmadığını doğrulayabildi.
@PFPAResmi ve ACFD, Pentagon yakınlarındaki bir patlama hakkında internette dolaşan bir sosyal medya haberinin farkında. Pentagon rezervasyonunda veya yakınında HİÇBİR patlama veya olay meydana gelmiyor ve halk için acil bir tehlike veya tehlike yok. pic.twitter.com/uznY0s7deL
— Arlington Fire & EMS (@ArlingtonVaFD) 22 Mayıs 2023
Bununla ilgili ilginç olan şey, korkunç, amatör görüntüleri cilalamaya çalışmadan nasıl yayınlayabileceğinizi vurgulaması ve bunun viral hale gelmesi için yeterli sayıda insanın buna hala inanmasıdır. Bu vaka, Pentagon Kuvvetleri Koruma Teşkilatı’nın onu çürütmeye yardım etmesi gerektiği ölçüde viral oldu. Bleeping Computer’ın not ettiği gibi, PFPA artık doğrulanmadı bile.
Sosyal medyada bu tür şeylerden kaçınmak için kolay bir cevap veya ipuçları koleksiyonu yoktur. En azından, mevcut kurulumunda Twitter’da değil. Bir zamanlar kırılma için değerli olan, tehlikeli hava koşulları veya büyük olaylar hakkında potansiyel olarak kritik uyarılara eskisi gibi güvenilemez.
Yapabileceğiniz en iyi şey, Hükümeti veya acil durum müdahale hesaplarını takip etmektir. gri rozeti spor. “Doğrulanmış kuruluşlar” için altın onay işaretleri de vardır, ancak orada bile sorunlar devam etmektedir. Kısa bir süre önce sahte bir Disney Junior hesabına birdenbire altın bir onay işareti verildi ve ardından kaos çıktı.
Hayır, South Park Disney Junior’a gelmiyor.
Yanlış bilgilendirme yapan hesapların amacına gelince, söylemek zor. Birçok ücretli hesap sadece trollük yapmak istiyor. Diğerleri, bireyler veya topluluklar tarafından yürütülen özel yanlış bilgilendirme/yanlış bilgi çiftliklerinin parçası olabilir. Hesapların içerikle viral hale geldiğini ve ardından yeterli erişim elde edildikten sonra tamamen başka bir şeye geçtiğini görmek de yaygındır. Farklı bir konuyla ilgili olabilir veya zararlı bir şey olabilir.
Ücretli hesapların dışında bile yanlış bilgiler ve sahte bilgiler gelişebilir. Kısa süre önce Twitter, 2020’de benzer bir dalga yaşadıktan sonra sahte NHS hemşirelerinin geri dönüşünü yaşadı.
Beyler, bu sahte hemşire profillerine kanmayı bırakın. Cevaplarında stok fotoğrafları ve iki saniye kullanıyorlar ve bunun gibi şeyler buluyorsunuz. *gerçek* NHS çalışanlarından alıyorsunuz ve bu sahtekarlıkları takip ediyorsunuz, onlara ne kadar harika işler yaptıklarını söylüyorsunuz vs. – utanç verici pic.twitter.com/JicbQg64I7
– Sorcha Ní Nia (@Luiseach) 20 Mayıs 2023
Sahte hemşire hesaplarından herhangi biri ayda 8 dolar ödemeye karar verirse, sahte patlamaları teşvik eden profillerle aynı gönderme gücüne sahip olacaklar. Spam bir hale geliyor büyük sorun herkese açık olarak gönderilen ve özel mesajlarda:
Bu web sitesini tanıtan yanıt spam ağı, Mart/Nisan 2023’te oluşturulmuş (en az) 9688 hesaptan oluşur. Hepsinin kullanıcı adları rastgele rakamlarla biter ve şimdiye kadar tümü yalnızca Twitter Web Uygulaması aracılığıyla tweet attı. pic.twitter.com/FKAvTcDGSr
– Kuzey Komplocu (@ komplocu0) 13 Mayıs 2023
AI zaten gerçekçi görünen görüntüler üretme yeteneğine sahip, ancak spam gönderenler ve dolandırıcılar, ne kadar inandırıcı göründüğüne aldırış etmeden herhangi bir eski resmi kullanıyor. “Flaş haber” mesajı ve resmi görünümlü bir onay işaretinin birleşimi, onu kolayca sınırdan uzaklaştırır ve buna kanabilecek olanlar, görüntüleri ilk etapta ayrıntılı olarak incelemezler. Twitter, doğal olarak dezenformasyon dalgalarını beslemeye yardımcı olan istenmeyen e-posta ve botları durdurmak için ciddi bir zaman harcamak zorunda kalacak. Büyük soru şudur: Güç durumdaki sosyal medya devi bunu yapabilir mi?
Malwarebytes EDR ve MDR, fidye yazılımının tüm kalıntılarını kaldırır ve yeniden virüs bulaşmanızı engeller. İşletmenizi korumaya nasıl yardımcı olabileceğimiz hakkında daha fazla bilgi edinmek ister misiniz? Aşağıdan ücretsiz bir deneme edinin.
ŞİMDİ DENE