Tiktok ve Instagram’da AI tarafından üretilen tıbbi dolandırıcılıklar, Deepfake avatarlarının doğrulanmamış takviyeleri ve tedavileri teşvik etmek için sağlık profesyonelleri olarak poz verdiği.
Bu sentetik “doktorlar”, tıp alanına kamu güveninden yararlanır ve kullanıcıları genellikle abartılı veya tamamen üretilmiş sağlık iddiaları olan ürünler satın almaya yönlendirir.
Üretken yapay zekadaki ilerlemelerle, derin dişleri giderek erişilebilir hale getiren uzmanlar, bu tür aldatıcı uygulamaların meşru sağlık tavsiyesine olan güveni aşma ve savunmasız nüfusları tehlikeye atma riskiyle karşı karşıya kaldıkları konusunda uyarıyorlar.
.png
)
ESET araştırmacıları, jinekologlar, diyetisyenler ve diğer uzmanlar olarak gizlenmiş AI tarafından üretilen avatarları kullanarak Latin Amerika’daki 20’den fazla Tiktok ve Instagram hesaplarını belirledi.
Genellikle videoların köşesine yerleştirilen bu avatarlar, “doğal ekstraktlar” dan onaylanmamış farmasötiklere kadar değişen ürünler için yazılı onaylar sunar.
Örneğin, bir kampanya, kanıtlanmış kilo verme avantajı olmayan Amazon’da “gevşeme düşüşleri” olarak etiketlenmiş sözde bir Ozempic alternatifini teşvik etti.
Videolar, güvenilir tıbbi tavsiyeleri taklit etmek için cilalı üretim kalitesinden ve yetkili tonlardan yararlanarak eğitim ve reklam arasındaki çizgiyi bulanıklaştırıyor.
Bu dolandırıcılıkların arkasındaki teknoloji, içerik oluşturma için tasarlanmış meşru AI araçlarına dayanmaktadır.
Avatar nesil hizmetleri sunan platformlar, kullanıcıların minimum görüntüler girmesini ve daha sonra dolandırıcıların hileli kampanyalar için yeniden kullandığı gerçekçi videolar üretmesini sağlar.
Bu kötüye kullanım kritik bir güvenlik açığını vurgular: bu tür araçlar yaratıcıları güçlendirirken, kötü amaçlı uygulamaları önlemek için sağlam önlemlerden yoksundurlar.
Bazı durumlarda, DeepFakes, Dr. Michael Mosley gibi TV figürlerini taklit eden İngiltere kampanyalarında görüldüğü gibi, gerçek doktorların benzerliklerini bile ele geçiriyor.
Sağlık Otoritesine Güvenden yararlanmak
Deepfee dolandırıcılık tıp uzmanlarına verilen doğal güven üzerinde avlanır. Satış konuşmalarını uzman önerileri olarak çerçeveleyerek, bu videolar genellikle açık reklamlara yönelik şüphecilik.
Örneğin, “13 yıllık tecrübesi” olan sentetik bir jinekolog, takipçileri genel bir avatar kütüphanesine bağlı olmasına rağmen, düzenlenmemiş takviyeler satın almaya çağırdı.
Benzer şekilde, Tom Hanks gibi ünlülerden gelen sahte onaylar, şüpheli ürünlere güvenilirlik sağlamak için kamu kişilerinden yararlanan “mucize tedavilerini” teşvik etti.
Sonuçlar mali kaybın ötesine uzanmaktadır. Mağdurlar kanıta dayalı tedavileri etkisiz veya zararlı alternatifler lehine geciktirebilirler.
Araştırmacılar, sahte kanser tedavilerini veya onaylanmamış ilaçları teşvik eden derin yaprakların, özellikle sınırlı sağlık hizmeti erişimi olan popülasyonlar arasında sağlık eşitsizliklerini şiddetlendirebileceğini belirtiyor.
Ayrıca, bu tür içeriğin çoğalması, Covid-19 pandemi sırasında artan telehealth ve çevrimiçi tıbbi kaynaklara olan güveni zayıflatır.
Tespit ve azaltma stratejileri
AI tarafından üretilen içerik daha sofistike büyürken, uzmanlar hem teknik inceleme hem de politika reformları yoluyla uyanıklık önermektedir. Anahtar kırmızı bayraklar şunları içerir:
- Sesle senkronize olmayan eşleşmeyen dudak hareketleri.
- Robotik veya aşırı cilalı vokal desenleri.
- Bulanık kenarlar veya ani aydınlatma kaymaları gibi görsel aksaklıklar.
- “Mucize Tedavi” veya “Garantili Sonuçlar” gibi hiperbolik iddialar.
- Az sayıda takipçisi, minimum geçmiş veya tutarsız gönderiye sahip hesaplar.
Sosyal medya kullanıcıları, “doktor onaylı” ürünleri, özellikle minimal takipçilere veya şüpheli etkinliklere sahip yeni profilleri tanıtan hesapları incelemelidir.
Sistemik düzeyde, platformları AI tarafından üretilen medya için daha katı içerik denetimi ve etiketleme gereksinimlerini zorlamaya teşvik eder.
AB’nin Dijital Hizmetler Yasası ve DeepFakes Hesap Verebilirlik Yasası gibi ABD mevzuatı önerdi, ancak uygulama parçalanmış olmasına rağmen.
Yüz mikro ifadelerini veya ses kadansını analiz eden AI güdümlü algılama araçları gibi teknolojik çözümler de sentetik içeriği gerçek zamanlı olarak işaretlemek için geliştirilmektedir.
Halk eğitimi çok önemlidir. New Mexico’nun Deepfake okuryazarlık kampanyaları ve Avustralya’nın telehealth yönergeleri gibi girişimler, DSÖ veya hakemli dergiler gibi akredite kaynaklar aracılığıyla sağlık iddialarının doğrulanmasını vurgulamaktadır.
ESET Siber Güvenlik Danışmanı Jake Moore’un belirttiği gibi, “Dijital okuryazarlık artık isteğe bağlı değil-AI odaklı sömürüye karşı bir cephe savunması.”
Deepfake tıbbi dolandırıcıların yükselmesi, işbirlikçi eylem için acil bir ihtiyacın altını çiziyor.
Yapay zeka sağlık hizmetleri için dönüştürücü potansiyele sahip olsa da, silahlanması, hem bireysel hem de kolektif refahı korumak için düzenleyici çerçevelerden halkın farkındalığına eşit derecede yenilikçi önlemler gerektirir.
Bu haberi ilginç bul! Anında güncellemeler almak için bizi Google News, LinkedIn ve X’te takip edin!