Masum bir trend olarak başlayan şey-selfie’leri sevimli “Studio Ghibli tarzı AI görüntüleri” haline getirmek-şimdi uğursuz bir dönüş yaptı. Bir zamanlar sanatsal yaratıcılık için kutlanan AI ile çalışan araçlar, şimdi sahte kimlikler hazırlamak, belgeleri dövmek ve dijital dolandırıcılık planlamak için manipüle ediliyor. Bu bilim kurgu değil. Şu anda oluyor ve Hindistan zaten dalgalanma etkilerini hissediyor. Chatgpt ve görüntü jeneratörleri gibi AI araçları kamu hayal gücünü yakaladı.
Ancak çoğu kullanıcı bunları üretkenlik ve eğlence için keşfederken, siber suçlular aldatma potansiyellerini tersine mühendislik ettiler. Metin tabanlı AI istemlerini görüntü manipülasyonu ile birleştirerek, dolandırıcılar şok edici derecede gerçekçi sahte kimlikler-özellikle Aadhaar ve Pan kartları üretiyorlar.
AI yakıtlı dolandırıcıların yükselişi
İsim, doğum tarihi ve adres gibi minimal detayları kullanarak, saldırganlar resmi kimlik belgelerinin mükemmel bir kopyalarını üretebildiler. X (eski adıyla Twitter) gibi sosyal medya platformları örneklerle doludur. Bir kullanıcı, Yaswanth Sai Palaghat, alarm zillerini yükseltti,
“Chatgpt anında sahte Aadhaar ve Pan kartları üretiyor, bu da ciddi bir güvenlik riski. Bu yüzden AI bir dereceye kadar düzenlenmelidir.”
Başka bir kullanıcı olan Piku, ürpertici bir vahiy paylaştı:
“AI’dan sadece bir isim, doğum tarihi ve adres içeren bir Aadhaar kartı oluşturmasını istedim… ve neredeyse mükemmel bir kopya yarattı. Şimdi herkes sahte bir versiyon yapabilir… veri gizliliğini tartışıyoruz, ancak bu Aadhaar ve Pan kartı veri kümelerini bu tür modelleri geliştirmek için kim satıyor?”
AI araçları gerçek kişisel bilgileri kullanmasa da, formatları, yazı tiplerini ve düzen stillerini taklit ettikleri doğruluk, gerçek dünya verilerine maruz kaldıklarını-muhtemelen kamu sızıntıları veya açık kaynaklı eğitim materyalleri yoluyla. Airoli Aadhaar olayı, bu tür işlemler için bir şablon sağlayabilecek önemli bir örnektir.
Bilgisayar korsanları ayrıca bu dijital sahtekarları atılan kağıtlardan, eski yazıcılardan veya e-atık çöplüklerinden temizlenmiş gerçek verilerle birleştiriyor. Sonuç? Temel doğrulamayı geçebilen tüm sahte kimlikler – SIM kart sahtekarlıklarına, sahte banka hesaplarına, kiralık dolandırıcılıklara ve daha fazlasına yönelik.
Bırakın Lavabo: Anime tarzı selfies üreten aynı araçlar artık kimlik hırsızlığı yapmak için silahlandırılıyor.
Viral shreya ghoshal “sızıntı”
Belge sahtekarlığı endişe verici olsa da, yanlış bilgi ve kimlik avı kampanyaları benzer karmaşıklıkla gelişiyor. Geçen hafta, Hint İnternet, popüler oynatma şarkıcısı Shreya Ghoshal’ı içeren sözde “sızıntı” ile şaşkındı. Hayranlar, mahkeme salonu tartışmalarına ve kariyer biten anlara işaret eden manşetlerle sersemletildi. Ama hepsi sahte idi.
Siber istihbarat analisti Anmol Sharma’ya göre, sızıntı asla gerçek değildi – bu bir bağlantıdı. Sharma, viral içeriğini, ReplainYourfupset.run ve faragonballz.com gibi haber kuruluşları olarak poz veren yeni oluşturulan Scam web sitelerine izledi.
“Bu web siteleri güvenilir haber kaynakları gibi görünecek ancak aslında insanları kimlik avı sayfalarına ve gölgeli yatırım dolandırıcılığına yönlendiriyorlardı” diye açıkladı.
Bu siteler güvenilir medya düzenlerini taklit etti ve duygusal tepkileri uyandırmak için AI tarafından üretilen Ghoshal görüntülerini parmaklıklar veya gözyaşları içinde kullandı. Amaç? Kişisel verileri çalan veya Lovarionix likiditesi gibi sahte markalar altında kripto dolandırıcılığını iten kötü niyetli alanlara trafik çekmek için.
Sahte doktorlar, gerçek ölümler
Daha da üzücü bir durumda, İngiltere merkezli ünlü kardiyolog Dr. N John Camm, Madhya Pradesh’teki saygın bir hastanede 15’ten fazla kalp ameliyatı yaptı. Narendra Yadav olarak tanımlanan taklitçi, Damoh’daki Mission Hastanesi’nde hem de hastaları kandırdı ve Aralık 2024 ile Şubat 2025 arasında birden fazla hasta ölümüne yol açtı.
Resmi kayıtlara göre, Yadav’ın eylemleriyle en az iki ölüm ilişkilendirildi. Nabi Qureshi ve Jitendra Singh de dahil olmak üzere kurbanların aileleri, agresif ameliyatları ve yok olan doktorları içeren yürek parçalayan deneyimleri anlattılar.
Dava halen soruşturma altında olsa da, dijital taklit etmenin-muhtemelen sahte kimlik bilgilerinin veya manipüle edilmiş belgelerin desteklendiği ve çevrimdışı olarak alınabileceğini ve gerçek dünyaya zarar vermeye neden olabileceğini vurgulamaktadır.
Gizlilik bilincine sahip AI kullanımına ihtiyaç
AI’nın artan kötüye kullanımı siber güvenlik uzmanları arasında endişe yarattı. Ronghui Gu, kurucu, Certik uyarıyor:
“Kullanıcılar, özellikle yüz görüntüleri gibi biyometrik bilgileri paylaşmak söz konusu olduğunda, AI tabanlı görüntü jeneratörlerine sağlıklı bir dikkat seviyesine yaklaşmalıdır. Bu platformların birçoğu modellerini eğitmek için kullanıcı verilerini saklar ve şeffaf politikalar olmadan, görüntülerin üçüncü taraflarla yeniden tasarlandığını veya paylaşılıp paylaşılmadığını bilmenin bir yolu yoktur.”
Uyarı görüntü verilerinin ötesine uzanır. Yapay zeka araçları günlük uygulamalara daha fazla entegre hale geldikçe – yerleşik süreçlerden doğrulamaya kadar – özellikle zayıf veri yönetişimi olan yargı alanlarında kötüye kullanım riski.
Ronghui Gu, kullanıcılara şunları önerir:
- Veri yüklemeden önce gizlilik politikalarını iyice inceleyin.
- Yüksek çözünürlüklü veya tanımlanabilir görüntüleri paylaşmaktan kaçının.
- Takma adlar veya ikincil e -posta adresleri kullanın.
- Platformun GDPR veya CCPA gibi veri koruma yasalarına uygun olduğundan emin olun.
Ronghui Gu, “Gizlilik bilincine sahip kullanım, proaktif bir yaklaşım ve kolaylığın asla kişisel veriler üzerinde kontrol pahasına gelmemesi gerektiğine dair bir anlayış gerektiriyor” dedi.
Bir HiddenLayer raporu bunu güçlendirerek AI kullanan şirketlerin% 77’sinin zaten güvenlik ihlalleriyle karşılaştığını ve potansiyel olarak hassas müşteri verilerini ortaya çıkardığını ortaya koyuyor. Paket servisi mi? AI araçlarının meşru kullanımı bile gizli riskler taşır – özellikle arka uç sistemleri güvenli değilse.
Yeni bir siber suç yaşı – bir selfie aldatmacaya başladığında
Eğlenceli AI tarafından üretilen sanat olarak başlayan şey, şimdi sahtekarlık, kimlik hırsızlığı ve yanlış bilgilendirme için kaçırılıyor. Güç yaratıcılığının aynı araçlar şimdi kaos güçlendiriyor ve siber suçlular gün geçtikçe daha akıllı hale geliyor.
Hindistan’ın dijital ekosistemi bu AI güdümlü dolandırıcılıklar için sıfır haline geliyor. Ve en korkunç kısım? Bu sadece başlangıç.
Daha karanlık kenarını görmezden gelirken teknolojiye hayret edemeyiz. Düzenleyiciler dudak hizmetinin ötesine geçmelidir. Teknoloji şirketleri sorumlu tutulmalıdır. Ve siber güvenlik profesyonellerinin üretken yapay zekayı bir yenilik olarak değil, gerçek bir tehdit vektörü olarak ele almaları gerekir.
Çünkü bu dönemde, bir selfie kadar zararsız bir şey bile silahlandırılabilir.
Ve eğer şimdi dikkat etmiyorsak, olanlar tarafından geçeceğiz.
İlgili
Medya Feragatnamesi: Bu rapor, çeşitli yollarla elde edilen iç ve dış araştırmalara dayanmaktadır. Sağlanan bilgiler yalnızca referans amaçlıdır ve kullanıcılar buna güvenmeleri için tam sorumluluk taşırlar. Cyber Express, bu bilgileri kullanmanın doğruluğu veya sonuçları konusunda hiçbir sorumluluk kabul etmez.