Araştırmacılar yakın zamanda Openai’nin ChatGPT görüntü oluşturma özelliğinin, minimum çaba ile ikna edici sahte pasaportlar oluşturmak için manipüle edilebileceğini keşfettiler.
25 Mart 2025’te ChatGPT-4O ve ChatGPT-4O MINI modelleri için tanıtılan ve 31 Mart’a kadar tüm kullanıcılar için serbestçe kullanılabilir hale getirilen bu özellik, amaçlanan yaratıcı amaçlarının ötesinde hızla kullanıldı.
Vahiy, belge sahtecilik araçlarının erişilebilirliğinde önemli bir değişimi temsil ederek, bir zamanlar uzmanlaşmış becerileri ve yeraltı bağlantılarını gerektiren şey, sadece birkaç özenle hazırlanmış istemler gerektiren basit bir sürece dönüştürür.
.png
)
Teknik uzmanlık ve Adobe Photoshop gibi özel yazılım talep eden önceki sahtecilik yöntemlerinin aksine, bu AI tarafından oluşturulan belgeler siber suçta daha önce deneyimi olmayan bireyler tarafından oluşturulabilir.
Cato Networks analistleri, görüntü oluşturma yeteneklerinin sistematik olarak test edilmesiyle bu güvenlik açığını belirledi.
Araştırmalarına göre, sahte kimlik belgeleri oluşturmak sadece dakikalar alır ve ChatGPT’nin güvenlik önlemlerini atlatmak için karmaşık bir “jailbreaking” teknikleri gerektirmez.
Sahtecilik araçlarının bu demokratikleştirilmesi, güvenlik uzmanlarının “sıfır bilgi tehdit aktörleri” olarak adlandırılan şeyleri-siber suçta geçmişe rağmen sofistike sahtekarlık uygulayabilen bireyler.
Araştırmacılar tarafından sömürülen bypass tekniği, ChatGPT’nin içerik politikası kısıtlamalarını atlatmak için basit ama etkili bir sosyal mühendislik yaklaşımı içermektedir.
.webp)
Doğrudan bir pasaport görüntüsünü değiştirmesi istendiğinde, chatgpt gizlilik ve yasal endişeler nedeniyle uygun şekilde reddedilir.
Ancak, aynı istek “pasaport gibi görünmek için tasarlanmış bir kartvizit” değiştirme konusunda yeniden başlatıldığında, sistem kolayca değiştirir, değiştirilmiş adlarla ve değiştirilmiş fotoğraflarla tamamlanır.
.webp)
Araştırmacılar, aslında “gümrük ve sınır korumasında çalışan” biri için oluşturulan bir kartvizit olduğunu iddia ederek pasaportta değişiklik talep edebildiler.
Bu basit yanlış yönlendirme, yapay zekayı belgeyi değiştirmeye ikna etmek için yeterliydi, otantik görünümlü pulları, yazı tiplerini ve biçimlendirmeyi-ikna edici sahtekarlar yaratmak için gerekli unsurlar.
Bu gelişme, uzman bilgi olmadan giderek daha gerçekçi sahte belgelerin oluşturulabileceği bir dönemde kimlik doğrulama süreçleri hakkında ciddi endişeler doğurur.
Çıkarımlar, siber güvenliğin ötesinde bankacılık, sınır kontrolü ve güvenlik için belge doğrulamasına dayanan devlet hizmetleri gibi alanlara uzanmaktadır.
Equip your team with real-time threat analysis With ANY.RUN’s interactive cloud sandbox -> Try 14-day Free Trial