York St John Üniversitesi’ndeki veri bilimcilerden oluşan bir ekip, yanlış bilgileri ve diğer siber kötülükleri yaymak için kullanılan derin sahte görüntüleri tespit etmek ve insanları uyarmak için tasarlanmış son teknoloji ürünü bir aracı tanıttı.
Essex Üniversitesi’ndeki meslektaşların ve Colchester merkezli Nosh Technologies’deki geliştiricilerin desteğiyle oluşturulan Pixelator v2 aracı, görüntülerdeki ince farkları eskisinden çok daha yüksek bir doğrulukla tanımlamak için daha önce hiç denenmemiş görüntü doğruluğu teknikleri kombinasyonunu kullanıyor. Testlerde, boyutu tek bir piksel kadar küçük olan değişimleri tespit edebildiği gösterilmiştir.
Pixelator v2’nin arkasındaki ekip, bunun doğruluk konusunda en çok ihtiyaç duyanlar, özellikle de siber güvenlik uzmanları, analistler ve araştırmacılar için değerli bir kaynak olacağını umuyor.
York St John’da veri bilimi öğretim görevlisi olan baş araştırmacı Somdip Dey, “Görüntülerin iletişime hakim olduğu bir çağda, görsel özgünlüğü anlama yeteneği hiç bu kadar kritik olmamıştı” dedi.
Dey’in ekibine göre, sahte görselleri tespit etmek için kullanılan standart araçlar, görsellerdeki ince ama kritik değişiklikleri açıklamakta genellikle başarısız oluyor. Pixelator v2, iki yeni ölçümü (LAB (CIE-LAB) Renk Alanı Analizi ve Sobel Kenar Tespiti) entegre ederek bunlardan farklılık gösteriyor; bu da onun, çok küçük olanları bile tanımlama konusunda daha “sağlam ve incelikli” bir yaklaşım sunmasını sağlıyor.
LAB Renk Alanı Analizi, insan görüşünü taklit eden algısal bir renk modelidir ve Pixelator v2’nin çıplak gözle hemen görülemeyen farklılıkları tespit etmesine olanak tanır. Bu arada Sobel Kenar Tespiti, görüntülerdeki, bir insan gözlemcinin de gözden kaçırabileceği, kenarlarda ve sınırlarda neredeyse algılanamayan değişiklikleri içerebilecek yapısal farklılıkları vurgulamak için tasarlandı.
Dey, bu iki tekniğin birleştirilmesinin, aracı siber güvenlik uygulamaları için ideal hale getirdiğini, görüntüleri hızlı ve doğru bir şekilde karşılaştırma yeteneğinin, kurcalama tespiti, kimlik doğrulama ve analiz gibi bir dizi görevde önemli bir rol oynadığını söyledi.
Pixelator v2’yi diğer popüler yöntemlerle karşılaştıran ekip, algısal ve yapısal farklılıkları tespit etme konusunda üstün performansını açıkça ortaya koyduğunu söyledi. Aracın yalnızca daha doğru görüntü karşılaştırması sağlamakla kalmayıp, aynı zamanda ince varyasyonların ağdan sızmasını zorlaştırarak genel güvenliği de artırdığına inanıyorlar.
Sonraki adımlar
Son derece gerçekçi görüntüler oluşturabilen üretken yapay zeka (GenAI) araçlarının ortaya çıkışı ve bunların ilerleyen yetenekleri göz önüne alındığında Dey, ekibin gerçek ve yapay zeka tarafından oluşturulan içerik arasında ayrım yapmanın giderek zorlaştığının bilincinde olduğunu söyledi.
Ekip, Pixelator v2’nin bu sorunu çözmeye yönelik önemli bir adım olabileceğini, çünkü görüntülerin algısal olarak nasıl farklılaştığına dair bilgimizi artırarak, yapay zeka tarafından oluşturulan görüntüleri tespit etmeye odaklanan gelecekteki projelerin temelini oluşturduğunu söyledi.
“Bu araç, yapay zeka tarafından oluşturulan sahte görüntüleri tespit etmek ve tahmin etmek için teknoloji geliştiren daha geniş bir misyona doğru atılmış bir adımdır. Üretken yapay zeka yaygınlaştıkça Pixelator v2 gibi araçlar, tüketicilerin ve profesyonellerin gerçeklik ile uydurma arasındaki ince çizgide gezinmelerine yardımcı olmak açısından hayati önem taşıyor” dedi Dey.
York St John araştırma ekibi, Pixelator v2’nin GenAI tabanlı görüntüleri tespit etme ve tahmin etmeye yönelik yeteneklerini genişletmek için projenin bir sonraki aşaması üzerinde halihazırda aktif olarak çalışıyor. Batı Avrupa’daki aşırı sağ aktörler, göçmenlik hakkında yanlış bilgi yaymak için zaten yapay zeka tarafından üretilen görüntüleri silah haline getirdiğinden, bu ihtiyaç günümüzde de mevcuttur; bu ayın başlarında ABD’deki Pensilvanya’daki özel bir okul, genç bir öğrencinin yarattığı bir skandalla sarsılmıştı. kadın sınıf arkadaşlarının deepfake çıplak görüntüleri.
Ekibin tüm bulguları Kasım ayının başlarında MDPI’nin açık erişiminde yayınlandı. Elektronik günlük ve buradan okunabilir; Pixelator v2 aracı ise GitHub’dan indirilebilir.