Artık AI gerçek görünen sahte görüntüler yapabilir, neyin meşru olduğunu ve neyin olmadığını nasıl bilebiliriz? Birincil yollardan biri, savunma filigranının kullanımı olmuştur, bu da yapay zeka oluşturulan görüntülere görünmez belirteçlerin uydurulduğunu göstermek için yerleştirilmesi anlamına gelir. Şimdi, araştırmacılar bu teknolojiyi kırdılar.
Üretici AI sadece e -posta yazmak veya tarifler önermek için değildir. Tüm görüntüleri sıfırdan üretebilir. Çoğu insan bunu eğlenmek (köpeğinizin karikatürleri yapmak) veya pratiklik (bir ahşap işleme projesi öngörmek) için kullanırken bazıları sorumsuzca kullanır. Bir örnek, gerçek içerik oluşturucuların içeriğine benzeyen (belirli bir sanatçı tarzında bir görüntü üreten) görüntüler oluşturmaktır.
Bir diğeri, kasıtlı veya kasıtsız olarak yanlış bilgi için kullanmaktır. Google araştırmacılarına göre, bu görüntü tabanlı yanlış bilgi AI destekli bir dünyada katlanarak büyüdü. Katy Perry’nin Met Gala’daki derin yaprak kalması ve Puffer Ceket Pope gibi yanlış bilgi oynak veya deneysel olabilir. Ancak aynı zamanda zararlı olabilir, gerçek insanları rıza göstermedikleri durumlara koyarak ideolojik, finansal veya diğer amaçlar için yanlış anlatılar oluşturur.
AI görüntü üretiminin ilk günlerinde insanlar sahte olanları kendileri tanıyabilirler. Yanlış sayıda parmaka sahip resimlerdeki insanlar, özellikle insanlar birbirine yakın resmedildiğinde, birbirine uymayan eller ve kollar gibi vücut parçaları gibi bir hediye idi. AI nesli daha iyi hale geldikçe, görüntülerdeki küçük tutarsızlıkları tespit etmek için programlara hala güvenebiliriz. Ancak bu sahte görüntüler her gün daha ikna edici oluyor.
Üretken AI şirketleri bunu durdurmak için harekete geçiyor. Openai, Google ve diğerleri şamandırayı AI tarafından üretilen görüntülerine yerleştirmeyi taahhüt ettiler. Bunlar, çıplak gözle görünmez ancak yazılım tarafından kolayca tespit edilebilen dijital parmak izleridir, bu da bir görüntünün AI tarafından üretildiğini ve bu nedenle gerçek olmadığını kanıtlar.
Şimdi, Kanada’daki Waterloo Üniversitesi’ndeki araştırmacılar bu savunma filigranını yıkmanın bir yolunu buldular. Üniversitenin Cheriton Bilgisayar Bilimleri Okulu’ndaki Andre Kassis ve Urs Hengartner, Unmarker adlı bir araç oluşturdu.
Unmarker bu filigranları görüntülerden kaldırarak filigran dedektörlerinin bir görüntünün yapay olarak üretildiğini belirlemesini imkansız hale getirir. Bilim adamları, aracın tüm filigran şemalarını yenerek evrensel olduğunu söylüyor. Bunlar, görüntünün yapısını değiştiren anlamsal filigranları içerir. Bunlar bir görüntüye daha derin gömülüdür ve geleneksel olarak karşı koymak daha zordur.
Araç, filigran aletleri için iki temel ihtiyaçtan yararlanır. Birincisi, görüntünün kalitesini düşürmemeleri gerektiğidir. İkincisi, kırpma gibi manipülasyona karşı bağışık olması gerektiğidir. Bu, filigranların bir görüntüyü nasıl değiştirebilecekleri konusunda kısıtlandığı anlamına gelir. Resimdeki piksellerin yoğunluğunu değiştirmeye odaklanmak zorundalar.
Bu gerçeğe dayanarak, Kassis ve Hengartner’ın aracı, bir şeyin olağandışı olup olmadığını görmek için bir görüntüdeki piksellerin sıklığını analiz eder. Bir anormallik bulursa, bunu bir filigranın olduğuna dair bir işaret olarak kullanır. Daha sonra bir filigran dedektörü tetiklemeyecek şekilde piksel frekansını görüntü boyunca yeniden düzenler.
Araştırmacıların halka açık bir şekilde yayınladığı Unmarker, AI algoritmasının dahili çalışmalarına erişmeden çalışır. Çalışmak için başka verilere de ihtiyacı yok, ekliyorlar. Bu bir ‘kara kutu’ mekanizması. Sadece bir filigran silgi olarak çalıştırabilirsiniz.
Mükemmel değil, ancak semantik filigranlarda bile en iyi algılama oranını%43’e düşürüyor. Bu, algılama aracının sonuçlarına güvenemeyeceğiniz anlamına gelir.
Araştırmacılar makalelerinde, “Bulgularımız savunma filigranının derin yapraklara karşı uygun bir savunma olmadığını gösteriyor ve toplumu alternatifleri keşfetmeye çağırıyoruz” dedi.
Böylece yanlış bilgilendirme savaşı savaşı devam ediyor. Şimdi filigran tasarımcılarına ante’yi yükseltmek veya derin dişleri işaretlemek için başka bir yöntem geliştirmek. Bu kedi ve fare oyununun bitmeyeceğinden emin değiliz.
Sadece tehditler hakkında rapor vermiyoruz, onları kaldırıyoruz
Siber güvenlik riskleri asla bir başlığın ötesine yayılmamalıdır. Bugün MalwareBebytes’i indirerek tehditleri cihazlarınızdan uzak tutun.