Google, yapay zeka tarafından oluşturulan görselleri tanımlayan ve filigranlayan bir araç olan SynthID’nin beta sürümünü piyasaya sürüyor.
Araç, başlangıçta Google’ın metinden görseller oluşturmaya yönelik bulut tabanlı yapay zeka modeli Imagen’i kullanan sınırlı sayıda müşteriye sunulacak.
Google SynthID, yapay zeka tarafından oluşturulan görsellere filigran yerleştirir
Filigranlar genellikle telif hakkı sahipliğini göstermek için kullanılır, ancak bunlar yaygın resim düzenleme araçlarıyla kolayca kesilebilir veya düzenlenebilir.
SynthID, Imagen ile oluşturulan bir görüntünün piksellerine doğrudan bir dijital filigran yerleştirir, böylece onu insan gözüyle görünmez, ancak belirli bir yazılım kullanılarak algılanabilir hale getirir.
Google’ın araştırmacıları, “SynthID’yi, görüntü kalitesinden ödün vermeyecek ve filtre ekleme, renkleri değiştirme ve çeşitli kayıplı sıkıştırma şemalarıyla kaydetme gibi değişikliklerden sonra bile filigranın algılanabilir kalmasına izin verecek şekilde tasarladık (en yaygın olarak JPEG’ler için kullanılır),” dedi.
Araç, çeşitli görüntüler üzerinde eğitilmiş iki derin öğrenme modelini kullanıyor. Biri fark edilemeyen bir filigran ekler ve diğeri, üç güvenlik seviyesi görüntü tanımlaması sağlayarak Imagen ile bir görüntünün oluşturulma olasılığını belirler.
Kaynak: Google DeepMind
Bir görüntü dosyasını kimin ve ne zaman oluşturduğuna ilişkin ayrıntıları saklayan veriler olan meta veriler de tanımlama için yaygın olarak kullanılsa da, düzenleme sırasında değiştirilebilir veya kaybolabilir. Görüntü piksellerine entegre edilen SynthID filigranı, meta veriler eksik olsa bile tespit edilebilir kalır.
Güvenli yapay zekaya doğru bir yarış
“SynthID, aşırı görüntü manipülasyonlarına karşı kusursuz değildir, ancak insanların ve kuruluşların yapay zeka tarafından oluşturulan içerikle sorumlu bir şekilde çalışmasını desteklemek için umut verici bir teknik yaklaşım sağlar. Araştırmacılar, bu aracın aynı zamanda ses, video ve metin gibi görselliğin ötesinde diğer yapay zeka modelleri ve yöntemleriyle birlikte gelişebileceğini belirtti.
Google, yakın gelecekte diğer yapay zeka modellerine genişletilebileceğine, daha fazla Google ürününe entegre edilebileceğine ve üçüncü tarafların kullanımına sunulabileceğine inanıyor.
Şirket daha önce Amazon, Anthropic, Inflection, Meta, Microsoft ve OpenAI gibi diğer ABD yapay zeka devleriyle birlikte güvenli, şeffaf ve etik yapay zeka teknolojisi geliştirme konusunda kamuya açık bir taahhütte bulunmuştu. Taahhüt ettikleri şeylerden biri, “Yapay zeka tarafından oluşturulan işitsel veya görsel içerik için güçlü kaynak, filigran veya her ikisi de dahil olmak üzere, kullanıcıların sesli veya görsel içeriğin yapay zeka tarafından üretilip üretilmediğini anlamalarını sağlayan mekanizmalar geliştirmek ve dağıtmaktır.”