Bir yapay zeka görüntüsü WIRED tarafından incelenen yeni araştırmaya göre, jeneratör girişimi, sistemleriyle oluşturulan 1 milyondan fazla görüntü ve videoyu çevrimiçi olarak herkese açık ve erişilebilir halde bıraktı. Ortaya çıkan veri hazinesini ortaya çıkaran araştırmacıya göre, görüntülerin “ezici çoğunluğu” çıplaklık içeriyordu ve “yetişkinlere yönelik içerik tasvir ediyordu”; bazıları çocukları veya çocukların yüzlerini yapay zeka tarafından oluşturulan çıplak yetişkinlerin vücutlarına yerleştirilmiş olarak tasvir ediyor gibi görünüyordu.
Ekim ayında güvenlik kusurunu keşfeden güvenlik araştırmacısı Jeremiah Fowler, MagicEdit ve DreamPal dahil olmak üzere birden fazla web sitesinin hepsinin aynı güvenli olmayan veritabanını kullanıyor gibi göründüğünü söylüyor. O zamanlar Fowler, veritabanına her gün yaklaşık 10.000 yeni görselin eklendiğini söylüyor. İnsanların görüntü oluşturma ve düzenleme araçlarını nasıl kullandıklarını gösteren bu görüntüler, rızası olmadan “çıplaklaştırılmış” veya yüzleri başka çıplak vücutlara değiştirilmiş gerçek kişilerin “değiştirilmemiş” fotoğraflarını içeriyordu.
Bulguları ExpressVPN blogunda yayınlayan üretken veritabanları avcısı Fowler, “Asıl sorun masum insanların, özellikle de reşit olmayan kişilerin, görsellerinin kendi rızaları olmadan cinsel içerik oluşturmak için kullanılmasıdır” diyor. Fowler, bunun, bu yıl çevrimiçi olarak erişilebilir bulduğu üçüncü yanlış yapılandırılmış yapay zeka görüntü oluşturma veritabanı olduğunu söylüyor; bunların tümü, gençlerin ve çocukların görüntüleri de dahil olmak üzere, rızaya dayalı olmayan müstehcen görüntüler içeriyor gibi görünüyor.
Fowler’ın bulguları, yapay zeka görüntü oluşturma araçlarının kötü niyetli olarak insanların açık görüntülerini oluşturmak için kullanılmaya devam etmesiyle ortaya çıktı. Milyonlarca insan tarafından kullanılan ve yılda milyonlarca dolar kazandıran devasa bir “çıplaklaştırma” hizmetleri ekosistemi, fotoğraflardaki insanların (neredeyse tamamı kadınların) kıyafetlerini “soymak” için yapay zekayı kullanıyor. Sosyal medyadan çalınan fotoğraflar sadece birkaç tıklamayla düzenlenebiliyor; bu da kadınlara yönelik üzücü taciz ve tacizlere yol açıyor. Bu arada, suçluların yapay zekayı kullanarak çocukların dahil olduğu çeşitli uygunsuz görüntüleri içeren çocuk cinsel istismarı materyalleri oluşturduğuna dair raporlar geçen yıl iki katına çıktı.
MagicEdit ve DreamPal’ı işleten DreamX adlı yeni girişimin sözcüsü, “Bu endişeleri son derece ciddiye alıyoruz” diyor. Sözcü, SocialBook adı verilen veri tabanına bağlı bir influencer pazarlama firmasının “ayrı bir tüzel kişilik tarafından yönetildiğini ve diğer sitelerin işleyişine dahil olmadığını” söyledi. Sözcü, “Bu varlıklar, kurucular ve eski varlıklar aracılığıyla bazı tarihsel ilişkileri paylaşıyor, ancak ayrı ürün gruplarıyla bağımsız olarak çalışıyorlar” dedi.
Bir SocialBook sözcüsü WIRED’e “SocialBook, referansta bulunduğunuz veritabanına bağlı değil, bu depolamayı kullanmıyor ve hiçbir zaman onun işleyişine veya yönetimine dahil olmadı” dedi. “Referans alınan görseller SocialBook’un sistemleri tarafından oluşturulmadı, işlenmedi veya saklanmadı. SocialBook bağımsız olarak çalışıyor ve açıklanan altyapıda hiçbir rolü yok.”