Üretken yapay zekadaki (AI) son gelişmeler, gerçek olan ve olmayan arasındaki farkı bilmeyi giderek zorlaştırıyor. Gerçek görünmek için tasarlanmış, sadece derin dişler olarak bilinen bilgisayar tarafından oluşturulan klipler, sadece gerçekliği çarpıtmakla kalmaz, aynı zamanda kurbanlarının itibarlarını yok etmek ve daha da kötüsü, sosyal huzursuzluğu teşvik etmek için kullanılabilir. Ama bu konuda ne yapabiliriz?
Ünlüler, sıradan insanlar ve güven erozyonu
Haberleri düzenli olarak takip eden herkes, derin dişlerin sadece ünlüleri ve politikacıları hedeflediğini düşündüğü için affedilebilir. Gerçek şu ki, kötü niyetli aktörler, sıradan insanlar hakkında da taciz etmek, korkutmak ve yanlış bilgiyi yaymak için sahte içerik üretiyorlar. Aslında, sahte medya bir Taylor Swift veya Donald Trump’ın ekonomik veya sosyal araçlarına sahip olmayan bir kişiye saldırdığında, bu gerçek bir sorundur. Örneğin, Güney Kore’deki kadınlar son zamanlarda Deepfake pornografisinde bir artışa karşı protesto etmek için sokaklara çıktı. Ulusal Polis Ajansı, gerçek kadın ve kızların yüzlerinin bilgi veya rızası olmadan dijital olarak bir organa bindirildiği yüzlerce vakayı araştırıyor. İspanya’da, bir mahkeme, 11 yaşından küçük kızların derin bir müjek pornografisini yaratma ve yayma için 15 okul çocuğu hapis cezasına çarptırdı. Bunun gibi hikayeler dünyanın bir yerinde her zaman meydana geliyor. Son zamanlarda bir BM konferans panelindeydim ve Orta Doğu’dan bir gazeteci bir derinlikle ilgili deneyiminden bahsediyordu ve onu itibarsızlaştırmak için patronuyla yanlış tasvir edildi. Deneyim hem kendisine hem de ailesine ağır bir ücret ödedi.
Ve bireyler üzerindeki etkiler yıkıcı olsa da, derin hasatlar toplum için daha geniş bir tehdit oluşturur. MIT Technology Review’a göre, DeepFakes “hisse senedi fiyatlarından seçimlere kadar her şeyi etkilemek isteyen sahte haberlerin tedarikçileri için mükemmel bir silahtır”. Dünya Ekonomik Forumu’nun küresel risk raporu sahte medyayı en zararlı zorluklarımızdan biri olarak tanımlamaktadır. WEF’e göre, dezenformasyonun çoğalması sadece dijital platformlarda değil, aynı zamanda kurumlarda da güveni aşındırdı. Örneğin, bir STK tanık için, insanların insan haklarını savunmak için bir araç olarak video kullanmalarına yardımcı olma görevlerini tehdit ediyor.
Aslında, dijital olarak değiştirilmiş medyanın kötüye kullanılmasının, siyasi aşamayı etkilemek için bir yanlış bilgi kampanyası veya nefret söylemi ve suç faaliyetinin bölünmeye teşvik edilmesi yoluyla sosyal huzursuzluk durumuna neden olabileceği konusunda artan bir endişe vardır.
Deepfes ve dengesiz bir jeopolitik aşama
Yüksek jeopolitik istikrarsızlık zamanlarında yaşıyoruz. Çatışmalar bölgeler arasında patlıyor, ekonomik krizler derinleşiyor, siyasi kutuplaşma artıyor, uluslar hem fırsat hem de risk getiren teknolojik ilerlemelerin hızlı temposu ile boğuşuyor ve iklim değişikliğinin etkileri yukarıdakilerin hepsini daha da kötüleştiriyor. Ve tehdidi kontrol etmek için standart eksikliği ile, kötü tehdit aktörleri için büfe yiyebileceğiniz bir şey.
İyi haber, AI ve multimedya özgünlüğü üzerinde bir standart işbirliğidir ve bu yılın başlarında Cenevre’deki Global AI için Global AI Zirvesi’nde başlatılmıştır. Uzmanlar, üretken yapay zekanın potansiyel toplumsal etkilerini ve yanlış bilgilendirme yayılması için AI’nın kötüye kullanımını ele alma ihtiyacını vurguladılar.
Şahit, derin kalıntılar ve üretken yapay zekayı tespit etmek için standartları – uluslararası olarak kabul edilen en iyi uygulamalar – uygulamak için kaydolan bir dizi kuruluştan biridir. Üç uluslararası standart kuruluşunun önderliğinde IEC, ISO ve ITU, İttifak çok çeşitli paydaşların içgörülerini ve uzmanlığını kullanıyor. Big Tech, Adobe ve Microsoft’un beğenileriyle temsil edilmektedir. Katılan diğer kuruluşlar arasında Alman Araştırma Enstitüsü, Frauenhofer ve Çin merkezli teknoloji odaklı bir düşünce kuruluşu olan Caict ve kimlik doğrulama uzmanları, veri truetleri ve derin medya bulunmaktadır.
Neden? Çünkü standartlar, dijital alanı korumak ve güveni yeniden inşa etmek için çalışabilmek için güvenceler oluşturabilir, böylece haberlere bakabilir ve ona güvenip güvenemeyeceğimizi anlayabiliriz. Ve, güven kırıldığı ve doğal insan savunmalarımızın yeterli görünmediği bir dünyada, standartlar gördüğümüz ve duyduğumuzu bağlamsallaştırarak güvenimizi yeniden kurmaya yardımcı olabilir.
İyi bir örnek, yakın zamanda Elvis Presley’in modern bir ortamda şarkı söyleyen hiper gerçekçi bir videosunu yorumlayan Deep Media’nın örneğidir. Video viral olmasına rağmen, videonun özgünlüğüne inanma şansı hiçbiri zayıf. Deep Media, yaratıcı ifade için kapılar açarken, kullanılan teknolojilerin yanlış bilgi ve itibar hasarı riskleri de taşıdığını kaydetti. Derin dişleri tespit edebilmek, bütünlüğü ve güveni korumak için çok önemlidir.
Tüm sahte medya kötü değil
AI için İyi Zirve, İçerik Orijinallik Girişimi (CAI), İçerik Provenans ve Orijinallik Koalisyonu (C2PA), IETF, IEC, ISO, ITU ve JPEG de dahil olmak üzere çeşitli kuruluşları bir araya getirdi. Yapay zeka filigran, multimedya özgünlük ve derin fenerek algılama teknolojileri için küresel standartlar geliştirmek için çok hendekli bir işbirliği üzerinde anlaştılar.
Tartışmalar, özellikle AI modellerini eğitmek için kullanılan verilerin provenansı konusunda AI’da şeffaflığın öneminin altını çizdi. Bu verilerin özgünlüğünü ve güvenilirliğini belirlemek, potansiyel önyargıları anlamak ve AI tarafından oluşturulan içeriğin doğruluğunu sağlamak için çok önemlidir. Üretken AI multimedya içeriğinin özgünlüğünü ve mülkiyetini doğrulayabilme yeteneği, dijital hakları korumak için gerekli olarak tanımlanmıştır.
Amaç, sahte medyayı durdurmak yerine tespit etmektir, çünkü sahte haberlerin karanlık dünyasından farklı olarak, sahte medyanın arkasındaki niyetler genellikle iyidir. ‘Sahte’ terimi herhangi bir manipüle edilmiş ortama uygulanabilir. Eğlence endüstrisi, örneğin gerçekçi özel efektler veya stüdyoda aktörlerle yapay doğal sahne üretimi yaratmak için yeni teknolojilerden büyük ölçüde yararlanıyor. Önde gelen kamu hizmeti yayıncılarının haber bültenleri için sanal stüdyoları kullandıkları ve set çoğu zaman bilgisayar tarafından oluşturulan veya video görüntüsüdür.
Yapay zeka ve üretken teknolojiler için standartlar
Çok aralıklı işbirliği, öncelikli alanlar ve teknik standartlar için gereksinimler için küresel bir forum sağlamayı amaçlamaktadır ve mevcut standartların manzarasını haritalamak ve yeni standartlara ihtiyaç duyulan boşlukları tanımlamak ve bilginin paydaşlar arasında paylaşılmasını kolaylaştırmayı amaçlamaktadır.
Bu girişimin, hükümet politika önlemlerini desteklemede, şeffaflığın sağlanmasında ve AI ve üretken teknolojilerin hızla gelişen alanında kullanıcıların ve içerik oluşturucuların haklarını korumada önemli bir rol oynaması beklenmektedir.
Ve biraz daha iyi haberler için, işbirliği üyeleri, kullanıcıların ve yaratıcıların medya içeriğine güvenebilmeleri için fotoğrafların ve videoların ‘etiketlenmesini’ ve kimlik doğrulamasını sağlayacak JPEG Trust olarak bilinen yeni bir standart oluşturdu. JPEG Trust, Ortak IEC, ISO ve ITU Ortak Fotoğraf Uzmanları Grubu (JPEG) tarafından geliştirilmiştir. Bu, dünyanın 30 yılı aşkın bir süredir her gün milyarlarca görüntü kullanmasını ve paylaşmasını sağlayan JPEG teknolojisinin arkasındaki uzman grubudur.
Yazar hakkında
Alessandra Sala, Uluslararası Elektroteknik Komisyonu için Multimedya Orijinallik İşbirliği Başkanı ve AI Direktörü ve Shutterstock’daki Veri Bilimi Direktörü.
Yapay zekada bir araştırma ve bilimsel lider olan Alessandra, IEC, ISO, ITU ve diğer standart organizasyonları bir araya getiren AI ve multimedya özgünlük işbirliğine başkanlık eder, derin hasat teknolojisine birleştirilmiş bir yanıt geliştirir, üretken AI’nın faydalarını kullanırken riskleri ele alır.
Alessandra ayrıca Shutterstock’un AI ve Veri Bilimi Kıdemli Direktörüdür. Alessandra, akademik ve ticari ortamlarda çalışırken kazanılan araştırma ve inovasyon konusunda 18 yılı aşkın deneyime sahiptir. Alessandra, inovasyonu araştırmadan ürünlere aktarma odağıyla gelişmiş analiz, makine öğrenimi ve hesaplama modellerinde tutkuludur.
Etik AI platformu için UNESCO Kadınların eş başkanı olan Alessandra, yapay zekada küresel bir etik yaklaşımı teşvik ederken kadınlar ve azınlıklar için çeşitlilik, dahil olma ve eşitliği teşvik etmek için güçlü bir kadın topluluğu ile birlikte çalışıyor. AI’da Küresel Kadınlar Başkanı (Küresel Topluma Çıkan Toplumsal Topluma Yardımcı Olan Toplumsal Toplumsal AI için Kâr Amacı Gütmeyen Kuruluş Do-Bank çalışmak) Alessandra, kadın ve azınlıkları güçlendiren 171 ülkeden AI ve Veri Uzmanları, Yenilikçiler ve Liderler haline gelme kadınlarından oluşan bir topluluğa liderlik ediyor. Bir danışma kapasitesinde Alessandra, Makine Öğrenimi Bilim Vakfı İrlanda Araştırma Merkezi’nde Yönetişim Komitesi Başkanı olarak da görev yapmaktadır.
Birkaç ödül arasında Alessandra, AI-Endüstriyel Araştırma kategorisinde 2024 Grace Hopper ve 2021 XV Uluslararası Ödülü “Le Tecno-Visionarie” kazandı. Önceki rolünde Alessandra, Nokia Bell Labs’ta Analytics Araştırma Başkanıydı ve burada Nokia AI Etik Danışma Kurulu’na katkıları gibi farklı etkinliklerde değişiklikler yaparken çeşitli yerlerde araştırma ekiplerine liderlik etti.
Önceki randevusunda Alessandra, Nokia Bell Labs’ta Analytics Araştırma Başkanı oldu ve burada çeşitli yerlerde araştırma ekiplerine liderlik etti ve Nokia AI Etik Danışmanlık Kurulu’na katkıları gibi farklı faaliyetlerde değişiklikler yaparken veri analizi bölümü için başarılı bir strateji geliştirdi.
Alessandra’ya https://iec.ch/homepage veya şirket web sitesinde ve şirket web sitemizde https://iec.ch/homepage aracılığıyla https://www.linkedin.com/in/salaalessandra/ adresinden çevrimiçi olarak ulaşılabilir.