İnsanların 2022’deki AI ilerlemeleri hakkında hatırlayacağı bir şey varsa, o da gelişmiş üretken modellerin ortaya çıkışı olacaktır: DALL.E 2, Stable Diffusion, Midjourney, ChatGPT. Hepsi manşetlere taşındı ve çalışma ve yaşama şeklimizi değiştirecekler.
Üretken modeller, her gün kullandığımız yazılımlara entegre edilecek. Yakında, e-posta istemcimizden bir yanıt yazmasını, sunum yazılımımızdan bir resim oluşturmasını veya kelime işlemcimizden en son raporumuza bir giriş yazmasını isteyebileceğiz.
Makine öğrenimi modelleri, etkileşimde bulunduğumuz içeriğin daha fazlasını üretecek
Bu, rakipler tarafından oluşturulan içerik için de geçerli olacaktır. Bu an, bilincin, toplumun ve ticaretin nasıl değişebileceğine dair ilginç bir düşünce deneyinden daha fazlasını sunuyor. Makine tarafından oluşturulan içeriği belirleme becerimiz veya yetersizliğimiz, suça karşı savunmasızlığımız söz konusu olduğunda muhtemelen ciddi sonuçlar doğuracaktır.
ChatGPT gibi dil modelleri açısından bakıldığında, yazılı içeriğin oluşturulmasını otomatik hale getirme yeteneği kaçınılmaz olarak suçluların, özellikle de siber suçluların ilgisini çekecektir. Aynı şekilde, web’i dolandırıcılık, sahte haber veya yanlış bilgi yaymak için kullanan herkes, inanılmaz hızlarda güvenilir, hatta muhtemelen ikna edici metin oluşturan bir araca ilgi duyabilir.
Günümüzün büyük dil modelleri, hedefli kimlik avı saldırılarına uygun e-posta dizileri oluşturmak, bir kişinin yazma stilini “derin taklit etmek”, yazılı içeriğe fikir uygulamak ve hatta çok inandırıcı sahte makaleler oluşturmak (ilgili bilgiler olmasa bile) gibi şeyleri mükemmel bir şekilde yapabilir. modelin eğitim verilerine dahil değildir.)
Görüntü oluşturmak için tasarlanan modeller, şimdiden yaygın bir şekilde kötü amaçlı kullanım görüyor
Örneğin, arkasındaki model olan StyleGAN2 thispersondoesnotexist.com düşmanlarına yüzbinlerce sosyal medya avatarı sağladı. Dil modelleri daha sonra biyografiler ve gönderiler yazarak bu sahte profilleri tamamlayacaktır. Ek olarak, AI sanat modelleri onlara afişler ve ikna edici medya sağlayacaktır.
Deepfakes birkaç yıldır ortalıkta dolaşıyor. Şimdiye kadar en etkileyici (ve inandırıcı) örnekler, şükürler olsun ki, kavram kanıtlama çalışmaları olarak uzmanlar tarafından oluşturulmuş olsa da, teknoloji gelişiyor. Ayrıca, deepfake oluşturabilen bir bilgisayarın fiyatı da düştü, bu yüzden bir deepfake’in yaratılması, gözden kaçması ve daha sonra insanları olmayan bir şeye ikna etmek için kullanılması an meselesi.
Rakiplerin üretken modelleri nasıl kullanacağını tahmin etmeye gelince, büyük olasılıkla maliyetle geliri dengeleyecekler ve bunları yalnızca uygun olduğunda kullanacaklar. Ancak, bu tür teknikleri kullanmanın maliyetinin zamanla azalacağı ve tekniklerin daha karmaşık hale geleceği açıktır. Ve daha yeni üretken tekniklerden bazıları henüz kötü niyetli senaryolarda belgelenmemiş olsa da, belgelenmeleri an meselesi.
Sentetik olarak üretilmiş metin, resim, ses ve videoların tehlikelerinden kendimizi korumak için ne yapabiliriz?
Üretken teknikler hem iyi huylu hem de kötü amaçlı içerik oluşturmak için kullanılacağından, yalnızca bir yapay zekanın bir şey oluşturduğunu tespit etmek, onu kötü niyetli olarak kabul etmek için yeterli olmayacaktır. Kötü niyetli içeriği programatik olarak tespit etmek için yazı, resim ve videoları anlayabilen ve bunlardan anlam çıkarabilen mekanizmalara ihtiyacımız olacak. Bu, çevrimiçi taciz, taciz, dezenformasyon ve sahte haberleri tespit etmenin yanı sıra bu tür şeylerin yayılmasını ve büyümesini yakalama araçlarına sahip olmak anlamına gelir.
Kimlik avı farkındalığı ve medya okuryazarlığı, yapay zeka tarafından çok büyük miktarda hem iyi huylu hem de kötü niyetli içeriğin üretildiği bir dünyada daha da önemli hale gelecektir. Spam artık yazım ve dilbilgisi hataları içermeyecek; Bir bağlantıya tıklamanızı isteyen mükemmel yazılmış bir e-posta, yakında şüpheli bir şeyi değerlendirmek için fiili standart olabilir. Sahte sosyal medya hesaplarında artık avatar olarak jenerik yüzler olmayacak. Sahte haber siteleri ve şirket siteleri çok daha gerçekçi görünecek. AI, bunlar hakkında müşteri referansları bile yazacaktır.
Üretken yapay zeka yetenekleri açısından S eğrisinin en başında oturuyoruz. Bu on yılın sonunda, şu anda gördüklerimizi aşan teknolojiler telefonlarımıza, ev yardımcılarımıza, dizüstü bilgisayarlarımıza, arama motorlarımıza ve daha fazlasına entegre edilecek. Hayatlarımıza entegre olacaklar. Ve bize fayda sağladıkları kadar düşmanlara da fayda sağlayacaklar – daha fazla değilse bile.