S: Yapay Zeka Ses Klonlaması Nedir?
C: Yapay zeka, herkesin sesin bir kısmını (30 saniyeden az olabilir) almasına ve o sesteki sesi tamamen yeniden yaratarak o sesin istediği her şeyi söylemesini sağlayan bir ses klonlama teknolojisidir.
Bu, birçok olumlu kullanım senaryosuna sahip büyüleyici bir teknoloji olsa da, dolandırıcılar ve saldırganlar tarafından kurbanları, olmadıkları biriyle konuştuklarını düşünmeleri için kandırmak için kullanılabilir.
S: Yapay Zeka Ses Klonlaması Gerçekleştirmek Ne Kadar Kolaydır?
C: İnanılmaz derecede kolay.
Yapay zeka hakkında ne kadar bilgi sahibi olursa olsun veya ses mühendisliği deneyimi ne olursa olsun herkesin kullanabileceği tonlarca ücretsiz ve açık kaynaklı model var. Sesi alıp istedikleri her şeyi söyleyebilmeleri için bir yapay zeka modelini bu ses üzerinde hızlı bir şekilde eğitebilirler.
Bir ses klonlandıktan sonra, bu işlem bir kutuya metin yazmak kadar basittir ve eğitilen ses, ona ne söylerseniz onu söyleyebilecek ve eğitilen sese çok benzeyecektir.
S: Kötü Bir Aktör Sesimi Nasıl Yakalayabilir?
C: İnsanların sosyal medyaya kendi videolarını veya seslerini yükledikleri zamanları düşünün. Bu, işletmeler ve kuruluşlar için büyük bir risk haline gelir çünkü bir şirketin CEO’su gibi birinin kamuoyunda büyük bir kişiliği vardır. Muhtemelen podcast yayınlıyorlar, konuşmalar yapıyorlar, röportajlara katılıyorlar; dışarıda büyük bir dijital ses izi var. Yani kötü bir aktörün o sesi alıp bunun bir ses klonunu yapması oldukça kolaydır.
HackerOne CEO’su Marten Mickos (yukarıdaki videoda ses kopyası yer alan kişi) gibi biri, çok yüksek kalitede ses üreten birçok podcast hazırladı. Bu kliplerden birkaçını alıp yapay zeka sisteminden geçirebilir ve ona Marten’in sesiyle istediğim her şeyi söylemesini söyleyebilirsiniz.
S: Sesin Ses Klonu Olduğunu Nasıl Anlayabilirsiniz?
C: Elbette, sözde gönderenin gerçekte vermeyebileceği istek veya talimatların farkında olun. Diğer bazı işaretler şunlardır:
- Robotik sondaj
- Doğal bükülme yok
- Arka plan gürültüsü
- Ses anlamsız veya anlaşılmaz kelimeler gibi geliyor
Bu seslerin bazılarında bile, teknolojinin bugünkü durumunun bu olduğunun farkında olmak önemlidir ve bu, ses klonlamanın şimdiye kadarki en kötü kalitesidir; giderek daha iyi ve daha ikna edici hale gelecektir. Yapay zekanın hareket tarzına bağlı olarak bu ses ipuçlarının çoğu muhtemelen yakında kaybolacak.
S: İnsanlar Yapay Zeka Ses Klonlamasına Nasıl Hazırlanabilir?
C: AI ses klonlaması gerçek bir risktir ve insanların artık iş arkadaşlarıyla ve sevdikleriyle bir ses klonlama saldırısına hazırlanmanın yolları veya neyin gerçek bir ses kaydı olup neyin olmadığını belirleme konusunda konuşmaya başlaması gerekiyor.
- Yapay zeka ses klonlamanın ciddi bir risk olduğunu kabul edin. Bireyler ve kuruluşlar bunun ciddiye alınması gereken bir şey olduğunu ne kadar erken anlarlarsa olumsuz etkisini o kadar sınırlayabiliriz.
- Önceden ayarlanmış kod sözcükleri oluşturun. Bu kelimeler, başka bir kişiye acilen telefonla veya ses ortamı aracılığıyla bir mesaj iletmesi gerektiğinde, bir şeyin gerçek ses olduğunu belirtmek için kullanılabilir.
- İçsel şüphecilik oluşturmaya başlayın. Birisi sesli mesaj bırakırsa veya şifre isteyen bir arama yaparsa ve acilen harekete geçmem gerektiğini söylerse, bu bazı tehlike işaretleri oluşturmalıdır. Konuştuğunuz kişinin düşündüğünüz kişi olduğundan emin olmak için gerekli özeni gösterdiğinizden emin olun.
S: Yapay Zeka Ses Klonlaması İyi Amaçlarla Kullanılabilir mi?
C: Bu teknoloji aslında iyilik için kullanılmak üzere icat edildi ve muazzam olumlu uygulamalara sahip.
- Stephen Hawking gibi tıbbi nedenlerden dolayı sesini kaybetmiş olabilecek kişilerin gerçekçi seslerini yaratmak.
- Aktör James Earl Jones’un sesinin gelecekteki Star Wars filmlerinde kullanılmak üzere klonlanması gibi, ölen sanatçıların seslerinin medyada kullanılmaya devam edebilmesi için klonlanması.
Gerçek bir avantaj var, ancak her teknolojide olduğu gibi bireylerin ve kuruluşların farkında olması ve hazırlıklı olması gereken önemli riskler de var. HackerOne’ın yapay zekanın inovasyonu ve riskleri konusundaki yaklaşımı hakkında daha fazla bilgi edinmek için HackerOne Yapay Zeka bloguna göz atın.