S: AI ses klonlaması nedir?
C: AI, herkesin biraz ses almasına izin veren ses klonlama teknolojisidir – 30 saniyeden daha az olabilir – ve bu sesteki sesi tamamen yeniden yaratarak, bu sesi istedikleri her şeyi söylemesini sağlar.
Bu, birçok olumlu kullanım vakasına sahip büyüleyici bir teknoloji olsa da, dolandırıcılar ve saldırganlar tarafından kurbanları olmadıkları biriyle konuştuklarını düşünmek için kandırmak için kullanılabilir.
S: Yapay zeka ses klonlama yapmak ne kadar kolay?
C: Delicence kolay.
Yapay zeka hakkında ne kadar bildiklerine veya hangi ses mühendisliği deneyimine sahip olduklarına bakılmaksızın herkes tarafından kullanılabilecek tonlarca ücretsiz ve açık kaynaklı model vardır. Ses alabilir ve istedikleri her şeyi söyleyebilmesi için bu ses üzerinde hızlı bir şekilde bir AI modeli eğitebilirler.
Bir ses klonlandıktan sonra, bir metin kutusuna yazmak kadar basittir ve eğitimli ses söylediklerinizi söyleyebilir ve eğitimli sese çok benzeyebilir.
S: Kötü bir aktör sesimi nasıl yakalayabilir?
C: İnsanların sosyal medyada videolarını veya seslerini her zaman düşünün. Bu, işletmeler ve kuruluşlar için büyük bir risk haline gelir, çünkü bir şirketin CEO’su gibi birisinin büyük bir kamu kişisi vardır. Muhtemelen podcast yapıyorlar, görüşmeler yapıyorlar, röportajlara katılıyorlar – orada büyük bir dijital ayak izi var. Bu nedenle, kötü bir aktörün bu sesi alması ve sesli bir klonu yapması oldukça kolaydır.
Hackerone CEO’su Marten Mickos (ses klonu yukarıdaki videoda yer alan) gibi biri, çok yüksek kaliteli ses üreten birçok podcast yaptı. Bu kliplerden birkaçını alabilir, bir AI sisteminden geçirebilir ve Marten’in sesinde istediğim herhangi bir şeyi söylemesini söyleyebilirsiniz.
S: Ses ses klonu ne zaman anlar?
C: Tabii ki, sözde gönderenin gerçekten vermeyebileceği istek veya talimatların farkında olun. Diğer bazı işaretler şunları içerir:
- Robotik geliyor
- Doğal bükülme yok
- Arka plan gürültüsü
- Ses, anlamsız veya anlaşılmaz kelimeler gibi geliyor
Bu seslerin bazılarıyla bile, bunun bugün teknolojinin durumu olduğunun farkında olmak önemlidir ve bu, ses klonlamasının kalitesi en kötüsüdür – sadece daha iyi ve daha ikna edici olacaktır. Bu ses ipuçlarının çoğu muhtemelen AI’nın hareket etme şekli ile yakında gidecek.
S: İnsanlar AI ses klonlamasına nasıl hazırlanabilir?
C: AI ses klonlaması gerçek bir risktir ve insanların bir ses klonlama saldırısına hazırlanmanın veya gerçek bir ses kaydının ne olduğunu ve neyin olmadığını belirlemenin yolları hakkında iş arkadaşları ve sevdikleriyle sohbet etmeye başlamaları gerekir.
- AI ses klonlamasını ciddi bir risk olarak tanımak. Bireyler ve kuruluşlar bunun ciddiye alınması gereken bir şey olduğunu ne kadar erken anlarsa, olumsuz etkisini o kadar sınırlayabiliriz.
- Önceden ayarlanmış kod kelimeleri oluşturun. Bu kelimeler, bir mesajı acilen telefonla veya bir ses ortamı aracılığıyla iletmesi durumunda başka bir kişiye gerçek bir ses olduğunu belirtmek için kullanılabilir.
- İç şüphecilik inşa etmeye başlayın. Birisi bir sesli mesaj bırakır veya şifre isteyen ararlar ve acilen hareket etmem gerektiğini söylerse, bu bazı kırmızı bayraklar göndermelidir. Konuştuğunuz kişinin olduğunu düşündüğünüz kişi olduğundan emin olmak için gereken gayretinizi yaptığınızdan emin olun.
S: AI ses klonlaması iyilik için kullanılabilir mi?
C: Bu teknoloji başlangıçta iyilik için kullanılmak üzere icat edildi ve muazzam olumlu uygulamalara sahip.
- Stephen Hawking gibi tıbbi nedenlerden dolayı sesini kaybetmiş olabilecek bireylerin gerçek sondaj sesini yaratmak.
- Seslerinin ve aktör James Earl Jones’un sesinin gelecekteki Star Wars filmlerinde kullanım için klonlanması gibi medyada kullanılabilmesi için vefat eden eğlencelerin seslerini klonlamak.
Gerçek bir yukarı doğru var, ancak herhangi bir teknolojide olduğu gibi, bireylerin ve kuruluşların farkında olması ve hazırlanması gereken önemli riskler de vardır. HackerOne’un AI’nın yenilik ve risklerini ele geçirmesi hakkında daha fazla bilgi edinmek için Hackerone AI bloguna göz atın.