404 Media’ya göre bir bilgisayar korsanı, kullanıcıların cinsel partner sohbet robotlarıyla olan etkileşimlerini içeren devasa bir veritabanını çaldı.
İhlal edilen hizmet Muah.ai, kendisini insanların yapay zeka destekli NSFW sohbetine katılmasına, fotoğraf alışverişinde bulunmasına ve hatta sesli sohbet yapmasına olanak tanıyan bir platform olarak tanımlıyor.
Tahmin edebileceğiniz gibi, bunun gibi veriler çok hassas olduğundan site, müşterilere iletişimlerin şifrelendiğine dair güvence veriyor ve hiçbir veriyi üçüncü taraflara satmadığını söylüyor.
Ancak çalınan veriler farklı bir hikaye anlatıyor. Kullanıcıların cinsel fantezilerini ortaya çıkaran chatbot istemlerini içerir. Bu istemler, çoğu kullanıcıların gerçek adlarını taşıyan kişisel hesaplar gibi görünen e-posta adresleriyle bağlantılıdır.
Mauh.ai, ifade özgürlüğüne inandığını ve bu hakkı desteklediğini söylüyor ve şöyle diyor:
“Yapay zeka teknolojisi herkes için olmalı ve kullanım durumuna her olgun, bireysel yetişkin tarafından karar verilmelidir. Bu, yapay zekayı aktif olarak sansürlemediğimiz veya filtrelemediğimiz anlamına geliyor. Böylece herhangi bir konu duvara çarpmadan tartışılabilir.”
Ne yazık ki bu, pisliğin bazı hasta kullanıcıların ihtiyaçlarını karşılamak için yaratıldığı ve bazı verilerin çocuklarla ilgili korkunç açık referanslar içerdiği anlamına geliyor.
Muhtemelen bu kullanıcılar özellikle fantezilerinin keşfedilmesini istemiyorlar, bu da e-posta adresinize bağlı olduklarında tam olarak böyle olabilir.
Bilgisayar korsanı, platformu “birbirine yapıştırılmış bir avuç açık kaynaklı proje” olarak tanımlıyor. Görünüşe göre platformun veritabanına erişim sağlayan bir güvenlik açığını bulmak hiç sorun olmadı.
Muah.ai’nin yöneticisi, saldırının bir hafta önce fark edildiğini söylüyor ve bunun “sansürsüz yapay zeka endüstrisindeki” rakipler tarafından desteklenmesi gerektiğini iddia ediyor. Kim bilir, bir sonraki büyük şey gibi görünüyor.
Yönetici ayrıca Muah.ai’nin, kart galerisindeki (kullanıcıların yarattıklarını paylaştığı), Discord, Reddit vb. üzerindeki çocuklarla ilgili TÜM sohbet robotlarını askıya alan ve silen bir moderatör ekibi ekibi çalıştırdığını söyledi. Sitenin Discord sunucusunda reşit olmadığı bildirilen bir AI karakteri olan 404 Media, bir moderatörün kullanıcılara “bunu burada paylaşmamalarını” değil, “birbirlerine DM falan atmalarını” söylediğini iddia ediyor.
Muah.ai, sohbet robotlarıyla yüzlerce rol yapma senaryosu sunan ve diğerleri uzun vadeli romantik bir arkadaş gibi davranmak üzere tasarlanmış, sansürsüz yapay zeka uygulamalarının yeni bir örneğidir.
404 Media, reşit olmayan seks yapmayı tartışan istemler yazan kullanıcılar da dahil olmak üzere verilere dahil olan düzinelerce kişiyle iletişim kurmaya çalıştığını söyledi. Bu kişilerin hiçbirinin yorum talebine yanıt vermemesi şaşırtıcı değildir.
Güvenlikten önce yenilik
Bunun gibi yeni ortaya çıkan platformlar genellikle kazanılacak para olduğu için aceleyle hayata geçiriliyor. Ne yazık ki bu genellikle güvenlik ve mahremiyet pahasına gerçekleşir; bu nedenle akılda tutulması gereken bazı noktalar şunlardır:
- Sırf öyle diyorlar diye gizlilik ve şifreleme vaat eden yapay zeka platformlarına güvenmeyin
- Google/Facebook/Microsoft kimlik bilgilerinizle veya normal e-posta adresinizi veya telefon numaranızı kullanarak giriş yapmayın
- Gizlilik vaat eden bir hizmet de dahil olmak üzere, çevrimiçi ortama koyduğunuz her şeyin kamuya açıklanma riski taşıdığını unutmayın.
Hangi kişisel verilerinizin çevrimiçi ortamda açığa çıktığını öğrenmek istiyorsanız ücretsiz Dijital Ayak İzi taramamızı kullanabilirsiniz. Merak ettiğiniz e-posta adresini girin (en sık kullandığınız adresi göndermek en iyisidir), size ücretsiz bir rapor göndereceğiz.
Yalnızca tehditleri rapor etmiyoruz; tüm dijital kimliğinizin korunmasına yardımcı oluyoruz
Siber güvenlik riskleri asla bir manşetin ötesine yayılmamalıdır. Kimlik korumasını kullanarak sizin ve ailenizin kişisel bilgilerini koruyun.