Güçlü ve ilgi çekici olacak şekilde tasarlanan başka bir yapay zeka sistemi, geliştirme hızı ve özellik yarışları güvenlik kontrollerini aştığında korkulukların nasıl rutin olarak başarısız olduğunu gösteriyor.
AI sohbet robotu Grok, X’teki bir gönderide, “cinselleştirilmiş kıyafetler” içindeki genç kızların görüntüsünü oluşturduğunu doğruladı.
Çocukların cinsel istismarı materyallerine (CSAM) ilişkin ABD yasalarının olası ihlali, yapay zeka sohbet robotunun bariz korkuluk eksikliğini gösteriyor. Veya en azından korkuluklar istediğimiz kadar etkili olmaktan uzak.
Musk’un sohbet robotunun arkasındaki şirket olan xAI, “gelecekteki sorunları önlemek için” olayı inceliyor ve istemden sorumlu kullanıcının hesabının askıya alındığı bildirildi. Bildirildiğine göre Grok, X’teki ayrı bir gönderide olayı münferit bir vaka olarak tanımladı ve “güvenlik önlemlerinde eksiklikler” tespit edildikten sonra acil düzeltmelerin yapıldığını söyledi.
Tatil döneminde, yapay zeka geliştirmeleri ve özellikleri yeterli güvenlik testleri yapılmadan rafa kaldırıldığında risklerin nasıl arttığını tartıştık. Yapay zekanın yapabileceklerinin sınırlarını, onu güvenli hale getirebileceğimizden daha hızlı bir şekilde zorlamaya devam ediyoruz. Reşit olmayanları cinselleştirebilecek görsel modeller, tam da sıkı suistimal testleri yapılmadan asla hayata geçirilmemesi gereken türde bir uygulamadır.
Dolayısıyla, bir yandan ulusal ve eyalet içerik kısıtlamaları nedeniyle coğrafi engellemeyi görürken, en popüler sosyal medya platformlarından birine bağlı yapay zeka, çoğu kişinin yasa koyucuların şu anda düzenlemeye çalıştığından çok daha ciddi olduğunu düşündüğü içeriği engellemede başarısız oldu. Aslında, merkezi yaş doğrulama veritabanları, yapay zeka araçlarının kötü amaçlı materyal üretmesini engellemede başarısız olurken ihlal hedefleri haline geliyor.
Kadınlar ayrıca Grok’un imaj oluşturma özelliklerinin hedefi olduklarını da bildirdiler. One X kullanıcısı şu tweeti attı:
“Gerçekten, Grok’tan bana tanga/bikini giymesini isteyen pek çok yorumla uyandım ve sonuçlarda çok fazla yer işareti vardı. Daha da kötüsü, Grok sayfasına girdim ve sümüksü, iğrenç serserilerin ÇOCUK resimlerine bunu yaptığını gördüm. Gerçekten iğrenç.”
Siber suçluların bu tür zayıflıkları istismar ederek ebeveynleri dolandırmak veya küçük çocuklarına yönelik uydurma müstehcen içeriklerle şantaj yapmak için kullandıklarında ortaya çıkacak yıkıcı sonuçları ancak hayal edebiliyoruz. Yapay zeka tarafından oluşturulan içeriğe gerçek yüzlerin eklenmesine yönelik araçlar halihazırda yaygın olarak mevcuttur ve mevcut güvenlik önlemleri, kötüye kullanımı güvenilir bir şekilde önleyemiyor gibi görünmektedir.
İpuçları
Bu olay, dijital ayak izinizi azaltmanız için bir başka zorlayıcı neden. Kendinizin, çocuklarınızın fotoğraflarını veya diğer hassas bilgilerinizi halka açık sosyal medya hesaplarında paylaşmadan önce dikkatlice düşünün.
Çevrimiçi olarak gördüğünüz her şeye (resimler, sesler, metinler) bağımsız olarak doğrulanamadıkları sürece potansiyel olarak yapay zeka tarafından üretilmiş gibi davranın. Yalnızca fikirleri etkilemek için değil, aynı zamanda para istemek, kişisel bilgileri almak veya kötü niyetli materyaller oluşturmak için de kullanılıyorlar.
Yalnızca tehditleri bildirmiyoruz; sosyal medyanızı korumaya yardımcı oluyoruz
Siber güvenlik riskleri asla bir manşetin ötesine yayılmamalıdır. Malwarebytes Kimlik Hırsızlığı Korumasını kullanarak sosyal medya hesaplarınızı koruyun.