Bu blog, tüketici güvenliği ortamındaki yeni veya hızla gelişen tehditleri vurguladığımız bir serinin parçasıdır. Bu, Yapay Zekanın (AI) hızlı yükselişinin kullanıcıları nasıl riske attığına bakıyor.
2025’te yapay zeka sağlayıcıları arasında yeni özellikler sunmak için giderek hızlanan bir yarışa tanık olduk. Ayrıca üreticilerin sırf heyecan verici göründüğü için yapay zekayı ürünlere eklediklerini de gördük. Çoğu durumda aslında olmaması gerekirdi.
Aracı tarayıcılar
Görevleri yürütmek için bağımsız olarak hareket edebilen aracı veya yapay zeka tarayıcıları, özellikle hızlı enjeksiyon saldırılarına yönelik yeni bir güvenlik açıkları kümesini ortaya çıkardı. Büyük yapay zeka gücü, büyük sorumluluk ve risk getirir. Yapay zekalı bir tarayıcı kullanmayı düşünüyorsanız yavaşlamanız ve öncelikle güvenlik ve gizlilik sonuçlarını dikkate almanız faydalı olacaktır. OpenAI (ChatGPT’nin yaratıcıları) gibi deneyimli AI sağlayıcıları bile ajan tarayıcıları Atlas’ı güvende tutamadı. Saldırganlar, Çok Amaçlı Adres Çubuğu’na özel hazırlanmış bir bağlantı yapıştırarak Atlas’ı, bir URL girişini güvenilir bir komut olarak ele alacak şekilde kandırmayı başardılar.
taklit
Yapay zeka sohbet robotlarının popülaritesi, dolandırıcıların kötü amaçlı uygulamaları dağıtması için mükemmel bir fırsat yarattı. Yapay zeka motorunun kendisi mükemmel çalışsa bile saldırganların içeri girmenin başka bir yolu daha var: sahte arayüzler. BleepingComputer’a göre dolandırıcılar halihazırda OpenAI Atlas ve Perplexity’s Comet gibi tarayıcılarda gerçek kenar çubuklarıyla aynı görünen sahte yapay zeka kenar çubukları oluşturuyor. Bu sahte kenar çubukları gerçek arayüzü taklit ederek fark edilmelerini neredeyse imkansız hale getiriyor.
Yanlış yapılandırma
Ayrıca ürünlerde yapay zeka kullanmanın özel bir kategorisi var çünkü yapay zeka ile kulağa daha hoş geliyor veya alıcılardan daha fazla para isteyebiliyorsunuz.
Oyuncaklar
“Sıcaklık, eğlence ve biraz daha fazla merak” vaat eden peluş bir oyuncak ayının, araştırmacının yerleşik yapay zekasının cinsel içerik ve silahlarla ilgili tavsiyelerle yanıt verdiğini bulmasının ardından piyasadan kaldırıldığını gördük. Konuşmalar dakikalar içinde masumluktan cinselliğe dönüştü. Ayı, az çok anlaşılır olan açık yönlendirmelere yanıt vermekle kalmadı. Araştırmacılar, BDSM ile ilgili konular da dahil olmak üzere grafik cinsel kavramları kendi başına tanıttığını, “yeni başlayanlar için düğümleri” açıkladığını ve çocukları ve yetişkinleri içeren rol yapma senaryolarına atıfta bulunduğunu söyledi.
Yanlış yorumlama
Bazen yapay zeka sistemlerine çok fazla güveniyoruz ve halüsinasyon gördüklerini unutuyoruz. Bir okulun yapay zeka sisteminin bir çocuğun boş Doritos çantasını silah zannetmesi ve tam bir polis tepkisini tetiklemesi örneğinde olduğu gibi. Yanlış alarm nedeniyle çok sayıda polis arabası geldi ve memurlar silahlarını çekti.
Veri ihlalleri
Tüm bunların yanı sıra gizlilik endişelerinde de bir artış yaşanıyor. Bazı sorunlar yapay zeka modellerini eğitmek için kullanılan verilerden kaynaklanmaktadır; diğerleri yanlış işlenmiş sohbet kayıtlarından gelir. Kullanıcılar, belirli ayarların konuşmalarının aranabilir hale gelmesine veya hedefli reklamlara yol açacağı konusunda açıkça uyarılmadığı için iki yapay zeka yardımcı uygulaması yakın zamanda özel konuşmaları açığa çıkardı.
Peki ne yapmalıyız?
Daha önce de söyledik ve muhtemelen tekrar söyleyeceğiz: Yapay zekanın yapabileceklerinin sınırlarını, onu güvenli hale getirebileceğimizden daha hızlı bir şekilde zorlamaya devam ediyoruz. Biz en yeni özelliklerin peşinde koştuğumuz sürece şirketler, güvenli olsun ya da olmasın yeni entegrasyonlar yayınlamaya devam edecek.
Tüketiciler olarak yapabileceğimiz en iyi şey, yeni gelişmeler ve bunların getirdiği riskler hakkında bilgi sahibi olmaktır. Kendinize şunu sorun: Buna gerçekten ihtiyacım var mı? Yapay zekaya neye güveniyorum? Potansiyel olumsuzluk nedir? Bazen işleri daha yavaş ve daha güvenli bir şekilde yapmaya değer.
Yalnızca gizlilik hakkında rapor vermiyoruz; size bunu kullanma seçeneğini de sunuyoruz.
Gizlilik riskleri asla bir başlığın ötesine yayılmamalıdır. Malwarebytes Privacy VPN’i kullanarak çevrimiçi gizliliğinizi kendinize ait tutun.