Muhtemelen yapay zekanın veya yapay zekanın son zamanlarda her yerde (haberlerde, telefonlarda, uygulamalarda, hatta tarayıcınızda) olduğunu fark etmişsinizdir. Görünüşe göre her şey birdenbire “Yapay Zeka tarafından desteklenmek” istiyor. Değilse, eski tarz ve sıkıcı sayılır. Vaatlere kapılmak kolaydır: daha akıllı araçlar, daha az iş ve hatta belki geleceğe dair bir bakış.
Ancak bu hafta öğrendiğimiz bazı şeylere bakarsak, bu bakışın yalnızca iyi şeyler vaat etmediğini görürüz. Reklamlarda göremeyeceğiniz heyecanın yanı sıra daha sessiz bir hikaye de var. Bu, yapay zekanın hızlı gelişiminin güvenlik ve mahremiyetin nasıl yetişmekte zorlandığının hikayesidir.
Ve eğer yapay zeka asistanlarından, sohbet robotlarından veya ekranınızda beliren “akıllı” yapay zeka tarayıcılarından yararlanırsanız, bu hikayeler ilginizi çekmeye değer.
Bizden daha mı akıllılar?
Sektörün en büyük isimlerinden bazıları (Steve Wozniak, Sir Richard Branson ve Stuart Russel) bile yapay zekadaki ilerlemenin kendi iyiliği için çok hızlı ilerlemesinden endişe ediyor. ZDNet tarafından yayınlanan bir makalede, “süper zeka” korkularından bahsediyorlar ve biz onu nasıl kontrol altında tutacağımızı çözemeden “Yapay zeka insanlara yardım ediyor”dan “Yapay zeka insan kontrolü dışında hareket ediyor”a kadar olan çizgiyi aşmamızdan korktuklarını söylüyorlar.
Bu senaryolar filmlerdeki gibi katil robotlar ya da ele geçirmelerle ilgili değil. Bunlar bir araya gelen çok daha küçük, daha ince problemlerle ilgilidir. Örneğin, müşteri hizmetlerini daha verimli hale getirmek için tasarlanan bir yapay zeka sistemi, neyin gizli olduğunu anlayacak şekilde eğitilmediği için yanlışlıkla özel verileri paylaşabilir. Veya web trafiğini optimize etmek için tasarlanmış bir yapay zeka aracı, anlamadığı gizlilik yasalarını sessizce çiğneyebilir.
Yapay zekayı kullandığımız ölçekte (günde milyarlarca etkileşim), bu gözetimler ciddi hale geliyor. Sorun yapay zekanın kötü niyetli olması değil; sonuçları anlamıyor ve geliştiriciler sınır koymayı unutuyor.
Halihazırda günlük araçlarımızın yerini alan yapay zeka araçlarına temel çevrimiçi güvenlik oluşturma konusunda çaba harcıyoruz.
AI tarayıcılar: çok akıllı, çok erken
Yapay zeka tarayıcıları ve onların yeni kuzeni ‘aracı’ tarayıcı, web sitelerini görüntülemekten daha fazlasını yapar. Bunları okuyabilir, özetleyebilir ve hatta sizin için görevleri yerine getirebilirler.
Sizin adınıza arama yapabilen, yazabilen ve hatta hareket edebilen bir tarayıcı kulağa hoş geliyor; ancak bunu yeniden düşünmek isteyebilirsiniz. Futurism tarafından bildirilen araştırmaya göre, bu araçlardan bazıları son derece endişe verici güvenlik kusurlarıyla piyasaya sürülüyor.
Sorun şu: Birçok AI tarayıcısı, anında enjeksiyona karşı AI sohbet robotları kadar savunmasızdır. Aradaki fark, bir AI tarayıcısına bir görev verirseniz, tarayıcının kendi kendine çalışması ve ne okuduğu veya nereye gittiği üzerinde çok az kontrole sahip olmanızdır.
Perplexity şirketi tarafından geliştirilen bir tarayıcı olan Comet’i ele alalım. Brave’deki araştırmacılar, Comet’in “AI asistanının” çevrimiçi gördüklerine güvenmesi nedeniyle basit bir şekilde zararlı şeyler yapmak üzere kandırılabileceğini buldu.
Bir testte araştırmacılar tarayıcıya görünüşte masum bir görüntü gösterdi. Bu görüntünün içinde görünmez bir metin satırı gizliydi; hiçbir insanın göremeyeceği bir şeydi ama talimatlar yalnızca yapay zekaya yönelikti. Tarayıcı gizli komutları takip etti ve sonunda kişisel e-postaları açıp kötü amaçlı bir web sitesini ziyaret etti.
Kısacası yapay zeka, kullanıcının isteği ile saldırganın gizlenmiş talimatları arasındaki farkı anlayamıyordu. Bu, makinelere yönelik kimlik avına benzer şekilde çalışan hızlı enjeksiyon saldırısının tipik bir örneğidir. Bir kişiyi kötü bir bağlantıya tıklaması için kandırmak yerine, yapay zeka tarayıcısını bunu sizin için yapması için kandırır. “Ayyy, belki de bunu yapmamalıydım” ifadesinin farkına varılmadan, daha hızlıdır, daha sessizdir ve erişim sayesinde bunu yaptığını bile fark etmeyebilirsiniz.
Yapay zekanın yanlış bir şey yaptığına dair hiçbir fikri yok. Sadece emirlere uyuyor, tam olarak yapmaya programlandığı şeyi yapıyor. Hangi talimatların kötü olduğunu bilmiyor çünkü kimse ona farkı nasıl anlayacağını öğretmedi.
Misery arkadaşlığı seviyor: sahte yapay zeka arayüzleri
Yapay zeka motorunun kendisi mükemmel çalışsa bile saldırganların içeri girmenin başka bir yolu var: sahte arayüzler.
BleepingComputer’a göre dolandırıcılar halihazırda OpenAI Atlas ve Perplexity’s Comet gibi tarayıcılardaki orijinal kenar çubuklarıyla aynı görünen sahte AI kenar çubukları oluşturuyor. Bu sahte kenar çubukları gerçek arayüzü taklit ederek fark edilmelerini neredeyse imkansız hale getiriyor. Şunu hayal edin: Tarayıcınızı açıyorsunuz, güvenilir yapay zeka yardımcınızın neye benzediğini görüyorsunuz ve ona bir soru soruyorsunuz. Ancak yapay zeka asistanı size yardım etmek yerine yazdığınız her kelimeyi sessizce kaydediyor.
Bu sahte kenar çubuklarından bazıları, kullanıcıları kimlik bilgilerini “doğrulamaya” veya hızlı bir düzeltmeyi “yetkilendirmeye” bile ikna ediyor. Bu, yeni bir kılığa bürünmüş sosyal mühendisliktir. Dolandırıcının sizi sayfadan uzaklaştırmasına gerek yok, yalnızca sohbet ettiğiniz yapay zekanın meşru olduğuna sizi ikna etmesi gerekiyor. Bu güven kazanıldığında hasar verilir.
Yapay zeka araçları yardımsever, kibar ve kendinden emin görünecek şekilde tasarlandığından çoğu insan onların sözlerine güvenecektir. Sonuçta, bir yapay zeka tarayıcısı “Endişelenmeyin, buna tıklamak güvenlidir” derse siz kimsiniz ki tartışıyorsunuz?
Ne yapabiliriz?
Şu anda en önemli sorun hız. Yapay zekanın yapabileceklerinin sınırlarını, onu güvenli hale getirebileceğimizden daha hızlı bir şekilde zorlamaya devam ediyoruz. Bir sonraki büyük sorun ise bu sistemlerin eğitildiği veriler olacak.
Biz en yeni özelliklerin peşinde koştuğumuz sürece şirketler, hazır olsalar da olmasalar da daha fazla seçenek ve entegrasyon için baskı yapmaya devam edecekler. Eğer satın alacağınızı düşünürlerse buzdolabınıza diyetinizi takip etmesini öğretecekler.
Tüketiciler olarak yapabileceğimiz en iyi şey, yeni gelişmeler ve bunların getirdiği riskler hakkında bilgi sahibi olmaktır. Kendinize şunu sorun: Buna gerçekten ihtiyacım var mı? Ona neye güveniyorum? Potansiyel olumsuzluk nedir? Bazen işleri daha yavaş ve daha güvenli bir şekilde yapmaya değer.
Profesyonel ipucu: Malwarebytes’in Tarayıcı Korumasını Comet’e yükledim ve şu ana kadar iyi çalışıyor gibi görünüyor. Sizi bu konuda bilgilendireceğim.
Yalnızca tehditleri rapor etmiyoruz; tüm dijital kimliğinizin korunmasına yardımcı oluyoruz
Siber güvenlik riskleri asla bir manşetin ötesine yayılmamalıdır. Kimlik korumasını kullanarak sizin ve ailenizin kişisel bilgilerini koruyun.