Aparna Pappu, Google Workspace’in başkan yardımcısı ve genel müdürü, 10 Mayıs’ta Google I/O’da yaptığı konuşmada, kullanıcıların gelen kutularında gezinmesine yardımcı olan yapay zeka vizyonunu ortaya koydu. Pappu, üretken yapay zekanın uzun e-posta dizilerinin özetlerini kulağınıza nasıl fısıldayabileceğini, okunmamış mesajları birlikte salsa yaparken yerel dosyalardan ilgili verileri nasıl çekebileceğini ve eklenebilir metin önerirken sizi yere nasıl batırabileceğini gösterdi. Geleceğin gelen kutusuna hoş geldiniz.
Nasıl ulaşacağına dair ayrıntılar belirsizliğini korusa da üretken yapay zeka, insanların e-posta üzerinden iletişim kurma şeklini temelden değiştirmeye hazırlanıyor. Yapay zekanın makine öğrenimi adı verilen daha geniş bir alt kümesi, siz oturumu kapattıktan çok sonra bile bir tür güvenlik dansı gerçekleştirir. Pappu, WIRED’e “Makine öğrenimi, Gmail’in güvenliğini sağlamak için kullandıklarımızın kritik bir parçası oldu” diyor.
Şüpheli bir e-postaya yapılan birkaç hatalı tıklama, güvenliğinizi alt üst edebilir, peki makine öğrenimi kimlik avı saldırılarını engellemeye nasıl yardımcı olur? Google’da güvenliğe odaklanan bir ürün lideri olan Neil Kumaran, makine öğreniminin gelen e-postaların ifade biçimine bakabileceğini ve bunu geçmiş saldırılarla karşılaştırabileceğini açıklıyor. Ayrıca alışılmadık mesaj modellerini işaretleyebilir ve meta verilerden kaynaklanan herhangi bir tuhaflığın kokusunu alabilir.
Makine öğrenimi, ortaya çıktıkça tehlikeli mesajları işaretlemekten daha fazlasını yapabilir. Kumaran, kimlik avı saldırılarından sorumlu kişilerin takibi için de kullanılabileceğini belirtiyor. “Hesap oluşturma sırasında değerlendirmeler yapıyoruz. ‘Bu hesap kötü amaçlarla kullanılacak gibi mi görünüyor?’ sorusunu çözmeye çalışıyoruz.” Google hesabınızda başarılı bir kimlik avı saldırısı olması durumunda, kurtarma işlemine yapay zeka da dahil olur. Şirket, hangi oturum açma girişimlerinin yasal olduğuna karar vermek için makine öğrenimini kullanıyor.
“Hakkında bilgimiz olmayabilecek saldırıları belirlemek veya en azından kullanıcılarımız üzerindeki etkisini modellemeye başlamak için kullanıcı raporlarından istihbaratı nasıl tahmin edebiliriz?” Kumaran’a sorar. 2023’teki birçok sorunun yanıtı gibi Google’ın yanıtı da daha çok yapay zeka. Bu yapay zeka örneği, gece geç saatlere kadar uzun sohbetlerle sizinle dalga geçen cilveli bir sohbet robotu değildir; Algoritmik kollarını kavuşturmuş ayaktakımı kışkırtıcıları tekmeleyen iriyarı bir fedai.
Öte yandan, e-posta gelen kutunuzda daha da fazla kimlik avı saldırısına neden olan şey nedir? Sana bir tahmin vereceğim. İlk harf “A”, son harf “I”. Güvenlik uzmanları, yapay zeka tarafından oluşturulan kimlik avı saldırılarının gelen kutunuzu doldurma potansiyeli konusunda yıllardır uyarıda bulunuyor. Bir mesajlaşma güvenlik şirketi olan SlashNext’in CEO’su Patrick Harr, “Yapay zekayı çıplak gözle, lehçe veya URL aracılığıyla tespit etmek çok, çok zor” diyor. Tıpkı insanların oldukça inandırıcı derin sahtekarlıklar oluşturmak için yapay zeka tarafından oluşturulan görüntüleri ve videoları kullanması gibi, saldırganlar da kimlik avı girişimlerini kullanıcıların algılaması zor bir şekilde kişiselleştirmek için yapay zeka tarafından oluşturulan metinleri kullanabilir.
E-posta güvenliğine odaklanan çok sayıda şirket, gelen kutunuzu daha fazla korumak için modeller üzerinde çalışıyor ve makine öğrenimi tekniklerini kullanıyor. Bir BT güvenlik şirketi olan Barracuda Networks’ün CEO’su Hatem Naguib, “Gelen verileri topluyoruz ve denetimli öğrenme denen şeyi yapıyoruz” diyor. Denetimli öğrenmede, birisi e-posta verilerinin bir kısmına etiketler ekler. Hangi iletilerin güvenli olma olasılığı yüksektir? Hangileri şüpheli? Bu veriler, bir şirketin makine öğrenimi ile kimlik avı saldırılarını işaretlemesine yardımcı olmak için tahmin edilir.
Bu, kimlik avı tespitinin değerli bir yönüdür, ancak saldırganlar korumaları aşmanın yollarını aramaya devam eder. Uydurma bir Yeti Cooler eşantiyonuyla ilgili ısrarlı bir dolandırıcılık, geçen yıl beklenmedik bir tür HTML bağlantısıyla filtrelerden kaçtı.
Siber suçlular, özellikle iş e-postanız olmak üzere çevrimiçi hesaplarınızı ele geçirmeye devam edecektir. Üretken yapay zekayı kullananlar, kimlik avı saldırılarını birden çok dile daha iyi çevirebilir ve sohbet robotu tarzı uygulamalar, potansiyel kurbanlarla ileri geri iletilerin bölümlerini otomatikleştirebilir.
AI tarafından sağlanan tüm olası kimlik avı saldırılarına rağmen Aparna Pappu, daha iyi ve daha rafine güvenlik korumalarının sürekli olarak geliştirilmesi konusunda iyimser olmaya devam ediyor. “Birini potansiyel olarak cezbetmek için gereken maliyeti düşürdünüz,” diyor. “Fakat öte yandan, bu teknolojilerin bir sonucu olarak daha büyük algılama yetenekleri oluşturduk.”