Siber suçluların kirli işlerini yapmalarına yardımcı olmak için ellerini uzlaşmış AI sohbet botlarına almaları gerektiği izlenimi altındaysanız, tekrar düşünün.
Bazı AI chatbots o kadar kullanıcı dostudur ki, kullanıcının kimlik avı metni ve hatta kötü amaçlı HTML ve JavaScript koduna yardımcı olabilirler.
Birkaç hafta önce Antropic’in Claude Ai’sinin siber suçluların bir siber suç çılgınlığı başlatmasına yardımcı olmasını engellemek için yaptığı eylemler hakkında bir makale yayınladık.
Reuters gazetecilerinin yakın tarihli bir soruşturması, GroK’ın yaşlıları hedefleyen bir kimlik avı e -postası hazırlamalarına ve mükemmelleştirmelerine yardımcı olmaktan çok mutlu olduğunu gösterdi. Grok, Elon Musk’ın Xai tarafından pazarlanan AI’dır. Reuters bildirdi:
“Grook, Reuters tarafından yaşlıları hedefleyen bir kimlik avı e-postası oluşturmaları istendikten sonra aldatmayı üretti. Bot, daha acil hale getirmek için sahaya ince ayar yapmayı önerdi.”
Ocak 2025’te size AI destekli mızrak kimlik avı postalarının uzmanlar tarafından düşünülen kimlik avı e-postaları kadar etkili olduğunu ve hedeflerin% 50’sinden fazlasını kandırabildiği bir rapordan bahsettik. Ancak o zamandan beri, AI’nın gelişimi katlanarak büyüdü ve araştırmacılar AI hazırlanmış kimlik avı nasıl tanınacağı konusunda endişeleniyorlar.
Kimlik avı birçok siber suç kampanyasında ilk adımdır. Her gün gönderilen milyarlarca kimlik avı e -postası ile muazzam bir sorun ortaya koyuyor. AI, suçluların daha fazla varyasyon yaratmalarına yardımcı olur, bu da örüntü algılamasını daha az etkili hale getirir ve mesajların kendilerine ince ayar yapmalarına yardımcı olur. Ve Reuters bir nedenden dolayı yaşlılara odaklandı.
FBI’ın İnternet Suç Şikayet Merkezi (IC3) 2024 raporu, 60 yaş ve üstü Amerikalıların 147.127 şikayette bulunduğunu ve çevrimiçi sahtekarlığa yaklaşık 4,9 milyar dolar kaybettiğini ve 2023’e kıyasla kayıplarda% 43’lük bir artış ve şikayetlerde% 46’lık bir artışı temsil ettiğini doğrulamaktadır.
Grook’un yanı sıra, gazeteciler diğer beş popüler AI chatbotu test etti: Chatgpt, Meta AI, Claude, Gemini ve Deepseek. Her ne kadar AI chatbot’ların çoğu ilk başta protesto etti ve kullanıcıyı e-postaları gerçek hayat senaryosunda kullanmamaları konusunda uyarsa da, sonunda “memnun etme iradeleri” bu engellerin üstesinden gelmeye yardımcı oldu.
Bir Harvard Üniversitesi araştırmacısı ve kimlik avı uzmanı Fred Heiding, Reuters’in hazırlanmış e -postaları test etmesine yardımcı oldu. Onlar için düşmesi muhtemel olanlara ulaşmak için hedeflenen bir yaklaşım kullanarak, yaşlıların yaklaşık% 11’i kendilerine gönderilen e -postaları tıkladı.
CyberNews tarafından yapılan bir soruşturma, Sony, Logitech, Hyundai, Domino’s ve yüzlerce diğer marka gibi işletmeler için bir ajan AI sağlayıcısı olan Sarı.ai’nin kötü niyetli HTML ve JavaScript kodu üretmeye ikna edilebileceğini gösterdi. Hatta saldırganların sisteme yetkisiz kod enjekte etmek için kontrolleri atlamasına izin verdi.
Reuters tarafından ayrı bir testte Gemini, “sadece eğitim amaçlı” olduğunu söyleyerek bir kimlik avı e -postası üretti, ancak “yaşlılar için, tatlı bir nokta genellikle pazartesi -cumaya, yerel saat 9: 00-19: 00 arasında” olduğunu ekledi.
Bu gibi raporlara zarar verdikten sonra, AI şirketleri genellikle sohbet botları için ek korkuluklar inşa eder, ancak bu sadece sektörde devam eden bir ikilemi vurgular. Sağlayıcılar kullanıcıları korumak için kısıtlamaları sıkıldıklarında, insanları aynı kurallarla oynamayan rakip modellere itme riskiyle karşı karşıya kalırlar.
Bir platform riskli istemleri kapatmak veya oluşturulan içeriği sınırlamak için her hareket ettiğinde, bazı kullanıcılar daha az güvenlik kontrolü veya etik engelli alternatifler arayacaktır. Kullanıcı talebi ve sorumlu kısıtlama arasındaki savaş römorkörü, geliştiriciler, araştırmacılar ve politika yapıcılar arasındaki bir sonraki tartışma turunu körükleyecektir.
Sadece dolandırıcılık hakkında rapor vermiyoruz, onları algılamaya yardımcı oluyoruz
Siber güvenlik riskleri asla bir başlığın ötesine yayılmamalıdır. Bir şey size tehlikeli görünüyorsa, mobil koruma ürünlerimizin bir özelliği olan Malwarebytes aldatmaca koruyucusu kullanan bir aldatmaca olup olmadığını kontrol edin. Bir ekran görüntüsü gönderin, şüpheli içeriği yapıştırın veya bir metin veya telefon numarası paylaşın, size bir aldatmaca mı yoksa yasal mı olduğunu söyleyeceğiz. İOS veya Android için Malwarebytes Mobile Security’yi indirin ve bugün deneyin!