2023’te siber saldırılar hem sıklık hem de karmaşıklık açısından artış gösterdi. Üretken yapay zekadaki ilerlemeler sayesinde artık her zamankinden daha erişilebilir olan son teknoloji bilgisayar korsanlığı araçlarının ve teknolojilerinin çoğalması, siber tehditlerin gelişmesine elverişli bir ortam yaratarak kuruluşları dijital varlıklarını güvende tutmak için proaktif önlemler almaya zorladı.
2024’e girerken saldırı yüzeyi daha da genişleyecek ve tehditlerin giderek daha da ele geçirilmesi muhtemel hale gelmesi bekleniyor. Yapay zekaya (AI) ve büyük dil modellerine (LLM’ler) dayalı araçların artan gücü ve erişilebilirliği göz önüne alındığında, tehdit aktörlerinin birkaç adım önünde kalmak ve önümüzdeki yıl hangi taktiklerin bekleneceğini bilmek zorunlu olacaktır.
1. Özel ChatGPT benzeri botlar: İkna edici sosyal mühendislik saldırıları hazırlamak
OpenAI’nin özel GPT’leri, bilgisayar korsanlarının 2024’te yararlanacağı güçlü yeni araçların başlıca örnekleridir. Kullanım kolaylıkları göz önüne alındığında, çok daha az teknik beceriye sahip olanlar tarafından oldukça ikna edici sosyal manipülasyon saldırıları tasarlamak ve başlatmak için kullanılabilirler.
Bir saldırganın ChatGPT tarafından oluşturulan metni yönetici veya departman başkanı gibi görünmek için kullandığı bir senaryo düşünün. Şüphelenmeyen çalışanlara, GPT “yöneticileri” ile konuşarak onları para aktarmaya veya hassas verileri paylaşmaya ikna edecekleri WhatsApp benzeri bir uygulamanın bağlantısını gönderiyorlar. Benzer şekilde, mağdurları GPT destekli bir “yardım masası” veya “BT temsilcisi” ile konuşmaya yönlendirmek için üretken yapay zeka hizmetlerinden yararlanılabilir. Bu aldatıcı saldırılar kuruluşlar genelinde daha yaygın hale geldi ve yalnızca yeni üretken yapay zeka araçları ve özelliklerinin ortaya çıkmasıyla büyüyecek.
Bu tür tehditlerin tespit edilmesi ve önlenmesi için yalnızca çalışanların farkındalığına güvenmek yeterli değildir. Bu nedenle sağlam güvenlik protokollerinin sürdürülmesine öncelik verilmelidir.
2. Gizli saldırı vektörleri olarak SaaS uygulamaları: TeamsPhisher’dan öğrenmek
Siber suçlular 2024’te modern SaaS uygulamalarından yararlanmaya, kötü amaçlı yükleri buluta yerleştirmeye ve düşük güvenlik açıklarından yararlanmaya devam edecek. Pandeminin ve uzaktan çalışma ortamlarının yükselişinin ardından, bu karanlık taktikler gözden kaçmaya ve kuruluşların savunmasında delikler açmaya devam ediyor.
Geçtiğimiz yaz tehdit aktörleri, fidye yazılımı saldırıları da dahil olmak üzere daha sonraki siber saldırıları gerçekleştirmek için Microsoft Teams aracılığıyla şüphelenmeyen kullanıcılara kimlik avı tuzakları göndermek üzere TeamsPhisher olarak bilinen kötü amaçlı bir açık kaynaklı program kullandı. Bu, SaaS uygulamalarının tehdit aktörlerinin farkında olmadan suç ortakları olarak öneminin altını çiziyor.
Kuruluşlar, bu saldırı vektörünün devamını zorlu bir siber cephe olarak görmeyi beklemeli ve güvenlik çerçevelerini buna göre güçlendirmeli.
3. Siber saldırı kampanyalarında yapay zeka odaklı otomasyon: Geleceğe bir bakış
Yapay zeka, geliştiricilerin ve güvenlik ekiplerinin elinde üretkenliği artırarak çok sayıda iş operasyonunu kolaylaştırıyor. Ancak tehdit aktörlerinin elinde şirket savunmasını sabote etmek ve hassas verileri çıkarmak için kullanılabilir.
Saldırganlar, bulut altyapısındaki güvenlik açıklarını tespit etmek ve kötü amaçlı e-posta kampanyalarını olağanüstü verimlilik ve hassasiyetle belirlemek için yapay zekanın artan otomasyon gücünden yararlanmaya hazır. Yani yapay zeka destekli otomasyon, tüm sektörlerdeki ofis çalışanlarının önemli iş yükünü hafifletirken, tehdit aktörlerine de aynı lüksü sağlıyor.
4. Deepfakes ve çok modlu makine öğrenimi modelleri: Aldatmanın evrimi
Yapay zeka alanında kalarak çok modlu makine öğrenimi modelleri, saldırganlara şüphelenmeyen çalışanları kandırmak için ikna edici ses, görüntü ve videolar oluşturma kapasitesi sağladı.
Deepfake kampanyalarının 2023’te %3000 gibi şaşırtıcı bir artış gösterdiği bu gelişmiş teknoloji, meşru olanlardan neredeyse ayırt edilemeyen yazışmalar oluşturmak için kullanılıyor ve aynı zamanda daha ucuz ve kullanımı daha basit olma avantajlarına da sahip.
Bu tür aldatma uygulamaları sayısız kuruluş için ciddi tehdit oluşturmaya devam edecek. Bu modeller karmaşıklık ve üretim yetenekleri bakımından olgunlaştıkça, personelin ihlal girişimlerini ve yanlış bilgilendirme kampanyalarını tanıması ve raporlaması konusunda eğitilmesi çok önemli hale gelecektir.
5. Yüksek Lisans destekli hizmetlerde rakip istemlere karşı koruma: Başlangıç sınırı
Yüksek Lisans destekli hizmetler şirket iş akışlarında çoğalmaya devam ettikçe, iş liderlerinin kötü niyetli istem enjeksiyonlarına (çıktıları manipüle etmek veya standart işleme prosedürlerini değiştirmek üzere tasarlanmış bir Yüksek Lisans Eğitimi girdileri) karşı sağlam bir koruma oluşturması gerekecektir.
Ne yazık ki, şirketlerin dikey veya operasyona özel eğitim amaçları için LLM’lere beslemeyi tercih ettiği dahili veriler kolayca açığa çıkarılabilir. Bilgisayar korsanları, dikkatle hazırlanmış istemleri yazarak Yüksek Lisans’ları hassas verileri ifşa edecek şekilde manipüle edebilir ve bu da uyumluluk ihlalleri ve para cezaları riskiyle karşı karşıya kalabilir. Veri güvenliğindeki bu tür güvenlik açıkları proaktif çözümler gerektirir.
Bu nedenle, bu zorlukların azaltılmasına yönelik öngörü, LLM destekli hizmetlere güvenen kuruluşlar için hayati önem taşıyacak ve rakip istemlerin veri güvenliğinden ödün vermesini önlemeye kararlı yeni bir dizi çözüm için zemin hazırlayacaktır.
Bir adım önde
Yapay zeka olgunlaşmaya devam ettikçe tehdit ortamı da gelişiyor. Yapay zeka sistemlerinin mümkün kıldığı siber saldırılarla yüzleşmek, 2024 yılı boyunca kritik bir iş hedefi olacak.
Kuruluşlar, bilgisayar korsanlarına karşı devam eden mücadelede yeni ortaya çıkan cepheleri tespit etmek ve ele almak için araçlar ve katmanlı çözümler dağıtarak, dijital rakiplerinin bir adım önünde kalabilecekler.