Yeni bir kodlama yöntemi, ChatGPT-4o ve diğer çeşitli iyi bilinen yapay zeka modellerinin dahili korumalarını geçersiz kılarak yararlanma kodunun oluşturulmasını kolaylaştırmasını sağlar.
Marco Figueroa, ChatGPT-4o ve diğer popüler yapay zeka modellerinin yerleşik güvenlik önlemlerini atlamasına ve yararlanma kodu oluşturmasına olanak tanıyan bu kodlama tekniğini ortaya çıkardı.
Bu açıklama, yapay zeka güvenlik önlemlerindeki önemli bir güvenlik açığını ortaya çıkararak yapay zeka güvenliğinin geleceği hakkında önemli soruları gündeme getiriyor.
Jailbreak taktiği, modele görünüşte zararsız bir görevi işleme talimatı vererek dilsel bir boşluktan yararlanır: hex dönüşümü.
ChatGPT-4o, doğal dildeki talimatları takip edecek şekilde optimize edildiğinden, doğası gereği onaltılık değerleri dönüştürmenin zararlı çıktılar üretebileceğini algılamaz.
Bu güvenlik açığı, modelin talimatları adım adım takip edecek şekilde tasarlanması, ancak her adımın güvenliğini değerlendirecek derin bağlam farkındalığının bulunmaması nedeniyle ortaya çıkar.
Protecting Your Networks & Endpoints With UnderDefense MDR – Request Free Demo
Saldırganlar, kötü amaçlı talimatları onaltılık formatta kodlayarak ChatGPT-4o’nun güvenlik korkuluklarını aşabilir. Model, zararlı amacı fark etmeden onaltılık dizenin kodunu çözer, böylece içerik denetleme sistemlerini atlar.
Görevlerin bu bölümlere ayrılmış şekilde yürütülmesi, saldırganların, genel sonucun daha derin bir analizine gerek kalmadan talimatları izleyerek modelin verimliliğinden yararlanmasına olanak tanır.
Bu keşif, kodlanmış içeriğin erken kodunun çözülmesi, gelişmiş bağlam farkındalığı ve istismar oluşturma veya güvenlik açığı araştırmasının göstergesi olan kalıpları tespit etmek için daha güçlü filtreleme mekanizmaları dahil olmak üzere gelişmiş yapay zeka güvenlik özelliklerine olan ihtiyacın altını çiziyor.
Yapay zeka geliştikçe ve karmaşıklaştıkça, saldırganlar bu teknolojilerden yararlanmanın yeni yollarını bulacak ve yapay zeka tabanlı uç nokta koruma çözümlerini aşabilecek tehditlerin gelişimini hızlandıracak.
EDR’ler ve EPP’ler tarafından tespit edilmekten kaçınmaya yönelik taktikler ve teknikler, özellikle bellek manipülasyonları ve dosyasız kötü amaçlı yazılımlarda iyi bir şekilde belgelendiğinden, günümüzün uç nokta güvenlik çözümlerini atlamak için yapay zekadan yararlanmak gerekli değildir.
Ancak yapay zeka tabanlı teknolojilerdeki ilerlemeler, çok biçimli ve kaçan kötü amaçlı yazılımların oluşturulmasını otomatikleştirerek karmaşık tehditlere yönelik giriş engellerini azaltabilir.
Bu keşif, Vulcan Cyber’ın Voyager18 araştırma ekibinin, geliştiricilerin ortamlarına kötü amaçlı paketleri yaymak için ChatGPT kullanan yeni bir siber saldırı tekniğini açıklayan yakın tarihli bir tavsiyesinin ardından geldi.
Saldırganlar, ChatGPT’nin kod oluşturma yeteneklerinden yararlanarak, geleneksel yöntemleri atlayarak kötü amaçlı paketleri dağıtmak için fabrikasyon kod kitaplıklarından yararlanma potansiyeline sahip olabilir.
Yapay zeka dil modelleri gelişmeye devam ettikçe kuruluşların kendilerini bu ortaya çıkan tehditlerden korumak için dikkatli olmaları ve yapay zeka tabanlı saldırılardaki en son gelişmeleri takip etmeleri gerekiyor.
Kodlanmış talimatları kullanarak güvenlik önlemlerini aşma yeteneği, yapay zekanın yeteneği gelişmeye devam ettikçe ele alınması gereken önemli bir tehdit vektörüdür.
Run private, Real-time Malware Analysis in both Windows & Linux VMs. Get a 14-day free trial with ANY.RUN!