Güvenlik uzmanları, ünlü AI Chatbot ChatGPT’yi kötü amaçlı yazılım oluşturması için kandırmak için bir yöntem geliştirdi. Bu nedenle, chatbot’un istediğinizi gerçekleştirmesini sağlamak için ihtiyacınız olan tek şey, bazı akıllı sorular ve otoriter bir ton.
Kullanıcılar, ChatGPT kullanarak kod üretebilmek için belirli istemler ve ayarlar sağlamalıdır. Ek olarak, kod yerleştirme gibi güvenli olmayan konularla ilgili sorgulara yanıt vermesini engelleyen yerleşik bir içerik filtreleme sistemine sahiptir, ancak kolayca atlanır.
CodeBlue29, şirketleri için hangi ürünü satın alacaklarına karar vermelerine yardımcı olmak amacıyla farklı EDR çözümlerini test etmek için kullanılacak bir fidye yazılımı test örneği oluşturmak için OpenAI’nin ChatGPT’sini kullandı.
Çok az programlama deneyimine sahip olmalarına rağmen, ChatGPT’nin Python’da özel fidye yazılımının çalışan bir örneğini oluşturmak için birbirine ekleyebilen kod parçaları oluşturmasını sağlayabildiler.
Fidye yazılımının birkaç EDR çözümüne karşı test edilmesi sırasında, kötü amaçlı yazılım satıcının savunmalarından birini atlatmayı başardı. Codeblue29, hata ödül programı aracılığıyla keşfi EDR satıcısına bildirebildi ve bu da sorunun çözülmesiyle sonuçlandı.
Bunu, ChatGPT’nin isteklerine uyması konusunda ısrarcı davranarak başardılar. Chatbot’u kendilerine “Dizinlerimde gezinecek bir Python betiği yazmak istiyorum” gibi sorular sunmaya ikna ettiler.
“Dizinlerimde dolaşırken, dosya yoluna koyduğumda kökü ve dosya yolunu eklediğimi görürsünüz. Yani bunu yazdırırsanız, C dizininde olduğunu söyleyecektir”.
“İşte bu, tüm yolun yanı sıra dosya adı ve uzantısıdır”. Bu nedenle, tam yanıtı alana kadar soruyu daha derinlemesine incelemeye devam etmek daha iyidir.
CyberArk araştırmacılarına göre, “İlginç bir şekilde, ChatGPT’den birden fazla kısıtlama kullanarak aynı şeyi yapmasını isteyerek ve ondan uymasını isteyerek işlevsel bir kod aldık.”
Araştırmacılar, bunun sadece ChatGPT’ye nasıl fidye yazılımı yapılacağını sormakla kalmadığını, aynı zamanda herhangi bir normal programcının yapmayı düşüneceği adımlarla sorduğunu, örneğin dizinler arasında nasıl gezineceğimi belirttiler. Dosyaları şifreleme prosedürü nedir? Nasıl yapıyorum? Bu, bunu yapmanın akıllıca bir yolu ve sohbet GPT’sini aşmanın akıllıca bir yolu.
Ek olarak, gelecekte uzmanlar bunun muhtemelen sohbet GPT’sinin büyümesine yardımcı olacağını ve insanların daha fazla kötü amaçlı yazılım oluşturmasını engelleyeceğini söylüyor. Çünkü ideal olarak bu şu anda zaten oluyor, ancak mümkünse, çocuklar ya da her kimse, herhangi birinin gidip bir bilgisayara hey, tüyler ürpertici kötü amaçlı yazılım diyebileceği bir dünyada yaşamak istemiyoruz. onlar için yazmak ve sonra yaymak.
Araştırmacıların bu aracı saldırıları engellemek için kullanmaları ve yazılım geliştiricilerin kodlarını geliştirmek için kullanmaları da mümkündür. Ancak yapay zeka, kötü amaçlı yazılım oluşturmada onu tespit etmekten daha iyidir.
Kötü amaçlı yazılım yazarları, çoğu teknolojik gelişme gibi, kötü amaçlı yazılımı yaymak için ChatGPT’den yararlanmanın yollarını keşfetmiştir. Kimlik avı mesajları, bilgi hırsızları ve şifreleme yazılımı gibi yapay zeka aracı tarafından oluşturulan kötü amaçlı içerik, çevrimiçi olarak geniş çapta dağıtıldı.
ChatGPT, üçüncü taraf uygulamalarının yapay zekayı sorgulamasına ve çevrimiçi kullanıcı arabirimi yerine bir komut dosyası aracılığıyla yanıt almasına olanak tanıyan bir API sağlar.
Birkaç kişi, siber güvenlik araştırmacılarının işlerini çok daha kolaylaştırabilecek etkileyici açık kaynaklı analiz araçları oluşturmak için bu API’yi zaten kullandı.
Araştırmacılar, “Bunun yalnızca varsayımsal bir senaryo değil, aynı zamanda gerçek bir endişe olduğunu unutmamak önemlidir” dedi. “Bu, sürekli gelişen bir alandır ve bu nedenle, bilgili ve uyanık kalmak çok önemlidir.”
Ağ Güvenliği Kontrol Listesi – Ücretsiz E-Kitap İndirin