Almanya’daki Clausthal Teknik Üniversitesi ve Avustralya’daki CUBE Global’den araştırmacılar, OpenAI tarafından geliştirilen büyük bir dil modeli olan ChatGPT’nin kriptografik kötüye kullanımı tespit etme potansiyelini araştırdı.
Bu araştırma, veri gizliliğini korumak için kritik öneme sahip olan kriptografik uygulamalardaki güvenlik açıklarını belirleyerek yazılım güvenliğini artırmak için yapay zekanın nasıl kullanılabileceğini vurgulamaktadır.
Kriptografi, yazılım uygulamalarındaki verileri güvence altına almak için olmazsa olmazdır. Ancak geliştiriciler sıklıkla kriptografik API’leri kötüye kullanırlar ve bu da önemli güvenlik açıklarına yol açabilir.
Bu tür kötüye kullanımları tespit etmek için tasarlanan geleneksel statik analiz araçları tutarsız performans göstermiştir ve tüm geliştiriciler tarafından kolayca erişilebilir değildir.
Bu durum araştırmacıları, etkili güvenlik araçlarına erişimi demokratikleştirme potansiyeli olan ChatGPT gibi alternatif çözümleri araştırmaya yöneltti.
Uyumluluğun Kodunu Çözme: CISO’ların Bilmesi Gerekenler – Ücretsiz Web Seminerine Katılın
Çalışmada, Java kriptografisi kötüye kullanım tespit araçlarının değerlendirilmesi için özel olarak tasarlanmış CryptoAPI-Bench kıyaslaması kullanılarak karşılaştırmalı bir analiz yürütülmüştür.
Sonuçlar ümit vericiydi: ChatGPT, 12 kriptografik kötüye kullanım kategorisinde ortalama %86’lık bir F ölçüsü gösterdi.
Özellikle, önde gelen bir statik analiz aracı olan CryptoGuard’ı birkaç kategoride geride bıraktı. Örneğin, ChatGPT, CryptoGuard’ın %76,92’sine kıyasla tahmin edilebilir anahtarları tespit etmede %92,43’lük bir F-ölçümü elde etti.
Bu araştırmadaki en önemli yeniliklerden biri ChatGPT’nin performansını iyileştirmek için istem mühendisliğinin kullanılmasıydı.
Araştırmacılar, ChatGPT’ye sorgu göndermek için kullanılan istemleri iyileştirerek ortalama F-ölçüsünü %94,6’ya çıkarmayı başardılar.
Bu geliştirme, ChatGPT’nin 12 kategoriden 10’unda en son teknoloji araçları geride bırakmasını ve kalan ikisinde de neredeyse aynı sonuçları elde etmesini sağladı.
Bu araştırmanın çıkarımları yalnızca kriptografi kötüye kullanımı tespitinin ötesine uzanıyor. ChatGPT gibi AI modellerinin çeşitli güvenlikle ilgili görevler için nasıl uyarlanabileceğini ve potansiyel olarak yazılım güvenliği testinin manzarasını nasıl dönüştürebileceğini gösteriyor.
Yapay zekanın güvenlik testlerine entegre edilmesi, güvenlik açıklarına ilişkin daha ayrıntılı içgörüler sağlayabilir ve bu süreçlerin verimliliğini ve etkinliğini artırabilir.
Ancak, AI’nın güvenlikte kullanımı zorluklar da sunar. AI güvenlik uygulamalarına daha fazla entegre oldukça, veri gizliliği ve etik konularla ilgili endişeler ele alınmalıdır.
Ayrıca, yapay zeka modellerinin gelişen tehditlere karşı etkililiğini koruyabilmesi için sürekli değerlendirilmesi ve iyileştirilmesine ihtiyaç duyulmaktadır.
Araştırmacılar, GPT-4o gibi daha yeni modellerin yeteneklerini daha fazla keşfetmeyi ve testlerini gerçek dünyadaki kriptografi API kullanım durumlarını da içerecek şekilde genişletmeyi planlıyor.
Devam eden bu araştırma, yapay zeka tabanlı yaklaşımların geliştirilmesine ve karmaşık güvenlik zorluklarıyla başa çıkabilecek kadar sağlam olmalarının sağlanmasına yardımcı olacak.
Bu çalışma, ChatGPT gibi yapay zeka teknolojilerinin, geleneksel araçlara kıyasla kriptografik kötüye kullanımları daha etkili bir şekilde tespit ederek yazılım güvenliğini artırmadaki potansiyelini vurguluyor.
Yapay zeka gelişmeye devam ettikçe siber güvenlikteki rolünün de genişlemesi, veri korumasını iyileştirmek ve yazılım sistemlerindeki güvenlik açıklarını azaltmak için yeni fırsatlar sunması muhtemeldir.
Yapay zeka aracılığıyla gelişmiş güvenlik araçlarına erişimin demokratikleştirilmesiyle, geliştiriciler güvenli kriptografik uygulamaları hayata geçirmek konusunda daha donanımlı hale getirilebilir ve bu da daha güvenli yazılım uygulamalarının ortaya çıkmasına yol açabilir.
Are You From SOC/DFIR Teams? - Try Advanced Malware and Phishing Analysis With ANY.RUN - 14-day free trial