Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Check Point, AI Tool’un Kötü Amaçlı Yazılım Yeteneklerini Araştıran Hacking Forum Posterlerini Tespit Etti
Prajeet Nair (@prajeetspeaks) •
9 Ocak 2023
Siber suçlular, ChatGPT’yi kötü amaçlı yazılım betikleri oluşturmak için kullanarak yapay zeka yeteneklerini kötü amaçlı amaçlara dönüştürmekte çok az zaman kaybetti.
Ayrıca bakınız: Modern EDR ile Karmaşık Olmadan Güvenliği Yaşayın
Check Point’teki güvenlik araştırmacıları, düşük seviyeli bilgisayar korsanlığı topluluğu Breach Forums üyelerinin geçtiğimiz haftalarda OpenAI tarafından geliştirilen araçla etkileşimlerinin sonuçlarını paylaştığını buldu. Fidye yazılımı gaspı için kullanılabilecek bir Python betiği oluşturmaya yönelik bir makine öğrenimi yardımı ve Windows uygulamalarını gizlice indirmek için bir Java snippet’i içerirler.
Check Point araştırmacıları, 6 Ocak tarihli bir blogda ChatGPT’nin kodlama yeteneklerinin “oldukça basit” olduğunu yazdı. Ancak “daha sofistike tehdit aktörlerinin AI tabanlı araçları kötüye kullanma yöntemlerini geliştirmesi sadece an meselesi.”
Breach Forumlarında yayınlanan ve araştırmacılar tarafından incelenip doğrulanan yapay zeka tarafından oluşturulmuş bir komut dosyası, yaygın dosya türlerini arayan, bunları rastgele bir klasöre kopyalayan, sıkıştıran ve sabit kodlu bir FTP sunucusuna yükleyen bir bilgi hırsızı anlamına gelir. Poster, programın ne yapması gerektiğini ve hangi adımların atılması gerektiğini belirterek komut dosyasını oluşturmak için ChatGPT ile çalıştığını yazdı – aslında sözde kod yazarak.
Başka bir İhlal Edilen Forum üyesi, karanlık web pazar yerleri oluşturmak için “ChatGPT’yi kötüye kullanmak”tan bahsetti.
ChatGPT, yapay zeka araştırma laboratuvarı OpenAI’nin oluşturulmasıdır. Aracının temelini oluşturan derin öğrenme sistemi, Generative Pre-trained Transformer 3’tür. OpenAI’den yine GPT-3’e dayanan ve Codex adlı kodlama için bir yapay zeka aracını açıklayan 2021 tarihli bir makale, mevcut son teknoloji ürünü olduğu sonucuna varmıştır. makine tarafından oluşturulan kod için çevrimiçi tehdit düzeylerini önemli ölçüde artırmaz.
GPT-3 en iyi, “daha karmaşık sistemlerin bileşenleri olarak dahil edilebilecek” kod üretmek için kullanılır. OpenAI araştırmacıları, Codex’in SQL ve kabuk enjeksiyon yükleri oluşturmakta zorlandığını, ancak “bir dizindeki dosyaları tekrar tekrar şifrelemek için kod oluşturmakta hiçbir sorun yaşamadığını” yazdı. .”
İşin iç işleyişine yakından bakan biri, yapay zekanın dijital güvenlik için artan bir tehdit oluşturduğu konusunda hemfikir. “Örneğin büyük bir siber güvenlik riski oluşturan bir yapay zeka anlamında, tehlikeli derecede güçlü bir yapay zekaya yakın olmaya katılıyorum.” tweet attı Aralık başında OpenAI CEO’su Sam Altman. Altman ayrıca yapay genel zekanın önümüzdeki on yıl içinde bir gerçeklik olabileceğini tahmin etti, “bu yüzden bunun riskini de son derece ciddiye almalıyız.”