Mozilla’nın 0Din’i, ChatGPT’nin sanal alanındaki kritik kusurları ortaya çıkararak Python kodunun yürütülmesine ve dahili yapılandırmalara erişime olanak tanır. OpenAI beş sorundan yalnızca birini ele aldı.
Mozilla’nın 0Din’indeki siber güvenlik araştırmacıları OpenAI’de çok sayıda güvenlik açığı tespit etti SohbetGPT Korumalı alan ortamı. Bu kusurlar kapsamlı erişim sağlayarak Python komut dosyalarının yüklenmesine ve yürütülmesine ve dil modelinin dahili yapılandırmalarının alınmasına olanak tanır. OpenAI, beş ayrı sorun bildirmesine rağmen şu ana kadar yalnızca bir tanesini ele aldı.
Araştırma, 0Din’deki GenAI Bug Bounty Programları Yöneticisi Marco Figueroa’nın bir Python projesi için ChatGPT’yi kullanırken beklenmedik bir hatayla karşılaşmasıyla başladı. Bu, sanal alanın derinlemesine araştırılmasına yol açtı ve Debian tabanlı kurulumun beklenenden daha erişilebilir olduğunu ortaya çıkardı.
Araştırmacı, ayrıntılı komut istemi mühendisliği sayesinde basit komutların dahili dizin yapılarını açığa çıkarabileceğini ve kullanıcıların dosyaları değiştirmesine olanak tanıyarak ciddi güvenlik endişelerini artırabileceğini keşfetti.
Sandbox’tan Yararlanmak
Araştırmacılar, kullanıcıların ChatGPT ortamında dosyaları nasıl yükleyebileceğini, yürütebileceğini ve taşıyabileceğini gösteren adım adım bir süreci detaylandırdı. Anında enjeksiyonlardan yararlanarak, sanal alan içindeki dosyaları listeleyebilen, değiştirebilen ve yeniden konumlandırabilen Python komut dosyalarını çalıştırabildiler.
Özellikle rahatsız edici keşiflerden biri, modelin temel talimatlarını ve bilgi tabanını çıkarma ve ChatGPT’nin etkileşimlerini yönlendiren “oyun kitabına” etkili bir şekilde erişme yeteneğiydi.
Bu erişim seviyesi kötü bir haber çünkü kullanıcıların modelin konfigürasyonu hakkında bilgi edinmesine ve sistem içinde gömülü olan hassas verilerden yararlanmasına olanak tanıyor. Kullanıcılar arasında dosya bağlantılarını paylaşma yeteneği, tehdidi daha da artırarak, kötü amaçlı komut dosyalarının yayılmasına veya yetkisiz veri erişimine olanak tanır.
OpenAI’nin Yanıtı: Kusurlar Değil Özellikler
göre teknik yazı Marco tarafından yayınlanan bir raporda, bu güvenlik açıklarını keşfeden araştırma ekibi bunları OpenAI’ye bildirdi. Ancak yapay zeka firmasından gelen yanıt oldukça beklenmedik oldu. OpenAI, bildirilen beş kusurdan yalnızca birini ele aldı ve geri kalan sorunları hafifletmek için net bir plan yapmadı.
OpenAI korumalı alanın kontrollü bir ortam olacak şekilde tasarlandığını ve kullanıcıların genel sistemden ödün vermeden kod çalıştırmasına olanak tanıdığını savunuyor. Korumalı alan içindeki etkileşimlerin çoğunun güvenlik sorunlarından ziyade kasıtlı özellikler olduğunu savunuyorlar. Ancak araştırmacılar, sağlanan erişimin kapsamının izin verilmesi gereken düzeyi aştığını ve bunun da muhtemelen sistemin yetkisiz kullanıma maruz kalmasına yol açtığını iddia ediyor.
Uzmanlar, yapay zeka güvenliğinin mevcut durumunun hala ilk yıllarında olduğu ve birçok güvenlik açığının henüz çözülmediği konusunda uyarıyor keşfedildi ve ele alındı. Bununla birlikte, dahili konfigürasyonları çıkarma ve sandbox içinde isteğe bağlı kod yürütme yeteneği, uygun güvenlik önlemlerine olan ihtiyacı göstermektedir.
Roger GrimesKnowBe4 Veri Odaklı Savunma Evangelisti, durumu değerlendirdi ve Marco Figueroa’yı yapay zeka sistemlerindeki kusurları sorumlu bir şekilde tespit edip bildirdiği için övdü.
“Bu kusurları bulup sorumlu bir şekilde bildirdiği için Mozilla’dan Marco Figueroa’ya teşekkür ederiz. Birçok kişi çeşitli LLM AI’lerinde tonlarca kusur buluyor. Artık LLM AI’leri kötüye kullanmanın 15 farklı yoluna ulaşan bir listem var, hepsi de bu yeniler gibi, herkesçe biliniyor.“
Roger, yapay zeka olgunlaştıkça daha basit güvenlik açıklarının düzeltileceğini, ancak yapay zeka dışı sistemlerdeki güvenlik açıklarının sürekli keşfedilmesine benzer şekilde yeni, daha karmaşık olanların ortaya çıkmaya devam edeceğini ekledi.
“Ancak, tıpkı bu yıl, kamuya açık olarak bilinen 35.000 ayrı yeni güvenlik açığının keşfedildiği günümüzün yapay zeka olmayan dünyasında olduğu gibi, yapay zekadaki güvenlik açıkları da gelmeye devam edecek… yapay zekaya kendisini düzeltmesini söylediğimizde bile. Bu her şeyin doğasıdır, özellikle de kodun.“
İLGİLİ KONULAR
- OpenAI, Annemi Hassas Yapay Zeka Araştırmalarının Hacklenmesi Hakkında Tuttu
- Binlerce Dark Web Gönderisi ChatGPT’nin Kötüye Kullanım Planlarını Ortaya Çıkardı
- ChatGPT Eklentileri Kritik Kusurlara ve Riskli Kullanıcı Verilerine Maruz Kalıyor
- Bilgili Denizatı, DNS Yatırım Dolandırıcılığında Sahte ChatGPT Kullanıyor
- Tehlike Altındaki ChatGPT Kimlik Bilgilerinin Büyük Satışı Ortaya Çıktı