Google'ın Las Vegas'taki LLM bugSWAT etkinliğinde araştırmacılar, şirketin Bard AI'sındaki (eski adıyla Gemini) hataları ortaya çıkarıp bildirdiler ve 50.000 ABD doları ödül aldılar.
Roni Carta, Justin Gardner ve Joseph Thacker, Bard ve Google Cloud Console'u hacklemek için birlikte çalıştı.
Araştırmacıların bulduğu güvenlik kusurları özellikle DoS saldırılarına, kullanıcı verilerinin sızmasına ve belirli bir kullanıcıya ait yüklenen görsellere erişime olanak tanıyor olabilir.
“Görme işlevi, yüklenen herhangi bir görüntüyü işlemek ve tanımlamak için tasarlandı.
Ancak büyük bir kusuru gözlemledik. Bu kusurdan yararlandığımızda, bize başka bir kullanıcının resimlerine herhangi bir izin veya doğrulama süreci olmaksızın erişim sağladı”, diye yazdı Roni Carta blogunda.
Bard'ı hackle
Araştırmacı, bir saldırganın Bard'ı farklı bir kullanıcı tarafından yayınlanan bir fotoğrafı tanımlaması konusunda kandırarak, hedef tarafından yüklenen herhangi bir görsele etkili bir şekilde yetkisiz görsel erişim elde edebileceğini belirtti.
Kötü amaçlı yazılım analizi hızlı ve basit olabilir. Size şu yolu göstermemize izin verin:
- Kötü amaçlı yazılımlarla güvenli bir şekilde etkileşime geçin
- Linux'ta ve tüm Windows işletim sistemi sürümlerinde sanal makine kurulumu
- Bir takımda çalışın
- Maksimum veriyle ayrıntılı raporlar alın
Tüm bu özellikleri şimdi sanal alana tamamen ücretsiz erişimle test etmek istiyorsanız:
ANY.RUN'da kötü amaçlı yazılımları ücretsiz analiz edin
Ek olarak, Bard'ın optik karakter tanıma (OCR) becerisi göz önüne alındığında, bu aynı zamanda kurbanın fotoğraflarındaki e-postalar, notlar ve gelirler gibi gizli metinsel bilgilerin istenmeyen şekilde ifşa edilmesine de yol açabilir.
Bard, kullanıcı konuşmaları sırasında işaretlemeyi gerçekleştirebilir.
Araştırmacının fikri basitti:
Peki ya Bard'ın diskteki, e-postalardaki ve diğer verilerdeki dosyalarımızı özetlemesini ve ardından bunları çıkartmak için işaretlemeyi kullanmasını sağlayabilseydik? Araştırmacı fotoğraflara sızmayı düşündü.
İçerik Güvenliği Politikası (CSP), arka uç sunucusunun, bir tarayıcının hangi etki alanlarını yürütülebilir komut dosyaları, resimler, stiller vb. için meşru kaynaklar olarak kabul etmesi gerektiğini belirlemesine izin vererek Siteler Arası Komut Dosyası Çalıştırmayı (XSS) ve veri enjeksiyon tehditlerini önlemek için tasarlanmıştır.
Sonuç olarak, bir kaynağın HTTP isteği göndermesine neden olan her şey.
Araştırmacılar kurbanlarının e-posta hesaplarını başarıyla ele geçirdi. Google'ı bu güvenlik açığı konusunda hızlı bir şekilde uyardıktan sonra Justin ve Roni, 20.000 ABD Doları tutarında bir ödülle ve etkinliğin üçüncü en harika hatası için ek 1.337 ABD Doları ile ödüllendirildi!
Google Cloud Console'u hacklemek
Etkinlik kapsamında araştırmacılar, Google Cloud Console üzerinde yakın zamanda yayınlanan ve saldırabilecekleri AI özelliklerine de erişim sağladı.
Roni Carta proxy'sini hemen başlattı ve ön uç ile arka uç arasında gerçekleşen her teması inceledi. GraphQL, API uç noktalarından biriydi ve cloudconsole-pa.clients6.google.com'da çalışır durumdaydı.
Araştırmacılar GraphQL kullandıklarını keşfettiklerinde hemen Hizmet Reddi (DoS) olup olmadığını kontrol ettiler.
Yönerge aşırı yüklemesi, bir sorgu kasıtlı olarak aşırı sayıda yönergeyle oluşturulduğunda meydana gelir.
Bu, sunucunun her bir yönergeyi işlemesinden yararlanmak ve hesaplama yükünün artmasına yol açmak için yapılabilir.
Araştırmacılar daha fazla yönerge eklediğinde arka ucun isteklere yanıt vermesi daha uzun sürecektir.
Hedefin kullanılabilirliğini etkileyebilecek DoS durumlarından yararlanırken.
Araştırmacılar, “Kötü niyetli bir aktör, milyonlarca direktif içeren bir isteği kolayca hesaplayabilir ve Google'ın Arka Uçunun bir kısmını kapatmak için dakikada binlerce istek gönderebilir” dedi.
Araştırmacılara, Hata Ödül Ekibi tarafından 1.000 ABD Doları ödül verildi; ayrıca “Etkinliğin En Harika Böceği” teşviki için ekstra 5.000 ABD Doları verildi.
Yapay zekaların ürünlerinde kullanılmasıyla Google, etkili bir Güvenlik Kırmızı Ekip Oluşturma prosedürü oluşturmak istiyor; bu nedenle Bug Bounty ekibi etkinliği düzenledi.
Dünya çapındaki araştırmacılar, keşfetmedikleri kusurları aramaya zorlandılar.
Truva atları, fidye yazılımları, casus yazılımlar, rootkitler, solucanlar ve sıfır gün açıklarından yararlanmalar dahil olmak üzere kötü amaçlı yazılımları engelleyebilirsiniz. Perimeter81 kötü amaçlı yazılım koruması. Hepsi son derece zararlıdır, ortalığı kasıp kavurabilir ve ağınıza zarar verebilir.
Siber Güvenlik haberleri, Teknik İncelemeler ve İnfografiklerden haberdar olun. Bizi LinkedIn'de takip edin & heyecan