Yapay zekanın hızlı bir şekilde kabul edilmesi ciddi güvenlik sorunlarına yol açıyor çünkü bu, paylaşılan bulut yapay zeka altyapısındaki hassas bilgilerin korunması için sıkı güvenlik önlemlerinin alınmasını gerektiriyor.
Bir siber güvenlik firması olan Wiz Research, Hizmet Olarak Yapay Zeka firmalarıyla işbirliği içinde, yakın zamanda sektör genelinde kullanıcıların kişisel verilerini ve modellerini açığa çıkarabilecek bazı yaygın güvenlik kusurlarını keşfetti.
Yapay zeka hizmetlerinin artık bulut ortamlarının %70’inden fazlasında mevcut olduğu göz önüne alındığında, bu bulguların sonuçlarının ciddiye alınması gerekmektedir.
Hizmet Olarak Yapay Zeka Sağlayıcılarının Güvenlik Açığı
Kötü amaçlı modeller, kiracılar arası saldırılara ve hizmet olarak yapay zeka sağlayıcıları içindeki milyonlarca özel yapay zeka modeline ve uygulamasına erişime olanak tanıyarak ciddi bir tehdit oluşturur. Wiz, Hugging Face’in ortamındaki kritik riskleri ortaya çıkardı: –
- Potansiyel uzaktan kod yürütme yüklerine sahip güvenilmeyen turşu serileştirilmiş modeller aracılığıyla paylaşılan çıkarım altyapısının devralınma riski.
- Tedarik zinciri saldırıları için hattı tehlikeye sokan kötü amaçlı yapay zeka uygulamaları nedeniyle paylaşılan CI/CD devralma riski.
AI/ML sistemlerinin güvenliğini sağlarken, kullanılan AI modeli, modeli kullanan uygulama kodu ve modeli dağıtan çıkarım altyapısı gibi çeşitli faktörlerin dikkate alınması gerekir.
Kötü niyetli kişiler, her bir bileşene saldırmak için, modeller için kötü niyetli girişler, bir modelin sonuçlarını işleyen güvenli olmayan uygulama kodları ve çıkarım altyapılarını tehlikeye atan seçilmiş modeller dahil olmak üzere çeşitli yöntemler kullanabilir.
Bu, uygulamalara güvenilmez kodlar yerleştirmeye benzer şekilde, güvenilmez yapay zeka modellerinin indirilmesini içerir.
Hugging Face araştırma ekibi, şirketin ana ürünlerini inceleyerek hizmet olarak yapay zeka kurulumlarındaki izolasyon kusurlarına odaklandı:
- Çıkarım API’si
- Çıkarım Uç Noktaları
- Alanlar
%20(1).webp)
Ancak Hugging Face’in güvensiz Pickle tabanlı PyTorch modellerine ilişkin analizleri ve uyarıları, potansiyel olarak kötü amaçlı modellerin çıkarımına hâlâ izin veriyor.
Öte yandan araştırmacılar, yüklendiğinde rastgele kod çalıştıran ve onunla etkileşim kurmak için Çıkarım API’sini kullanarak kodu uzaktan çalıştıran zararlı bir PyTorch modeli geliştirdiler.
Araştırmacılar, Hugging Face’in seri durumdan çıkarma sonrası çıkarım sonuçları yönetim koduna bağlanarak kabuk benzeri işlevsellik elde etti.
Bu, paylaşılan bilgi işlem hizmetlerindeki güvenilmeyen yapay zeka modellerinin, yetersiz izolasyon nedeniyle ne kadar büyük risk altında olduğunu gösteriyor.
Hugging Face Inference API aracılığıyla ters kabuk kazanmanın bir sonucu olarak araştırmacılar, Amazon EKS Kubernetes kümesindeki bir bölmenin içinde olduklarını fark ettiler.
AWS izinleri aracılığıyla düğüm rolünü ve küme adını almak için düğümün IMDS’sini sorgulamak gibi yaygın yanlış yapılandırmalardan yararlandılar.
Düğüm rolü ayrıcalıklarıyla bu kişiler, bölme bilgilerinin yanı sıra yanal hareket ve veri sızıntısı risklerini gün ışığına çıkaran sırlara da erişebildi.
Ayrıca, Hugging Face Spaces’ta kötü amaçlı bir Dockerfile kullanarak kod çalıştırdı ve bu, konteyner kayıt defterindeki ağ izolasyon sorunlarının neden olduğu potansiyel tedarik zinciri saldırı vektörlerini gösterdi.
Araştırmacılar, paylaşılan yapay zeka ortamının güvenliğini sağlamak için IMDSv2’ye Hop sınırlamalarıyla izin verilmesi, daha sıkı erişim kontrolleri uygulanması ve kimlik doğrulama önlemlerinin uygulanması çağrısında bulundu.
Secure your emails in a heartbeat! Take Trustifi free 30-second assessment and get matched with your ideal email security vendor - Try Here