Şirket bir blog gönderisinde, bilgisayar korsanlarının kullanıcı sırlarına erişmek için yapay zeka (AI) şirketi Hugging Face’in platformuna sızdığını açıkladı.
Google ve Amazon tarafından finanse edilen Hugging Face, yapay zeka/makine öğrenimi (ML) uygulamalarını ve işbirliğine dayalı model geliştirmeyi sergilemeye yönelik bir barındırma hizmeti olan Spaces platformuna yetkisiz erişim tespit etti. Kısacası platform, kullanıcıların AI ve ML uygulamalarını oluşturmasına, barındırmasına ve paylaşmasına, ayrıca başkaları tarafından yapılan AI uygulamalarını keşfetmesine olanak tanır.
Sarılma Yüz Hack’i İstismar Edilen Tokenlar
Hugging Face, Spaces’ın sırlarının bir alt kümesine izinsiz erişilmiş olabileceğinden şüpheleniyor. Bu güvenlik olayına yanıt olarak şirket, bu sırlarda bulunan birkaç HF tokenini iptal etti ve etkilenen kullanıcıları e-posta yoluyla bilgilendirdi.
“Herhangi bir anahtarı veya jetonu yenilemenizi ve HF jetonlarınızı yeni varsayılan olan ayrıntılı erişim jetonlarına geçirmenizi öneririz.” Sarılma Yüz dedi.
Şirket, soruşturmayı sürdüren olaydan etkilenen kullanıcı sayısını açıklamadı.
Hugging Face, son birkaç gün içinde Spaces’ın güvenliğini sıkılaştırmak için daha iyi izlenebilirlik ve denetim yetenekleri sunan kuruluş belirteçleri, anahtar yönetim hizmetinin uygulanması ve sistemlerinin sızdırılan belirteçleri belirleme ve bunları geçersiz kılma yeteneğini genişletme dahil olmak üzere “önemli” iyileştirmeler yaptığını söyledi. .
Ayrıca ihlali harici siber güvenlik uzmanlarıyla araştırıyor ve olayı kolluk kuvvetlerine ve veri koruma kurumlarına bildirdi.
Hizmet Olarak Yapay Zeka Sağlayıcılarına Karşı Büyüyen Tehditler
Hugging Face gibi hizmet olarak yapay zeka (AIaaS) sağlayıcılarının karşılaştığı riskler hızla artıyor çünkü bu sektörün hızlı büyümesi, platformları kötü amaçlarla istismar etmek isteyen saldırganlar için onları kazançlı bir hedef haline getiriyor.
Nisan ayı başlarında bulut güvenlik firması Wiz, Hugging Face’te, rakiplerin kiracılar arası erişim elde etmesine ve sürekli entegrasyon ve sürekli dağıtım (CI/CD) işlem hatlarını devralarak AI/ML modellerini zehirlemesine olanak verebilecek iki güvenlik sorununu ayrıntılarıyla anlattı.
Wiz, tehdidi ayrıntılarıyla açıklayan bir raporda, “Kötü niyetli bir aktör Hugging Face’in platformunu tehlikeye atarsa, potansiyel olarak özel yapay zeka modellerine, veri kümelerine ve kritik uygulamalara erişim kazanabilir, bu da geniş çapta hasara ve potansiyel tedarik zinciri riskine yol açabilir” dedi.
Wiz araştırmacılarının tespit ettiği güvenlik sorunlarından biri Hugging Face Spaces platformuyla ilgiliydi. Wiz, bir saldırganın uygulama oluşturma süresi boyunca rastgele kod yürütebileceğini ve bu sayede makinelerindeki ağ bağlantılarını inceleyebileceğini buldu. İncelemesi, diğer müşterilere ait görselleri barındıran ve araştırmacıların manipüle edebileceği paylaşılan bir konteyner kayıt defterine bağlantı olduğunu ortaya çıkardı.
HiddenLayer tarafından yapılan önceki araştırma, Hugging Face Safetensors dönüştürme hizmetindeki kusurları tespit etmişti; bu kusurlar, saldırganların kullanıcılar tarafından sunulan yapay zeka modellerini ele geçirmesine ve tedarik zinciri saldırıları düzenlemesine olanak tanıyordu.
Hugging Face ayrıca Aralık ayında Lasso Security tarafından bildirilen kritik API kusurlarını düzelttiğini doğruladı.
Hugging Face, bu güvenlik endişelerini aktif olarak ele aldığını ve platformunun ve kullanıcılarının güvenliğini ve bütünlüğünü sağlamak için son zamanlardaki yetkisiz erişimi araştırmaya devam ettiğini söyledi.