NB Defense, makine öğrenimi tedarik zincirinin başlangıcında kullanılan temel bir bileşen olan Jupyter Notebook’lardaki güvenlik açıklarını giderir. Bu, hızla büyüyen bir güvenlik sorunudur ve daha fazla kuruluş makine öğrenimini üretim ortamlarına taşıdıkça her yıl önemli ölçüde artmaktadır. Bugün, kamuya açık 10 milyonun üzerinde not defteri var ve yılda 2 milyondan fazla büyüyor ve birçoğu özel depolarda.
Şirket, AWS ve Oracle’ın en büyük ve en başarılı yapay zeka işletmelerinin bazılarına liderlik etmiş, yeni pazar kategorileri oluşturma ve makine öğrenimi alanında başarılı startup’lar başlatma konusunda güçlü geçmişe sahip, kendini kanıtlamış bir liderlik ekibi tarafından kurulmuştur.
Tur, başarılı siber güvenlik yatırımcıları Acrew Capital ve cesur başlangıç girişimleri tarafından yönetildi. Sırasıyla Mark Kraynak ve Ed Sim, Protect AI Yönetim Kurulu’na katıldı. Ek yatırımcılar arasında Knollwood Capital, Pelion Ventures, Avisio Ventures ve deneyimli siber güvenlik liderleri Shlomo Kramer, Nir Polak ve Dimitri Sirota yer alıyor.
“Kuruluşlar AI/ML’yi üretime soktukça, sunduğu değerle orantılı olarak korunmalıdır. Protect AI’nın kurucu ortağı ve CEO’su Ian Swanson, “Yüz binden fazla müşterinin AI/ML sistemlerini kullandığını gördüm ve pazardaki günümüzün siber güvenlik çözümlerinin ele almadığı yeni ve benzersiz bir güvenlik tehdidi yüzeyi sunduklarını fark ettim” dedi. .
“Bu nedenle Protect AI’yı kurduk. Makine öğrenimi geliştiricileri ve güvenlik ekipleri, yapay zeka sistemlerini güvence altına alan yeni araçlara, süreçlere ve yöntemlere ihtiyaç duyar. Makine öğrenimi kodunun neredeyse tamamı bir not defteriyle başladığından, gerekli bir sektör geçişini hızlandırabilmemiz için başlamak için en mantıklı yerin burası olduğunu düşündük. Yapay zeka destekli daha güvenli bir dünya oluşturmak için bu yeni MLSecOps kategorisine öncülük etmeye yardımcı olan ücretsiz bir ürünü şu andan itibaren kullanıma sunuyoruz. Ancak makine öğrenimi tedarik zincirinin tamamında hızla piyasaya sürülecek çok daha fazla yeniliğimiz var.”
MLOps, üretimde kullanılan makine öğreniminin hızını artırmaya yardımcı olduğundan, güvenlik olayları için fırsatlar arttı ve kurumsal makine öğrenimi tedarik zincirinde yeni güvenlik açıkları yaratıldı. Makine öğrenimi yazılımı tedarik zincirindeki yeni güvenlik risklerinden bazıları, mevcut statik kod çözümleyicilerle uyumsuz olan Jupyter Not Defterlerini, seri hale getirilmiş modellerde rastgele kod yürütmeyi, zehirli eğitim verilerini ve rakip makine öğrenimi tekniklerini kullanan model kaçırmayı içerir.
MLSecOps (makine öğrenimi + güvenlik + işlemler) ihtiyacı
MLSecOps, güvenliğin makine öğrenimi modeli geliştirme yaşam döngüsüne daha önce dahil edilmesini içeren, uygulama güvenliğinde yeni ve çok ihtiyaç duyulan bir uygulamadır.
“ML, tıpkı mobil web, IOT ve Web3 gibi tamamen yeni bir uygulama sınıfı ve temel altyapıdır. Yeni uygulama ekosistemleri için güvenlik aynı yayı izler: güvenlik açıklarına ilişkin bilgi, ardından bunları bulma yeteneği, ardından bağlamsal anlayış ve önceliklendirme ekleme ve son olarak otomatik düzeltme. Acrew Capital’in kurucu ortağı Mark Kraynak, Protect AI, AI sistemleri için bu uçtan uca arkı etkinleştirecek. “NB Defence ile attığımız bu ilk adım için heyecanlıyız ve daha pek çok şey olacağı için liderlik ekibiyle çalışmayı dört gözle bekliyoruz.”
Makine öğrenimi uygulayıcıları tarafından kullanılan temel bir bileşenin güvenliğini artırma – Jupyter Notebooks
Makine öğrenimi uygulayıcıları, canlı kod, denklemler, görselleştirmeler, veriler ve metin içeren belgeler oluşturmak ve paylaşmak için not defterlerini kullanır. Dizüstü bilgisayarlar bir kuruluş içinde güvenlik riskleri oluşturabilir ve mevcut siber güvenlik çözümleri bu alanı ele almıyor.
Aslında, Protect AI, 1000’den fazla genel Jupyter Not Defterini taramak için NB Defense’i kullandı ve açığa çıkan sırlara, kişisel olarak tanımlanabilir bilgilerin sızdırılmasına ve bir saldırganın hassas veritabanlarına erişim elde etmek de dahil olmak üzere bulut sistemlerini tehlikeye atmak için yararlanabileceği kritik güvenlik açıklarına ilişkin birçok örnek buldu. Mevcut siber güvenlik çözümleri, yaygın olarak kullanılan bu aracı kapsamıyor.
Kapsamdaki bu boşluk, bir kuruluşun kod tabanının kritik bir bölümünün görünmeyen güvenlik açıkları içerebileceği ve sıfırıncı gün açıklarından yararlanma riskleri oluşturabileceği anlamına gelir. “Maalesef yüzlerce müşteriyle çalıştıktan sonra, makine öğrenimi kodunun işletmelerde yaygın olarak taranmadığını öğrendim. Ayrıca, makine öğrenimine özgü tarama ve yapay zeka güvenlik açığı düzeltmesi, çoğu CISO için henüz bir öncelik değil” dedi. “Bunun nedeni, şimdiye kadar hem yapay zeka oluşturuculara hem de siber güvenlik profesyonellerine hizmet verirken bu özel ihtiyacı hedefleyen araçların mevcut olmamasıdır. Protect AI, bu boşluğu giderir.”
NB Defence nedir ve nasıl çalışır?
NB Defense, Jupyter Not Defterleri için bir çözümdür. NB Defense, Jupyter Not Defterlerinin taranmasını sağlamak için geleneksel güvenlik yeteneklerinden bir çeviri katmanı oluşturur, ardından bulguları not defterinde yerel olarak veya düzeltme için not defterindeki sorunlu alanlara bağlama özel bağlantılarla okunması kolay raporlar aracılığıyla geri iletir. Bir dizüstü bilgisayarın NB Defense güvenlik taramaları şunları kontrol eder:
- Makine öğrenimi açık kaynak çerçeveleri, kitaplıkları ve paketlerindeki yaygın güvenlik açıkları ve riskler
- Bir dizi hizmet ve ürün üzerinden kimlik doğrulama belirteçleri ve diğer kimlik bilgileri
- Makine öğrenimi açık kaynak çerçevelerinde, kitaplıklarında ve paketlerinde izin verilmeyen lisanslar
- Hassas veriler ve kişisel olarak tanımlanabilir bilgiler
Kritik olarak, NB Defense, MLOps araçlarında çalışacak ve günümüzde makine öğrenimi yaptıkları işletmelerle etkin bir şekilde buluşacak. Protect AI Ürün Başkanı Chris King, “Her müşterinin Makine Öğrenimi süreci, veri bilimcileri için önemli bir çalışma tezgahı olarak Jupyter’ı içerir; bu durum, müşterilerin AWS, Azure, GCP veya diğer çözümler kullanması durumunda değişmez” dedi.
“NB Defence’i tüm bu platformlarla çalışacak, çalıştıkları yerde veri bilimcilerle buluşacak ve üretkenliklerini veya yaratıcılıklarını engellemeden iş yüklerinin güvenlik duruşlarını iyileştirmeleri için onlara güç verecek şekilde inşa etmemiz çok önemliydi. Bir dizüstü bilgisayarın güvenliğini sağlamak yalnızca ilk adımdır ve müşteriler, makine öğrenimi ortamlarını uçtan uca güvence altına almalarına yardımcı olan hızlı ürün ve çözümler bekleyebilirler.”
NB Defence bugün ücretsiz bir lisans altında mevcuttur. Kullanıcılar, NB Defense’i kolayca yükleyebilir ve JupyterLab Uzantısını veya Komut Satırı Arayüzünü (CLI) kullanabilir. Ürün ayrıca, herhangi bir değişiklik havuza girmeden önce bir kullanıcının tarama yapmasına olanak tanıyan ön taahhüt kancası desteğiyle makine öğrenimi geliştirme iş akışlarına gömülmek üzere tasarlanmıştır. NB Defense güvenlik taramaları, GitHub Action veya başka herhangi bir CI/CD işlemi aracılığıyla da planlanabilir.