Trend Micro ve Nvidia, veri gizliliği, gerçek zamanlı analiz ve tehditlerin hızlı azaltılmasına odaklanarak özel yapay zeka bulutlarını korumak için siber güvenlik araçları üzerinde ortaklık kuruyor.
Trend Micro’nun Vision One – SPC (Sovereign ve Private Cloud) ve Cyber Security LLM dahil olmak üzere yapay zeka destekli güvenlik araçları, artık yapay zeka veri merkezlerinde halihazırda yaygın olarak kullanılan Nvidia GPU’larından sunulacak. ChatGPT ve Microsoft’un BingGPT’si de dahil olmak üzere, yaygın olarak bilinen geniş dilli modellerin birçoğu bugün Nvidia’nın GPU’larında çalışıyor.
“En iyi bulut ve yapay zeka satıcıları Nvidia teknolojisini kullanıyor ve en iyi sunucu satıcıları da Nvidia sertifikalı donanımlar sunuyor. Hepsini güvence altına almayı hedefliyoruz” diyor bir Trend Micro sözcüsü.
IDC’nin güvenlik ve güven araştırma uygulamalarından sorumlu grup başkan yardımcısı Fran Dickson, bu teklifin özel bulut çalıştıran bankalara ve ilaç şirketlerine ya da yapay zeka modellerinde kullanılan özel verilerin korunmasına büyük yatırım yapan şirketlere hitap edebileceğini söylüyor.
Dickson, “Şirketinizin getirisini artırmak için bir kaynağa büyük bir yatırım yapıyorsunuz. Bunun uygun şekilde kullanıldığından emin olmak istiyorsunuz” diyor. “Eğer içine hızlı bir motor koyarsam gerçekten iyi frenler isterim.”
Güvenlik için GPU’lar
Analistler, GPU’ların telemetriyi analiz etmede ve güvenlik önlemleri önermede geleneksel CPU’lara göre daha hızlı olduğunu söylüyor.
Dickson, Trend Micro’nun Nvidia GPU’larını çalıştıran güvenlik araçlarının izinsiz girişleri ve tehditleri tespit etme ve bunlara karşı koruma sağlama konusunda daha karmaşık bir iş çıkaracağını söylüyor; çünkü yapay zeka koruması, özel yapay zeka donanımı gerektiriyor. Dickson, “Nvidia işlemcisinin, yoğun bilgi işlem gerektiren ve son derece paralel olan çok seçici bir görev grubunda gerçekten süper hızlı hareket etmesi amaçlanıyor” diyor.
Technaliz analisti Bob O’Donnell, bilgisayar korsanlarının verileri değiştirip modele zarar vermesiyle ortaya çıkan yapay zeka veri zehirlenmesinin büyüyen bir endişe kaynağı olduğunu ve GPU’ları çalıştıran güvenlik araçlarıyla daha iyi korunduğunu söylüyor. O’Donnell, “Benim yorumladığım kadarıyla, geleneksel olarak CPU’lara odaklanan bu iş yüklerinden bazıları GPU’larda ve daha hızlı yapılıyor” diyor.
Şirket, Trend Micro’nun araçlarının veri tahrifatının yanı sıra yetkisiz erişimi de kapatacağını ve günlüklerden ve ağ aktivitesinden anormal eğilimleri belirleyeceğini söyledi.
NIM’in Rolü
Nvidia, Trend Micro’nun AI tabanlı güvenlik hizmetlerini GPU’lar üzerinden sunması için NIM (Nvidia Inference Microservices) adı verilen özel bir arayüz sağlıyor. NIM, bu yılın Mart ayında Nvidia tarafından GTC konferansında tanıtılan nispeten yeni bir kavramdır.
NIM, şirketlerin yazılımlarını GPU hızlandırıcılarda CPU’lardan önemli ölçüde daha hızlı çalıştırmalarına olanak tanır. SAP, ServiceNow ve Snowflake, müşterilerin etkileşimde bulunması veya yazılım hizmeti sunması için NIM’leri kullanan 200 şirket arasında yer alıyor.
GPU kapsayıcısı, uygulamalara hizmet verecek işletim sistemi öğelerini içerir ve NIM, doğru verilere, bağımlılıklara, LLM’lere ve programlama araçlarına erişim sağlar.
Trend Micro, siber güvenlik araçlarını Nvidia’nın önceden eğitilmiş yapay zeka araçlarına takmak için NIM’in sağladığı esneklikten de yararlanıyor. Nvidia’nın Morpheus adlı bir güvenlik yapay zeka modeli, ağ günlüklerindeki ve oturum açmalardaki anormal etkinlikleri belirleyerek ve etkinlikleri güvenlik bültenleriyle karşılaştırarak sistem yöneticilerini bekleyen tehditlere karşı uyarıyor.
“Gelecekte her şirketin geniş bir NIM koleksiyonuna sahip olacağına inanıyorum ve istediğiniz uzmanları bir araya getirebilirsiniz. Onları bir ekibe bağlarsınız ve onları tam olarak nasıl bağlayacağınızı bulmanıza bile gerek kalmaz. ” dedi Nvidia CEO’su Jensen Huang, Taipei’deki Computex ticaret fuarındaki açılış konuşmasında.
Computex’e katılan O’Donnell, PC’lerdeki ve sunuculardaki yapay zeka hızlandırıcılardan yararlanan Trend Micro güvenlik ürünlerinin gösteri salonundaki gösterilerini gördü.
O’Donnell, yapay zeka veri merkezlerinin güvenliğini sağlamak için NIM kullanarak uygulamaların dağıtılması kavramının yeni olduğunu söylüyor. O’Donnell, “İnsanlar bunları çözmeye çalışıyor. Ne tür güvenlik sorunlarının olduğu veya olabileceği konusunda pek çok soru var” diyor.
Dickson da aynı fikirde, güvenlik yazılımı yığınını uygulamada zorluklar olabileceğini ve bunun çok fazla öğrenme ve eğitim gerektireceğini söylüyor. Dickson, “Bunu uyguladıkça, özellikle de her sunucu grubu benzersiz olacağından, bu benzersizliği keşfetmeniz ve bu araçları o benzersiz ortama uygulamanız gerekecek” diyor.