Koruma AI, Laiyer AI’yi satın aldığını duyurdu. Satın almayla birlikte Koruma AI, Laiyer AI’nin açık kaynaklı LLM Guard’ının, Koruma AI platformunda genişletilmiş özelliklere, yeteneklere ve entegrasyonlara sahip ticari bir versiyonunu sunacak.
LLM Guard bugün ücretsiz olarak mevcuttur ve büyük dil modellerini (LLM’ler) güvenlik tehditlerine, kötüye kullanıma ve hızlı enjeksiyon saldırılarına karşı korumaya yönelik sektör lideri bir açık kaynak projesidir ve aynı zamanda risk ve uyumluluk ihtiyaçlarını yönetmek için araçlar sağlar.
OpenAI’nin GPT-4’ü ve diğer yüksek lisans programları yapay zekada devrim yaratıyor ve insan dilini anlama ve üretme konusunda mükemmelleşiyor. Bunların benimsenmesi, müşteri hizmetleri, sağlık hizmetleri ve içerik oluşturma da dahil olmak üzere çeşitli sektörleri kapsıyor ve çok sayıda sektör analistine göre pazarın 2023’teki 11,3 milyar ABD dolarından 2028’de beklenen 51,8 milyar ABD dolarına yükselmesini sağlıyor. Sohbet robotları ve sanal asistanlar gibi uygulamalara olan talebin körüklediği bu büyüme, LLM’leri rekabet avantajı için metinsel verilerden yararlanmak isteyen işletmeler için temel araçlar olarak konumlandırıyor. Ancak güvenlik ve kötüye kullanım endişeleri, büyük şirketler arasında daha geniş çapta benimsenmesini sınırlıyor.
“Protect AI, önde gelen AI ve ML güvenlik platformumuzu önemli ölçüde geliştiren Laiyer AI ekibini ve ürün paketini satın aldığını duyurmaktan büyük heyecan duyuyor. Bu yeni yetenekler, otomotiv, enerji, imalat, yaşam bilimleri, finansal hizmetler ve devlet sektörlerindeki müşterilerimize güvenli, emniyetli GenAI uygulamaları geliştirme konusunda güç verecek” dedi Koruma AI CEO’su Ian Swanson. “Sektör lideri platformumuz artık LLM istemlerini ve yanıtlarını yönetmek için gelişmiş özelliklere ve filtrelere sahip, son kullanıcı deneyimini geliştiriyor ve Üretken Yapay Zeka uygulamalarını korumaya olan bağlılığımızı yeniden doğruluyor.”
2023 yılında OWASP LLM Uygulamaları için En İyi 10 sıralamasında, iş liderlerinin anlaması gereken Büyük Dil Modellerinin dağıtımıyla ilişkili benzersiz güvenlik riskleri vurgulandı. Temel riskler arasında hızlı enjeksiyonlar, eğitim verilerinin zehirlenmesi ve tedarik zincirindeki güvenlik açıkları yer alır. Saldırganların özel hazırlanmış girdiler yoluyla LLM’leri manipüle edebildiği ve verilerin açığa çıkmasına veya kararların manipülasyonuna yol açabildiği Anında Enjeksiyon Güvenlik Açıkları dikkate değer bir endişe kaynağıdır.
Bu saldırılar, LLM’nin girdisi yoluyla doğrudan veya kirli veri kaynakları aracılığıyla dolaylı olabilir ve LLM çıktılarına olan örtülü güven nedeniyle sıklıkla tespitleri atlar. Yüksek Lisans’lara ilişkin yaklaşan düzenlemelerle birlikte, kurumsal bütünlüğü ve güvenliği korumak için bu tür kötü niyetli faaliyetlere ve zararlı yanıtlara karşı korunmak hayati önem taşımaktadır.
Laiyer AI LLM Guard, LLM’lerin dağıtımıyla ilgili zorlukların üstesinden gelmeye yönelik çığır açan bir güvenlik çözümüdür. Piyasada yaygın olan birçok kapalı kaynaklı, test edilmemiş seçeneğin aksine, LLM Guard, LLM’lerin kurumsal ölçekte dağıtımına olan güveni artıran şeffaf, açık kaynaklı bir alternatif sunar. Bu yenilikçi araç, hem tescilli hem de üçüncü taraf modellerini destekleyerek LLM etkileşimlerinin güvenliğini artırmak için tasarlanmıştır.
LLM Guard’ın temel özellikleri, LLM’lerden gelen giriş ve çıkışların algılanmasını, düzenlenmesini ve temizlenmesini içerir; kişisel veri sızıntılarına anında enjeksiyon yapılması gibi riskleri etkili bir şekilde azaltır. Bu özellikler, kötü niyetli saldırılara ve kötüye kullanıma karşı koruma sağlarken LLM işlevselliğini korumanın ayrılmaz bir parçasıdır. Üstelik LLM Guard, mevcut güvenlik iş akışlarıyla sorunsuz bir şekilde bütünleşerek günlük kaydı ve ölçümler gibi gözlemlenebilirlik araçları sunar. Bu, Laiyer AI’yi temel güvenlik çözümleri sağlamada ön sıralara konumlandırıyor ve geliştiricilerin ve güvenlik ekiplerinin LLM uygulamalarını güvenli ve etkili bir şekilde dağıtmasına olanak tanıyor.
“Piyasada, üretime ölçeklendikleri zaman da dahil olmak üzere, LLM kullanım senaryolarını baştan sona güvence altına alabilecek bir çözüme açık bir ihtiyaç var. Laiyer AI Kurucu Ortakları Neal Swaelens ve Oleksandr Yaremchuk, “Protect AI ile güçlerimizi birleştirerek, sektörün en kapsamlı uçtan uca AI Güvenlik platformunu sunmak için Koruma AI ürünlerini LLM güvenlik yetenekleriyle genişletiyoruz” dedi.
LLM Guard, LLM’ler için kurumsal güvenlik sektöründe fiyat/performans liderliğini örneklendiriyor. Yenilikçi çözüm, gecikmeyi, maliyeti ve doğruluğu dengeliyor ve yalnızca 30 gün içinde HuggingFace’te 13.000’den fazla kitaplık indirmesi ve özel modellerinin 2,5 milyon indirmesiyle etkileyici bir benimseme ölçeğine sahip.
LLM Guard’ın performansı, CPU çıkarım gecikmesindeki 3 kat azalmayla artırılarak, doğruluktan ödün vermeden pahalı GPU’lar yerine uygun maliyetli CPU örneklerinin kullanılmasına olanak tanır. LLM guard, Langchain ve diğer birçok önde gelen küresel kuruluş için varsayılan güvenlik tarayıcısı olma statüsüyle güçlendirilmiş, alanında liderdir.
Laiyer AI’nın entegrasyonu, AI güvenliği ve MLSecOps’ta birinci sınıf platform olarak Koruma AI’nın statüsünü güçlendiriyor. AI’yı koruyun, kuruluşların yalnızca güvenli ve uyumlu değil aynı zamanda operasyonel açıdan verimli AI uygulamaları oluşturmasına, dağıtmasına ve yönetmesine olanak tanıyan benzersiz yetenekler sunar.