BASIN BÜLTENİ
San Francisco, Kaliforniya – 13 Şubat 2024
Hakkında Kuruluşların %77’si Yapay zekayı bir ölçüde benimsemiş veya araştırıyor, bu da daha verimli ve otomatikleştirilmiş bir iş akışı için baskı yapıyor. GenAI modellerine ve ChatGPT gibi Dil Öğrenme Modellerine (LLM’ler) olan bağımlılığın artmasıyla birlikte, sağlam güvenlik önlemlerine olan ihtiyaç en üst düzeyde hale geldi.
Lider bir API Güvenliği şirketi olan Akto, devrim niteliğindeki GenAI Güvenlik Testi çözümünün lansmanını duyurmaktan gurur duyuyor. Bu ileri teknoloji, yapay zeka güvenliği alanında önemli bir dönüm noktasına işaret ediyor ve Akto’yu dünyanın ilk proaktif GenAI güvenlik test platformu haline getiriyor.
“Akto, yapay zeka teknolojisinden yararlanan API’leri taramak için yeni bir yeteneğe sahip ve bu, uygulama güvenliğinin geleceği için temel önem taşıyor. Yapay zeka için uygulama ve güvenlik eğitimi oluşturmaya erken yatırım yaptım ve diğer güvenlik şirketlerinin de yapay zeka teknolojileri etrafında güvenlik değerlendirmesi için aynı şeyi yaptığını görmek beni heyecanlandırıyor.” – Jim Manico, Eski OWASP Global Yönetim Kurulu Üyesi, Güvenli Kodlama Eğitimcisi.
Ortalama olarak bir kuruluş 10 GenAI modeli kullanıyor. Çoğu zaman üretimdeki LLM’lerin çoğu verileri dolaylı olarak API’ler aracılığıyla alacaktır. Bu, LLM API’leri tarafından tonlarca ve tonlarca hassas verinin işlendiği anlamına gelir. Bu API’lerin güvenliğinin sağlanması, kullanıcı gizliliğinin korunması ve veri sızıntılarının önlenmesi açısından oldukça önemli olacaktır. Günümüzde LLM’lerin kötüye kullanılabileceği ve hassas veri sızıntılarına yol açabileceği çeşitli yollar vardır.
-
İstemi Ekleme Güvenlik Açıkları – Kötü niyetli girdilerin LLM’nin çıktısını manipüle edebileceği yetkisiz anlık enjeksiyon riski büyük bir endişe kaynağı haline geldi.
-
Hizmet Reddi (DoS) Tehditleri – LLM’ler ayrıca sistemin isteklerle aşırı yüklendiği ve hizmet kesintilerine yol açtığı DoS saldırılarına karşı da hassastır. Geçen yıl LLM API’lerini hedef alan bildirilen DoS olaylarında bir artış oldu.
-
Yüksek Lisans Çıktılarına Aşırı Güven – Yeterli doğrulama mekanizmaları olmadan Yüksek Lisans’lara aşırı güvenmek, veri yanlışlıkları ve sızıntı vakalarına yol açmıştır. Sektörde LLM’lere aşırı bağımlılık nedeniyle veri sızıntısı olaylarında artış görülmesi nedeniyle kuruluşların sağlam doğrulama süreçleri uygulamaları teşvik edilmektedir.
“GenAI sistemlerinin güvenliğinin sağlanması, yalnızca yapay zekayı dış girdilerden değil aynı zamanda bunların çıktılarına bağlı olan dış sistemleri de koruma ihtiyacını içeren çok yönlü bir yaklaşım gerektiriyor. “- OWASP Yüksek Lisans Yapay Zeka Uygulamaları Çekirdek ekip üyesi için İlk 10.
20 Mart 2023’te bir olay yaşandı. OpenAI’nin yapay zeka aracıyla kesinti, SohbetGPT. Kesintinin nedeni, açık kaynaklı bir kütüphanede bulunan ve bazı müşterilerin ödemeyle ilgili bilgilerinin açığa çıkmasına neden olabilecek bir güvenlik açığıydı. Çok yakın bir zamanda, 25 Ocak 2024’te kritik bir güvenlik açığı keşfedildi. Herhangi bir şey Herhangi bir belgeyi veya içerik parçasını herhangi bir LLM’nin sohbet sırasında kullanabileceği bağlama dönüştüren LLM (8.000 Github Yıldızı). Bir kimliği doğrulanmamış API rotası (dosya dışa aktarma), saldırganların sunucuyu çökertmesine ve bunun sonucunda hizmet reddi saldırısına neden olabilir. Bunlar LLM modellerinin kullanılmasıyla ilgili güvenlik olaylarının yalnızca birkaç örneğidir.
Akto’nun GenAI Güvenlik Testi çözümü bu zorlukları doğrudan ele alıyor. Akto, gelişmiş test metodolojilerinden ve en son teknolojiye sahip algoritmalardan yararlanarak, LLM’ler de dahil olmak üzere GenAI modelleri için kapsamlı güvenlik değerlendirmeleri sağlar. Çözüm, hızlı enjeksiyon, belirli veri kaynaklarına aşırı bağımlılık ve daha fazlası gibi GenAI güvenlik açıklarının çeşitli yönlerini kapsayan 60’tan fazla titizlikle tasarlanmış test senaryosu da dahil olmak üzere çok çeşitli yenilikçi özellikleri içeriyor. Bu test senaryoları, Akto’nun GenAI güvenliği alanındaki uzman ekibi tarafından geliştirildi ve GenAI modellerini kullanan kuruluşlar için en yüksek düzeyde koruma sağladı. San Francisco merkezli bir şirket olan Akto, en ileri çözümleri sağlamada uzmanlaşmış lider bir API Güvenliği şirketidir. API’leri güvenlik açıklarından korumak için. Yapay zeka güvenliği konusunda uzmanlardan oluşan bir ekip ve inovasyon tutkusuyla Akto, kuruluşların uygulamalarını saldırılara karşı korumalarını ve GenAI API’lerinin güvenli kullanımını sağlamalarını sağlamaya kararlıdır. Akto hakkında daha fazla bilgi edinin Burada.
Şu anda güvenlik ekipleri tüm LLM API’lerini yayınlanmadan önce kusurlara karşı manuel olarak test ediyor. Ürün sürümlerinin zaman hassasiyeti nedeniyle ekipler yalnızca birkaç güvenlik açığını test edebilir. Bilgisayar korsanları LLM’lerden yararlanmanın daha yaratıcı yollarını bulmaya devam ederken, güvenlik ekiplerinin LLM’leri geniş ölçekte güvence altına almanın otomatik bir yolunu bulması gerekiyor.
“Genellikle yüksek lisansa yönelik girdiler bir son kullanıcıdan gelir veya çıktı son kullanıcıya veya her ikisine birden gösterilir. Testler, farklı kodlama yöntemleri, ayırıcılar ve işaretleyiciler aracılığıyla LLM güvenlik açıklarından yararlanmaya çalışır. Bu, özellikle geliştiricilerin girişi kodladığı veya girişin etrafına özel işaretler koyduğu zayıf güvenlik uygulamalarını tespit eder. “- Ankush Jain, CTO Akto.io
Yapay zeka güvenlik testleri aynı zamanda LLM’lerin çıktılarının arındırılmasına karşı zayıf güvenlik önlemlerini de tespit ediyor. Uzaktan yürütme için kötü amaçlı kod yerleştirme girişimlerini, siteler arası komut dosyası çalıştırmayı (XSS) ve saldırganların oturum belirteçlerini ve sistem bilgilerini almasına olanak tanıyan diğer saldırıları tespit etmeyi amaçlamaktadır. Akto ayrıca Yüksek Lisans’ların yanlış veya ilgisiz raporlar oluşturmaya yatkın olup olmadığını da test eder.
“Hızlı Enjeksiyondan (LLM:01) Aşırı Güvenmeye (LLM09) ve her gün yeni güvenlik açıklarına ve ihlallere kadar ve varsayılan olarak güvenli sistemler oluşturmak; Sürekli gelişen bu tehditlere karşı sistemleri erken test etmek kritik öneme sahiptir. Akto’nun LLM projelerim için neler sunacağını görmek beni heyecanlandırıyor” – OWASP Yüksek Lisans Yapay Zeka Uygulamaları Çekirdek ekip üyesi için İlk 10.
GenAI güvenliğinin önemini daha da vurgulamak için Eylül 2023’te yakın zamanda yapılan bir anket Gartner’ın Kuruluşların %34’ünün, üretken yapay zekanın (GenAI) beraberinde getirdiği riskleri azaltmak için halihazırda yapay zeka (AI) uygulama güvenliği araçlarını kullandığını veya uyguladığını ortaya çıkardı. Yanıt verenlerin yarısından fazlası (%56) bu tür çözümleri de araştırdıklarını belirterek, Akto’nunki gibi sağlam güvenlik testi çözümlerine olan kritik ihtiyacın altını çizdi.
Akto’nun GenAI Güvenlik Testi çözümünün yeteneklerini ve önemini göstermek için Akto’nun Kurucusu ve CEO’su Ankita, prestijli Austin API Zirvesi 2024’te sunum yapacak. “Yüksek Lisans API’lerinin Güvenliği,” sorun bildirimini derinlemesine inceleyecek, gerçek dünyadan örnekleri vurgulayacak ve Akto’nunki gibi çözümlerin yapay zeka ile ilgili güvenlik açıklarına karşı nasıl güçlü bir savunma sağladığını gösterecek.
Kuruluşlar yapay zekanın gücünden yararlanmaya çalışırken, Davranmak bu dönüştürücü teknolojilerin güvenliğini ve bütünlüğünü sağlamada ön saflarda yer almaktadır. GenAI Güvenlik Testi çözümünün piyasaya sürülmesi, inovasyona olan bağlılıklarını ve kuruluşların GenAI’yi güvenle benimsemelerini sağlama konusundaki kararlılıklarını güçlendiriyor.
Akto Hakkında
Merkezi San Francisco’da bulunan bir şirket olan Akto, API’leri güvenlik açıklarından korumak için en son çözümleri sağlamada uzmanlaşmış lider bir API Güvenliği şirketidir. Yapay zeka güvenliği konusunda uzmanlardan oluşan bir ekip ve inovasyon tutkusuyla Akto, kuruluşların uygulamalarını saldırılara karşı korumalarını ve GenAI API’lerinin güvenli kullanımını sağlamalarını sağlamaya kararlıdır. Akto hakkında daha fazla bilgi edinin Burada.