AI-Native Trust, Risk ve Güvenlik Yönetimi’nin (TRiSM) lider sağlayıcısı olan DeepKeep, riski yönetmek ve büyümeyi korumak için AI, GenAI ve LLM teknolojilerine güvenen büyük şirketlere güç verir. Modelden bağımsız, çok katmanlı platformumuz, makine öğrenimi modellerinin Ar-Ge aşamasından dağıtıma kadar AI güvenliğini ve güvenilirliğini sağlar. Buna kapsamlı risk değerlendirmesi, önleme, tespit, izleme ve azaltma dahildir.
DeepKeep’in CEO’su ve Kurucusu Rony Ohayon, “DeepKeep’in teknolojisi ve vizyonu, AI teknolojilerinin sorumlu ve güvenli bir şekilde geliştirilmesini, dağıtımını ve kullanımını garanti altına alıyor” diyor. “AI’yi tüm yaşam döngüsü boyunca koruyan AI yerel güvenlik ve güvenilirlik sağlıyoruz ve işletmelerin ticari ve tüketici verilerini korurken AI’yi güvenle benimsemelerine olanak tanıyoruz.”
DeepKeep Kontrol Paneli:
Yapay zeka işletmeler ve günlük yaşam için vazgeçilmez hale geliyor. 2023’te işletmelerin %35’i yapay zekayı benimsedi ve önde gelen işletmelerin %90’ı rekabet avantajı için yapay zekaya destek verdi ve yatırım yaptı. LLM’lerin ve üretken yapay zekanın benimsenmesi çeşitli uygulamalar ve endüstrilerde hızla artarken, kurumsal saldırı yüzeyleri genişliyor ve benzersiz tehditler ve zayıflıklar ortaya çıkıyor. LLM’lerle ilişkili yeni riskler geleneksel siber saldırıların ötesine geçiyor ve Hızlı Enjeksiyon, Jailbreak ve PII Sızıntısı ile önyargılar, adalet ve güvenlik açıkları nedeniyle güven eksikliğini içeriyor.
Gartner’ın yeni TRiSM kategorisi, AI model yönetimini, güvenilirliğini, adaletini, sağlamlığını, etkinliğini ve veri korumasını garanti altına aldığı için DeepKeep için mükemmel bir uyumdur. Bu, model yorumlanabilirliği ve açıklanabilirliği, AI veri koruması, model operasyonları ve düşmanca saldırı direnci için çözümler ve teknikler içerir.
DeepKeep’in Generative AI’yı güvence altına almak için Generative AI’yı benzersiz bir şekilde kullanması, onu Hidden Layer ve Robust Intelligence gibi rakiplerinden ayırır. LLM’leri ve bilgisayar görüş modellerini tüm AI yaşam döngüsü boyunca korumak için GenAI’dan yararlanırız. AI yerel güvenlik çözümlerimiz, işletmelerin AI’yı güvenli bir şekilde benimsemesini sağlayarak hem ticari hem de tüketici verilerini korur.
DeepKeep’in uzmanlığı bilgisayarlı görüş modelleri, büyük dil modelleri (LLM) ve çok modlu senaryoları içerir. Parçaların toplamından daha fazla sinerjiyi mümkün kılmak için hem güvenilirliği hem de güvenliği uygulamaya öncelik veriyoruz ve ayrıca kapsamlı koruma sağlamak için yüz tanıma ve nesne algılama gibi hem dijital hem de fiziksel tehditleri ele alıyoruz.
DeepKeep, Kanada-İsrailli VC Awz Ventures liderliğindeki bir turda 10 milyon dolar tohum finansmanı topladı. Yol haritamız çok dilli doğal dil işleme (NLP) alanına genişlemeyi içeriyor. Küresel olarak çok uluslu şirketlerle iş birliği yaparken, Japon firmalarıyla yaptığımız ortaklıklar sayesinde başlangıçta Japonca’ya odaklanarak birden fazla dilde desteğe olan talep artıyor.
DeepKeep yakın zamanda Meta’nın LlamaV2 7B LLM programının kapsamlı bir değerlendirmesini gerçekleştirdi ve aşağıdaki zayıflıklar ve güçlü yönlerle özetledi:
- LlamaV2 7B modeli hem doğrudan hem de dolaylı İstem Enjeksiyonu (PI) saldırılarına karşı oldukça hassastır ve modelin enjekte edilen istemleri içeren bağlamlara maruz bırakılmasıyla yapılan test saldırılarının büyük çoğunluğu başarılı olmaktadır.
- Model, etik kuralları ihlal eden tepkilere yol açan Adversarial Jailbreak saldırılarına karşı savunmasızdır ve testler, bu tür senaryolarda modelin reddetme oranında önemli bir azalma olduğunu ortaya koymaktadır.
- Model, kelime değiştirme, karakter değiştirme ve sıra değiştirme gibi dönüşümler içeren istemlerin aşırı belirteç üretimine yol açması nedeniyle Hizmet Reddi (DoS) saldırılarına karşı oldukça hassastır.
- Model, finans, sağlık ve genel PII dahil olmak üzere çeşitli veri kümelerinde veri sızıntısına yönelik yüksek bir eğilim olduğunu göstermektedir.
- Modelin halüsinasyona yatkınlığı belirgindir ve bu durum onun güvenilirliğini sorgulamaktadır.
- Model, cinsiyet ve yaş gibi hassas konularla ilgili soruları yanıtlamamayı tercih ediyor ve bu da potansiyel olarak hassas konuşmalardan kaçınmak ve bu konuşmalarla tarafsız bir şekilde etkileşime girmek için eğitildiğini gösteriyor.
DeepKeep’in veri sızıntısı ve PII yönetimi değerlendirmesi, modelin kullanıcı gizliliğini sağlanan bilginin faydasıyla dengeleme mücadelesini göstermektedir. Ancak, Meta’nın LlamaV2 7B LLM’si, testlerimizde %99’luk bir reddetme oranına sahip olarak, zararlı içerikleri belirleme ve reddetme konusunda dikkate değer bir yetenek göstermektedir. Yine de, halüsinasyonlar üzerine yaptığımız araştırmalar, güvenilirliğini zorlayan, yanıtlar üretmeye yönelik önemli bir eğilim olduğunu göstermektedir. Genel olarak, LlamaV2 7B modeli, karmaşık dönüşümleri ele alma, önyargıyı ele alma ve karmaşık tehditlere karşı güvenliği artırma konusunda iyileştirme alanları ile görev performansı ve etik taahhütte güçlü yönler sergilemektedir.
Dr. Rony Ohayon, CEO’su ve Kurucusudur Derin TutAI-Native Trust, Risk ve Güvenlik Yönetimi (TRiSM) alanında lider sağlayıcıdır. Yüksek teknoloji sektöründe 20 yıllık deneyime ve geliştirme, teknoloji, akademi, işletme ve yönetim alanlarında zengin ve çeşitli bir kariyere sahiptir. Ben-Gurion Üniversitesi’nden İletişim Sistemleri Mühendisliği alanında bir doktora, ENST Fransa’dan bir doktora sonrası, bir MBA ve kendi adına 30’dan fazla kayıtlı patenti vardır. Rony, DriveU’nun CEO’su ve Kurucusuydu ve burada kuruluşunu, kurulmasını ve yönetimini denetledi. Ayrıca, IP tabanlı video içeriği yayınlamak, yönetmek ve dağıtmak için önde gelen bir teknoloji çözümleri şirketi olan LiveU’yu kurdu ve şirket satın alınana kadar burada CTO olarak da görev yaptı. Eğitim alanında Rony, Bar-Ilan Üniversitesi (BIU) Mühendislik Fakültesi’nde kıdemli öğretim görevlisiydi ve burada Bilgisayar İletişimi alanını kurdu ve algoritmalar, dağıtılmış bilgi işlem ve ağlarda siber güvenlik hakkında dersler verdi.
yazar hakkında
Dan K. Anderson, Mark V Security CEO’su ve Kurucu Ortağı.
Dan şu anda CyberDefense Dergisi için vCISO ve On-Call Roving muhabiri olarak görev yapıyor. BSEE, MS Bilgisayar Bilimleri, MBA Girişimcilik odaklı, CISA, CRISC, CBCLA, C|EH, PCIP ve ITIL v3.
Dan’in çalışmaları arasında Stanford Tıp Merkezi, Harvard Boston Çocuk Hastanesi, Utah Üniversitesi Hastanesi gibi önde gelen eğitim hastanelerinin yanı sıra Sutter Health, Catholic Healthcare West, Kaiser Permanente, Veteran’s Health Administration, Intermountain Healthcare ve Banner Health gibi büyük Entegre Dağıtım Ağlarına danışmanlık yapmak yer alıyor.
Dan, Başkan, CEO, CIO, CISO, CTO ve Direktör pozisyonlarında görev yaptı, şu anda Mark V Security’nin CEO’su ve Kurucu Ortağı, aynı zamanda Graphite Health’in Siber Danışman Kurulu üyesidir.
Dan, ABD Hokeyi seviye 5 Usta Koçudur. Şu anda Üniversite Kurulu çalışmaları, yerel bilgisayar korsanlığı sahnesi ve öğrencilere, iş arkadaşlarına ve CISO’lara akıl hocalığı yaparak Siber Güvenlik profesyonellerinin geleceğini inşa ederek gönüllü olarak çalışmaktadır.
Dan, Colorado’nun Littleton kentinde ve Utah’ın Salt Lake City kentinde yaşıyor ve kendisine linkedin.com/in/dankanderson adresinden ulaşılabilir.