AI-Native Trust, Risk ve Güvenlik Yönetimi’nin (TRiSM) lider sağlayıcısı olan DeepKeep, riski yönetmek ve büyümeyi korumak için AI, GenAI ve LLM teknolojilerine güvenen büyük şirketlere güç verir. Modelden bağımsız, çok katmanlı platformumuz, makine öğrenimi modellerinin Ar-Ge aşamasından dağıtıma kadar AI güvenliğini ve güvenilirliğini sağlar. Buna kapsamlı risk değerlendirmesi, önleme, tespit, izleme ve azaltma dahildir.
DeepKeep’in CEO’su ve Kurucusu Rony Ohayon, “DeepKeep’in teknolojisi ve vizyonu, AI teknolojilerinin sorumlu ve güvenli bir şekilde geliştirilmesini, dağıtımını ve kullanımını sağlar” diyor. “AI’yi tüm yaşam döngüsü boyunca koruyan AI yerel güvenlik ve güvenilirlik sağlıyoruz ve işletmelerin ticari ve tüketici verilerini korurken AI’yi güvenle benimsemelerine olanak tanıyoruz.”
DeepKeep Kontrol Paneli:
Yapay zeka işletmeler ve günlük yaşam için vazgeçilmez hale geliyor. 2023’te işletmelerin %35’i yapay zekayı benimsedi ve önde gelen işletmelerin %90’ı rekabet avantajı için yapay zekayı destekledi ve yatırım yaptı. LLM’lerin ve üretken yapay zekanın benimsenmesi çeşitli uygulamalar ve endüstrilerde hızla artarken, kurumsal saldırı yüzeyleri genişliyor ve benzersiz tehditler ve zayıflıklar ortaya çıkıyor. LLM’lerle ilişkili yeni riskler geleneksel siber saldırıların ötesine geçiyor ve Hızlı Enjeksiyon, Jailbreak ve PII Sızıntısı ile önyargılar, adalet ve güvenlik açıkları nedeniyle güven eksikliğini içeriyor.
Gartner’ın yeni TRiSM kategorisi, AI model yönetimini, güvenilirliğini, adaletini, sağlamlığını, etkinliğini ve veri korumasını garanti altına aldığı için DeepKeep için mükemmel bir uyumdur. Bu, model yorumlanabilirliği ve açıklanabilirliği, AI veri koruması, model operasyonları ve düşmanca saldırı direnci için çözümler ve teknikler içerir.
DeepKeep’in Generative AI’yı güvence altına almak için Generative AI’yı benzersiz bir şekilde kullanması, onu Hidden Layer ve Robust Intelligence gibi rakiplerinden ayırır. LLM’leri ve bilgisayar görüş modellerini tüm AI yaşam döngüsü boyunca korumak için GenAI’dan yararlanırız. AI yerel güvenlik çözümlerimiz, işletmelerin AI’yı güvenli bir şekilde benimsemesini sağlayarak hem ticari hem de tüketici verilerini korur.
DeepKeep’in uzmanlığı bilgisayarlı görüş modelleri, büyük dil modelleri (LLM) ve çok modlu senaryoları içerir. Parçaların toplamından daha fazla sinerjiyi mümkün kılmak için hem güvenilirliği hem de güvenliği uygulamaya öncelik veriyoruz ve ayrıca kapsamlı koruma sağlamak için yüz tanıma ve nesne algılama gibi hem dijital hem de fiziksel tehditleri ele alıyoruz.
DeepKeep, Kanada-İsrailli VC Awz Ventures liderliğindeki bir turda 10 milyon dolar tohum finansmanı topladı. Yol haritamız çok dilli doğal dil işleme (NLP) alanına genişlemeyi içeriyor. Küresel olarak çok uluslu şirketlerle iş birliği yaparken, Japon firmalarıyla yaptığımız ortaklıklar sayesinde başlangıçta Japonca’ya odaklanarak birden fazla dilde desteğe olan talep artıyor.
DeepKeep yakın zamanda Meta’nın LlamaV2 7B LLM programının kapsamlı bir değerlendirmesini gerçekleştirdi ve aşağıdaki zayıflıklar ve güçlü yönlerle özetledi:
- LlamaV2 7B modeli hem doğrudan hem de dolaylı İstem Enjeksiyonu (PI) saldırılarına karşı oldukça hassastır ve modelin enjekte edilen istemleri içeren bağlamlara maruz bırakılmasıyla yapılan test saldırılarının büyük çoğunluğu başarılı olmaktadır.
- Model, etik kuralları ihlal eden tepkilere yol açan Adversarial Jailbreak saldırılarına karşı savunmasızdır ve testler, bu tür senaryolarda modelin reddetme oranında önemli bir azalma olduğunu ortaya koymaktadır.
- Model, kelime değiştirme, karakter değiştirme ve sıra değiştirme gibi dönüşümler içeren istemlerin aşırı belirteç üretimine yol açması nedeniyle Hizmet Reddi (DoS) saldırılarına karşı oldukça hassastır.
- Model, finans, sağlık ve genel PII dahil olmak üzere çeşitli veri kümelerinde veri sızıntısına yönelik yüksek bir eğilim olduğunu göstermektedir.
- Modelin halüsinasyona yatkınlığı belirgindir ve bu durum onun güvenilirliğini sorgulamaktadır.
- Model, cinsiyet ve yaş gibi hassas konularla ilgili soruları yanıtlamamayı tercih ediyor ve bu da potansiyel olarak hassas konuşmalardan kaçınmak ve bu konuşmalarla tarafsız bir şekilde etkileşime girmek için eğitildiğini gösteriyor.
DeepKeep’in veri sızıntısı ve PII yönetimi değerlendirmesi, modelin kullanıcı gizliliğini sağlanan bilginin faydasıyla dengeleme mücadelesini göstermektedir. Ancak, Meta’nın LlamaV2 7B LLM’si, testlerimizde %99’luk bir reddetme oranına sahip olarak, zararlı içerikleri belirleme ve reddetme konusunda dikkate değer bir yetenek göstermektedir. Yine de, halüsinasyonlar üzerine yaptığımız araştırmalar, güvenilirliğini zorlayan, yanıtlar üretmeye yönelik önemli bir eğilim olduğunu göstermektedir. Genel olarak, LlamaV2 7B modeli, karmaşık dönüşümleri ele alma, önyargıyı ele alma ve karmaşık tehditlere karşı güvenliği artırma konusunda iyileştirme alanları ile görev performansı ve etik taahhütte güçlü yönler sergilemektedir.
Dr. Rony Ohayon, AI-Native Trust, Risk ve Güvenlik Yönetimi’nin (TRiSM) lider sağlayıcısı olan DeepKeep’in CEO’su ve Kurucusudur. Yüksek teknoloji sektöründe 20 yıllık deneyime ve geliştirme, teknoloji, akademi, işletme ve yönetim alanlarında zengin ve çeşitli bir kariyere sahiptir. Ben-Gurion Üniversitesi’nden İletişim Sistemleri Mühendisliği alanında bir Doktora, ENST Fransa’dan bir Doktora Sonrası, bir MBA ve kendi adına 30’dan fazla kayıtlı patenti vardır. Rony, DriveU’nun CEO’su ve Kurucusuydu ve burada kuruluşunu, kurulmasını ve yönetimini denetledi. Ayrıca, IP tabanlı video içeriği yayınlamak, yönetmek ve dağıtmak için lider bir teknoloji çözümleri şirketi olan LiveU’yu kurdu ve şirket satın alınana kadar burada CTO olarak da görev yaptı. Eğitim alanında Rony, Bar-Ilan Üniversitesi (BIU) Mühendislik Fakültesi’nde kıdemli öğretim görevlisiydi ve burada Bilgisayar İletişimi alanını kurdu ve algoritmalar, dağıtılmış bilgi işlem ve ağlarda siber güvenlik hakkında dersler verdi.
Yazar Hakkında
Dan K. Anderson, CEO ve Mark V Security’nin Kurucu Ortağı.
Dan şu anda CyberDefense Dergisi için vCISO ve On-Call Roving muhabiri olarak görev yapmaktadır. Dan hayatını sistemler arasında iletişimler geliştirip uygulayarak ve Askeri, Sağlık ve Madencilik alanlarında sistemler ve uygulamalar geliştirerek geçirmiştir. Elektrik Mühendisliği ve Kimya alanında Sağlık Bilişimi, BSEE, MS Bilgisayar Bilimi, MBA Girişimcilik odaklı bir geçmişe sahiptir ve Bilgi Güvenliği ve Güvencesi konusunda uzmanlaşmıştır ve Bilgi Sistemleri Denetim ve Kontrol Birliği’nden (ISACA) Sertifikalı Bilgi Sistemi Denetçisi (CISA), Risk ve Bilgi Sistemleri Kontrolünde Sertifikalı (CRISC) sertifikalarını kazanmıştır. Ek sertifikaları şunlardır: Sertifikalı İş Sürekliliği Baş Denetçisi (CBCLA), Sertifikalı Etik Hacker (C|EH), Ödeme Kartı Endüstrisi İç Güvenlik Değerlendiricisi (ISA ve PCIP) ve Bilgi Teknolojileri Altyapı Kütüphanesi (ITIL v3). 2023 yılının En İyi Küresel CISO’su.
Dan, Cerner, GE ve IDX gibi Sağlık Bilişim Teknolojileri Tedarikçilerinde çalıştı ve Bilgi Sistemleri Güvenliği, Mevzuata Uygunluk, Bilgi Sistemleri Denetimi ve Fikri Mülkiyet Güvencesi alanlarında dünya çapında danışmanlık hizmeti veriyor.
Dan’in bazı çalışmaları arasında Stanford Tıp Merkezi, Harvard Boston Çocuk Hastanesi, Utah Üniversitesi Hastanesi gibi önde gelen eğitim hastanelerinin yanı sıra Sutter Health, Catholic Healthcare West, Kaiser Permanente, Veteran’s Health Administration ve Intermountain Healthcare gibi büyük Entegre Dağıtım Ağlarına danışmanlık yapmak yer alıyor.
Dan, Utah Bilgi Sistemleri Denetim ve Kontrol Derneği’nin (ISACA) Yönetim Kurulu üyesi, Eski Başkanı ve Akademik İrtibat Direktörü, UtahSec.org Yönetim Kurulu üyesi, FBI Infragard Salt Lake City Bölümü Yönetim Kurulu üyesi ve Eski Başkanı, FBI Citizen’s Academy Mezunlar Derneği üyesi ve Sağlık Seviyesi Yedi (HL7) Güvenlik Teknik Komitesi üyesidir. Yüksek Öğrenim Mükemmeliyet Merkezi Program Danışma Komitesi Yönetim Kurulu Üyesi. Utah Valley Üniversitesi Siber Güvenlik Programı Topluluk Danışma Kurulu Yönetim Kurulu Üyesi. Utah Eccles İşletme Okulu Bilgi Sistemleri Yüksek Lisans Programı (MSIS) Danışma Kurulu Yönetim Kurulu Üyesi. BlackHat Network ekibi üyesi. Sağlık Müşteri Danışma Kurulu Üyesi, Proofpoint. IEEE 2612 Siber Tıbbi Cihaz Uygunluğu kurucu üyesi. 2023 Yılının Küresel CISO’su Ödülü Sahibi.
Dan, çeşitli şirketlerde Başkan, CEO, CIO, CISO, CTO ve Direktör olarak görev yaptı, şu anda Mark V Security’nin CEO’su ve Kurucu Ortağı, Spectra Consulting Group’ta Bilgi Güvenliği Sorumlusu ve Kıdemli Yönetim Danışmanı, Graphite Health’te Siber Danışman Kurulu üyesi ve Lifescan Global, Inc.’de eski Bilgi Güvenliği ve Gizlilik Sorumlusu olarak görev yapıyor.
Boş zamanlarında Dan daha önce 14 yıldan fazla bir süre Utah’taki çeşitli gençlik hokeyi derneklerinde, Lise-Midget Major AA seyahat takımlarında Buz Hokeyi koçu olarak gönüllü olarak çalışmış ve USA Hockey’in en yüksek koçluk seviyesi olan 5 Master Koçu unvanını kazanmıştır. Üniversite Kurulu çalışmaları, yerel bilgisayar korsanlığı sahnesine katılım ve öğrencilere ve iş arkadaşlarına akıl hocalığı yoluyla bilgi güvenliği profesyonellerinin geleceğini inşa etmede mevcut gönüllü çabaları.
Dan, Colorado’nun Littleton kentinde ve Utah’ın Salt Lake City kentinde yaşıyor
Dan’e çevrimiçi olarak (E-POSTA, TWITTER, vb.) dan.anderson@markvsecurity, @Z0lton ve şu adreslerden ulaşılabilir: [email protected]