Yapay zeka tabanlı bir güvenlik girişimi, üst üste ikinci yıl, RSA Konferansı’nın İnovasyon Korumalı Alanı yarışmasında En Yenilikçi Başlangıç ödülünü aldı.
Geçen yıl HiddenLayer sunumuna bir CEO’sunun deepfake videosu jüriden onu kazanan olarak seçmemelerini rica ediyorum. Bu yıl Reality Defender, gördüğümüz ve duyduğumuz şeylere olan güveni yeniden kazanmaya yardımcı olmak amacıyla deepfake’leri ve diğer yapay içerikleri tanımlamaya yönelik aracını tanıttı.
Capitol Meridian Partners’ın işletme ortağı ve Innovation Sandbox yarışmasının jüri üyelerinden biri olan Niloo Razi Howe, yapay zeka yoluyla yapılan derin sahtekarlıkların “özellikle seçim yılında karşılaştığımız en önemli sorunlardan biri” olabileceğini söyledi. Bu görevin önemi Reality Defender’ın zirveye çıkmasına yardımcı olmuş olabilir.
Reality Defender Gerçeği Nasıl Savunuyor?
Şirketin kurucu ortağı ve COE’si Ben Colman, Reality Defender’ın derin sahte tespit platformu ve API’sinin, ekiplerin sahtekarlığı, dezenformasyonu ve zararlı içeriği gerçek zamanlı olarak tespit etmesine olanak tanıdığını ve yapay zekayı yenmek için yapay zekayı kullandığını söyledi. Colman, son dönemdeki yüksek riskli olaylara atıfta bulunarak, “Çıktılar sahte olsa da tehditler gerçek” dedi. Hong Kong’da 25 milyon dolarlık elektronik dolandırıcılık Deepfake bir video tarafından desteklenmektedir ve New Hampshire’da derin sahte otomatik çağrı sözde ABD Başkanı Joe Biden’dan.
Colman, şirketinin teknolojisinin sahte ses, video, görüntü ve metinleri tespit etmek için “topluluk yaklaşımı” kullandığını söyledi. API’nin şirket içinde veya bulutta kurulabileceğini ve herhangi bir uygulamaya entegre edilebileceğini söyledi. Lexis-Nexis Risk Solutions’ın şu tahminini aktardı: Deepfake destekli dolandırıcılık 1 trilyon dolara mal olabilir bir yıl. Teknolojinin gerçekte nasıl çalıştığına derinlemesine girmese de, slaytlardan birinde müşteri sesinin canlı mı yoksa manipüle mi olduğunu belirlemek için bir yapay zeka dedektörünün sesli aramaya bağlandığını gösteriyordu. Colman, “Vizyonumuz, yapay zeka tarafından oluşturulan tüm dolandırıcılıkların tespit katmanı olmaktır” dedi.
Jüri, platformun kurumsal kullanımları hakkında sorular sordu. Colman, “Yani bankalar için bir numaralı kullanım, gerçek zamanlı ses dolandırıcılığının tespitidir” diye yanıtladı. “Yaptığımız tek şey insan olup olmadığını söylemektir” – yani bireyi tanımlamaya çalışmaktan ziyade manipüle edilip edilmediği.
Şirketin en zorlu görevinin ne olduğu sorulduğunda Colman “İşe alma” yanıtını verdi.
“Mühendislik ve araştırmaya odaklanan harika doktoralı kişileri işe alıyoruz. Ve eğer odada iş arayan biri varsa, işe alıyoruz.”
En İyinin Geri Kalanı
İnovasyon Korumalı Alanı yarışması sırasında, 10 siber güvenlik girişiminin temsilcilerinin, teknolojilerini bir jüri heyetine sunmak için üç dakikaları var ve ardından jüri üyelerinin üç dakikalık sorularıyla karşı karşıya kalacaklar. Önceki yıllarda olduğu gibi jüri, finalistleri şu kriterleri kullanarak değerlendirdi: bir şirketin çözmeye çalıştığı sorun ve bunu kimin için çözdüğü; fikri mülkiyetinin özgünlüğü ve sağlamlığı; şirketin pazara açılma stratejisi, erişimi ve ekibinin gücü; ve son olarak yaklaşımın piyasa tarafından doğrulanıp onaylanmadığı, yani şirketin gerçek müşterilerden para kazanıp kazanmadığı.
Bu yılın jüri heyetinde Greylock’un ortağı Asheem Chandna; Check Point Software’in baş teknoloji sorumlusu Dorit Dor; Capitol Meridian Partners’ın işletme ortağı Niloo Razi Howe; Bağımsız araştırmacı ve Cryptography Research’ün kurucusu Paul Kocher; ve Verizon’un kıdemli başkan yardımcısı ve CISO’su Nasrin Rezai.
Bu yılın 10 finalisti (ters alfabetik sırayla): VulnCheck, Reality Defender, RAD Security, P0 Security, Mitiga, Harmonic Security, Dropzone AI, Bedrock Security, Antimatter ve Aembit.
VulnCheck, CVE verileri için İnternet’i tarar, ardından kurumsal ve ürün ekipleri için istismar ve güvenlik açığı istihbaratı oluşturmak üzere bunları yeniden birleştirir ve temizler. Kocher, bunların tükenmesini nasıl önlediklerini sorduğunda, VulnCheck pazarlama müdürü Tom Bain, görevlere öncelik verildiğini ve ekiplere verilerin erken verildiğini belirtti.
RAD Security, bulutta yerel algılama ve gelişen tehditlere yanıt verme konusunda davranışsal bir yaklaşım benimser. RAD, şirketin ortamını “parmak izlerini” alır, böylece yeni davranışları LLM’leri kullanarak mevcut normlarla karşılaştırabilirsiniz.
P0 Security, ister insan ister makine olsun, tüm kimlikleri güvence altına alan bulut erişim yönetimi için bir platform sunar. Kurucu ortak ve CEO Shashwat Sehgal, “Buluta güvenli erişim istiyorsanız bizimle konuşun” dedi.
Mitiga, güvenlik operasyon merkezlerine bulut ve hizmet olarak yazılım görünürlüğü sağlamak için bir bulut araştırma ve yanıt otomasyonu (CIRA) platformu satıyor. Kurucu ortak ve CTO Ofer Maor, giderek daha fazla saldırının buluta taşınmasıyla birlikte şirketin bir şirketin ihlal edilip edilmediğine ilişkin “sürekli” çağrılar aldığını söyledi.
Harmonic Security, hassas verileri tespit etmek için Harmonic’in önceden oluşturulmuş veri koruma LLM’lerini kullanarak, kuruluşların verilerinin güvenliğini ve gizliliğini korurken üretken yapay zekayı benimsemelerine yardımcı olur. Ekibin çoğu, Alastair Paterson’un önceki girişiminin kurucu ortağı ve CEO’su Digital Shadows’tan geldi. ReliaQuest, Digital Shadows’u 2022’de 160 milyon dolara satın aldı.
Dropzone AI, şirketinin günün her saati uyarıları otonom olarak araştıran AI SOC analistini tanıttı. Yargıçlar tarafından Dropzone’un insan SOC analistinin yerini almak isteyip istemediği sorulduğunda kurucu ve CEO Edward Wu, “SOC analistinin yerini almayı düşünmüyoruz; SOC analistini güçlendirmeyi düşünüyoruz.”
Bedrock Security, AI Reasoning Engine (AIR) tarafından desteklenen bir veri güvenliği platformu oluşturur. Kurucu ortak ve CEO Pranava Addurihe, “Modern işletmeler veri söz konusu olduğunda Titanik’e çok benziyor: Düzenleyici buzdağlarından ve verilerini fidye olarak almaktan mutluluk duyan korsanlardan habersiz, buzlu sularda hızla ilerliyorlar” dedi.
Antimatter, hassas verileri otomatik olarak sınıflandırıp düzenleyerek, kullanıcıların erişim politikalarını tanımlamasına olanak tanıyarak ve veriler nerede depolanırsa depolansın politikaları uygulayarak, verileri yapay zeka ve makine öğrenimi uygulamalarında güvenli hale getirmeye odaklanır. Kurucu ortak ve CEO Andrew Krioukov, “Antimadde, uygulamalarınız ve verileriniz arasında yer alan bir veri kontrol düzlemidir” dedi.
Aembit, bulutlar, SaaS ve veri merkezleri arasındaki iş yükleri arasında şifrelere gerek kalmadan erişimi güvence altına alan bir iş yükü IAM platformu satmaktadır. IAM’in yirmi yıldır kullanıcı erişimini güvence altına aldığını ancak kullanıcılardan 10 kat daha fazla iş yükü bulunduğunu ekledi.