RSA KONFERANSI 2023 – San Francisco – CEO Chris Sestito, 25 Nisan Pazartesi günü Innovation Sandbox’taki üç dakikalık konuşmasına, jüri üyelerine kurucu ortağı olduğu şirket olan HiddenLayer’a oy vermemelerini söylediği derin sahte bir videoyla başladı. Jüri, talebini kabul etmemekle kalmadı, AI güvenlik girişimini bu yılki RSA Konferansında “2023’ün En Yenilikçi Girişimi” olarak taçlandırdı.
HiddenLayer, ev sahibi Hugh Thompson’ın “şimdiye kadarki en rekabetçi yarışma” olarak adlandırdığı yarışmada ikinci sıradaki Pangea’yı ve diğer sekiz finalisti geride bıraktı. Yargıçlardan biri, Cato Networks’ün CEO’su ve kurucu ortağı Shlomo Kramer, Pangea’yı blok tabanlı uygulama güvenlik platformuyla “merkezi güvenlik kategorisine” hitap ettiği için övdü.
Ancak hakimler, yapay zekayı korumanın önemi tarafından kazanıldı. Başka bir yargıç, Microsoft’un başkan yardımcısı Christopher Young, HiddenLayer’ın odak alanını “olarak nitelendirdi.the önümüzdeki birkaç yıl içinde karşılaşacağımız sorun.”
HiddenLayer Neyi Kazıyor?
Bu sorun, bir şirketin AI varlıklarının sağlığını sağlamaktır.
AI, otonom sürüş ve askeri analiz gibi görev açısından kritik, hatta ölüm kalım durumlarında kullanılıyor. Ancak yapay zeka yalnızca beslediği verilerden öğrenebilir, bu da saldırganların yapay zekanın beklenmedik, istenmeyen bir şekilde davranmasını sağlamak için bilerek kötü veriler besleyebileceği anlamına gelir. Ve bu eğitim veri havuzu bir kez zehirlendiğinde, temizlemesi zor veya imkansız – bazı Twitter kullanıcıları kasıtlı olarak sakıncalı içerik beslediğinde sohbet robotu Tay’in fişini çekmek zorunda kalan Microsoft’a sorun.
HiddenLayer, veri zehirlenmesi ve düşmanca aktarılabilirlik gibi sinsi tekniklere karşı korunmak için yapay zekayı korumak için yapay zekaya güvenir. Düşman saldırılarına işaret eden anormallikleri ayırt etmek amacıyla bir makine öğrenimi sisteminin girişlerini ve çıkışlarını izlemek için makine öğrenimini kullanır. Sestito, yaklaşımı “MLDR” olarak adlandırdı – uç nokta algılama ve yanıt, ancak makine öğrenimi için.
En İyi Rakipleri Değerlendirmek
Yarışmanın değerlendirme kriterleri şu şekildedir: bir şirketin çözmeye çalıştığı sorun, çözümün orijinalliği, ekibinin gücü ve yaklaşımın pazar tarafından onaylanıp onaylanmadığı (yani şirket para kazanıyor mu?) .
Jüri üyelerinin neredeyse tamamı yarışmanın gazileriydi: Kramer ve Young, Energy Impact Partners’ın kıdemli işletme ortağı Niloofar Razi Howe ve bağımsız araştırmacı ve Cryptography Research’ün kurucusu Paul Kocher gibi geçen yıl görev yaptı. Bu yıl yeni olan, Ballistic Ventures’ın kurucu ortağı ve genel ortağı Barmak Meftah oldu.
Bu yıl 10 finalist (ters alfabetik sırayla): Zama, Valence Security, SafeBase, Relyance AI, Pangea, HiddenLayer, Endor Labs, Dazz, Astrix Security ve AnChain.AI.
Pangea CEO’su ve kurucusu Oliver Friedrichs bazı isabetli sorularla karşılaştı. Kocher açıkça Friedrichs’e sordu, “Ekibiniz idam edebilir mi?”
Thompson’ın aradığı Kocher “İnovasyon Sandbox’ının Simon Cowell’ı” AnChain.AI CEO’su ve kurucu ortağı Victor Fang’a, şirketinin blockchain savunmasına odaklanmasının Web3’ün başarısına mı yoksa “sonsuz bir dizi felakete” mi dayandığını sordu.
Endor Labs CEO’su ve kurucu ortağı Varun Badhwar, işletmelerde açık kaynak kullanımını sürpriz ikizleriyle karşılaştırdığında kahkahalara boğuldu: Her iki durumda da, sandığınızdan daha fazlasına sahipsiniz, ama en azından ikizleri, açık kaynak kodunun aksine, “İnternetteki yabancılar tarafından tasarlanmadı.”