Güvenlik girişimi Knostic en yeni şirket çeşitli zorlukların üstesinden gelmek Kuruluşlar üretken yapay zeka araçlarını benimserken karşılaştıkları sorunlarla karşı karşıyadır. Knostic, büyük dil modelleri için “bilinmesi gereken” erişim kontrollerini sağlamak amacıyla 3,3 milyon dolarlık ön fonlamayla gizlilikten çıktı.
Knostic’in kurucu ortağı ve CEO’su Gadi Evron, yapay zeka dönüşüm yolculuğundaki kuruluşların üretkenliği artırmak, maliyetleri azaltmak ve verimliliği artırmak için iş akışları ve süreçleri boyunca yapay zeka yeteneklerini serpiştirdiğini söylüyor. Kuruluşlar, kendi veri kaynaklarına dayalı ChatGPT benzeri kurumsal arama sistemleri oluşturmak veya halihazırda kullanmakta oldukları uygulama ve platformlarda paketlenmiş yetenekleri etkinleştirmek için büyük dil modellerini benimsiyor. Evron, veri gizliliğinin yapay zekanın benimsenmesinin önündeki en büyük engellerden biri olduğunu söylüyor ve kontrolleri olmayan yapay zekanın, öncelikle bilgilerin yanlış kişiye ifşa edilmesi yoluyla kuruluşu potansiyel olarak artan riske maruz bıraktığını belirtiyor.
“Kişiselleştirilmiş bilgileri nasıl düzenleyebilir ve size gerçekten değer verebiliriz? Sadece bir şeyler söylemek yerine bilmeniz gerekenleri yanıtlayın,” diyor Evron.
Yüksek Lisans’lar için Erişim Kontrolü Gereklidir
Knostic ile çalışanlar ihtiyaç duydukları her şeye erişebilir ve işlerini yapmak için bilmeleri gerekenlerle uyumlu yanıtlar alabilirler.
Örneğin bir kuruluş, bir sonraki ürün sürümünde beklenen özellikler, en son satış rakamları ve gelir rakamları, prim yapısı, birleşme ve satın alma senaryosunda durum tespiti sonuçları veya bir altyapının durumu gibi sorulara cevap verebilecek bir sisteme sahip olabilir. proje. Ancak herkes her soruya aynı cevabı almamalıdır. Evron, CFO ve CTO’nun üç aylık satış gelirini bilmesi gerektiğini, ancak pazarlama stajyerinin muhtemelen bilmeyeceğini belirtiyor. Knostic’in erişim kontrol motoru, cevabın soruyu soran kişinin rolüne uygun olup olmadığını değerlendiriyor ve eğer uygun değilse “Üzgünüm, bu gizli bir bilgi” şeklinde cevap verin Evron, diyor. Ya da sadece hayır demek yerine sistem, cevap gizli olsa bile stajyerin üzerinde çalıştığı pazarlama kampanyalarının çeyrek boyunca satışları artırdığını söyleyebilir. Kişiselleştirme ve iyileştirmenin devreye girdiği yer burasıdır.
Evron’un vurguladığı şeylerden biri de erişim kontrolünün ikili bir yapıya sahip olmasıdır; kişi ya erişebilir ya da erişemez. Knostic’in “bilinmesi gerekenler”e odaklanması, cevap hayır olsa bile bazı bilgilerin sağlanmasını mümkün kılıyor. Evron, “Hayır dediğimizde, işi mümkün kılmıyoruz” diyor ve bilgiyi farklı bir formatta veya ilgili bağlamda sunmanın, iş kullanıcısına sadece hayır demekten daha fazla yardımcı olduğunu belirtiyor.
“Neyi bilmenize izin verildiğini öğrendikten sonra DLP’yi çözebilirsiniz. [Data Loss Prevention] ve IAM[KimlikErişimYönetimi”diyorEvron[IdentityAccessManagement”Evronsays
“Bilmesi Gerekenler” Neye benziyor
Sounil Yu, erişim kontrolünü düşünürken, kuruluşların sistemin dahili mi yoksa halka açık mı olduğu, yanıtları oluşturmak için kullanılan verilerin hassas olup olmadığı ve soruları soran kişinin rolü gibi faktörleri dikkate alması gerektiğini söylüyor.
Kötüye kullanımı önlemek veya zarar verebilecek yanıtlar sağlamak için kuruluşların yapay zeka sistemlerine nasıl korkuluklar inşa etmeleri gerektiği konusunda birçok tartışma yapıldı. Ancak korkulukların herkese uyan tek tip olma eğiliminde olduğunu ve kişinin özel koşullarını hesaba katmadığını söylüyor Yu. Kamuya açık kaç tane chatbot’un tıbbi bir profesyonel olmadığı ve teşhis amacıyla kullanılmaması gerektiği için tıbbi bilgi sağlamayacağını düşünün. Ancak bir soruşturmanın parçası olarak bilgiye erişmeye çalışan bir doktorsa bu kısıtlamanın bir faydası olmaz. Erişim kontrolü, korkulukların aksine, yanıtların nasıl şekillendirileceğini belirlemek için zaman, verilerin hassasiyeti ve kişinin rolü gibi faktörleri dikkate alır.
Örneğin, şirketin sorun gidermeye yardımcı olan ve yaygın sorunların çözülmesine yardımcı olan bir müşteri hizmetleri sohbet robotu olabilir. Bu sohbet robotu, müşteri hizmetleri temsilcisinin sahip olduğu aynı dahili bilgi bankası makalelerine erişebilecek. Ancak henüz piyasada bulunmayan bir ürünle ilgili bir makale varsa (örneğin en son iPhone) ne olur? Müşteri hizmetleri temsilcisinin, ürün piyasaya çıktığında hazır olabilmesi için bu bilgilere ihtiyacı vardır ve eğitim amacıyla önceden bu bilgilere ihtiyaç duyabilir. Ancak müşteri lansmandan önce ürünle ilgili detayları chatbottan öğrenirse o şirket için pek çok sorun yaşanacaktır.
Şirket, biri dahili kullanım için, diğeri halka açık olmak üzere iki sistem oluşturmak yerine, müşteriye ve müşteri hizmetleri temsilcisine farklı yanıtlar sağlamak için Knostic’in yaklaşımını kullanabilir.
Şirket Detayları
Evron ve Yu’nun derin bir endüstri uzmanlığı var. Evron, aldatma girişimi Cymmetria’nın kurucusuydu ve daha önce Citibank ve PwC’de görev almıştı. Yu, Bank of America’nın eski baş güvenlik bilimcisi ve eski CISO’su ve JupiterOne’da araştırma başkanıdır.
2023 yılında kurulan Knostic, Sheild Capital, Pitango First, DNS Ventures, Seedcamp ve birkaç melek yatırımcıdan tohum öncesi finansman olarak 3,3 milyon dolar topladı. Ulusal Güvenlik Ajansı’nın eski başkanı emekli Amiral Mike Rogers, yaptığı açıklamada girişimin “işletmeler için Yüksek Lisans’ın kilidini açacağını” söyledi.
Knostic’in perakende ve finansal hizmetler de dahil olmak üzere çeşitli sektörlerde müşterileri bulunmaktadır.
Şirket aynı zamanda 2024 RSA Konferans Başlatma Pedi’nin ilk üç finalistinden biri. Launch Pad’de, yeni (iki yıl veya daha kısa süredir kurulmuş) şirketlerin kurucuları, risk sermayedarlarından oluşan bir panele “bir sonraki büyük şey olma yolunda” fikirlerini ve ürünlerini sunabiliyor.