Prompt Security, bir şirketin yapay zeka ürünlerini anında enjeksiyona ve jailbreak’lere karşı korumak için yapay zekayı kullandığını iddia eden ve aynı zamanda çalışanların hassas verileri yanlışlıkla ChatGPT gibi araçlara beslemesini önleyen bir çözümle bugün gizlice piyasaya sürüldü.
Organizasyonlar faydaların peşinde üretken yapay zeka (GenAI) konusunda endişe duyuyorlar, ancak aynı zamanda bu yeni araçların ortamlarının güvenliği üzerindeki etkileri konusunda da endişeliler. Yakın zamanda yapılan bir Dark Reading anketinde katılımcılar şunu gördü: birçok potansiyel risk Üçüncü taraf araçların şeffaf olmaması (%46), GenAI yönergeleri ve politikaları konusunda fikir birliği eksikliği (%43) ve veri yönetişimi endişeleri (%39) dahil olmak üzere GenAI’nın tamamen benimsenmesi.
Prompt Security, bu riskleri ele almak için kuruluştaki GenAI ile her türlü etkileşimi koruduğunu söylüyor: dahili yapay zeka araçları ve yapay zeka özelliklerine sahip ticari ürünler, hassas verilerin açığa çıkmasına karşı koruma sağlamak, zararlı içeriği engellemek ve diğer işlemler için her istemi ve model yanıtını kontrol ederek GenAI’ya özgü saldırılar. Prompt Security, anlamsal verileri inceleyerek anında enjeksiyon, jailbreak ve veri çıkarma gibi tehditleri ortadan kaldırabilir. Ve bağlamsal Yüksek Lisans tabanlı modeller hassas verileri tespit edip çıkararak müşteri ve çalışan bilgilerinin yanı sıra fikri mülkiyet haklarını da kazara açığa çıkmaya karşı korur.
Çözüm aynı zamanda bir kuruluş içinde kullanılan yapay zeka araçları dizisini de katalogluyor. Güvenlik ekibi, insanların bu araçları nasıl kullandığını görebilir ve erişim politikalarını uygulama ve kullanıcı grubuna göre tanımlayabilir.
Prompt Security’nin kurucu ortakları nereden geldi? Orca Güvenliği. CEO Itamar Golan daha önce Orca’da ML ve AI başkanıydı ve CTO Lior Drihem, Orca’nın inovasyon başkanıydı. 5 milyon dolarlık başlangıç turu, Four Rivers ve çok sayıda melek yatırımcının katılımıyla Hetz Ventures tarafından yönetildi.