Arthur, AI izleme araçları paketine güçlü bir ekleme yaptı: Büyük dil modelleri (LLM’ler) için bir güvenlik duvarı olan Arthur Shield.
Bu patentli yeni teknoloji, şirketlerin ChatGPT gibi LLM uygulamalarını bir kuruluş içinde daha güvenli bir şekilde devreye almalarını sağlayarak, sorunları maliyetli iş sorunlarına dönüşmeden veya daha kötüsü müşterilerin zarar görmesine yol açmadan önce belirlemeye ve çözmeye yardımcı olur.
OpenAI, Google, Meta ve diğerlerinin büyük dil modellerindeki son gelişmeler, LLM’leri operasyonlarına entegre etmek için sektörlerdeki şirketleri harekete geçirdi. Ancak, bu yeni teknolojinin inanılmaz gücüyle birlikte önemli riskler ve güvenlik sorunları ortaya çıkıyor.
Arthur Shield, şirketlerin PII veya hassas veri sızıntısı, toksik, rahatsız edici veya sorunlu dil üretimi ve “halüsinasyonlar” olarak da bilinen yanlış yanıtlar verme gibi önemli riskleri tespit edip engelleyerek LLM’leri daha güvenli bir şekilde devreye almalarını sağlar.
Platform aynı zamanda, modelin işi iyi yansıtmayacak bir yanıt oluşturmasını sağlama girişimleri, modelin hassas eğitim verilerini döndürmesini sağlama çabaları veya güvenlik kontrollerini atlama girişimleri dahil olmak üzere kötü niyetli kullanıcı istemlerini de algılar ve durdurur.
“LLM’ler, İnternet’in ortaya çıkışından bu yana en yıkıcı teknolojilerden biridir. Yine de, tüm yeni teknolojilerde olduğu gibi, bu gelişmeler hem şirketler hem de halk için çok sayıda potansiyel risk oluşturuyor,” dedi Arthur CEO’su Adam Wenchel. “Arthur, bu teknolojiyi daha hızlı ve güvenli bir şekilde devreye almak için gereken araçları yarattı, böylece şirketler, işletmelerini veya müşterilerini gereksiz riske maruz bırakmadan rakiplerinin önünde kalabiliyor.”
Arthur şu anda Humana, Savunma Bakanlığı (DoD), Expel, Axios HQ ve en büyük beş ABD bankasından üçü gibi sektör liderleri tarafından doğruluk, açıklanabilirlik ve adalet gibi AI geliştiricilerinin karşılaştığı kritik sorunları ele almak için kullanılıyor.
Ayrıca Arthur, Google, Amazon ve Microsoft dahil olmak üzere büyük teknoloji şirketleriyle ortak satış anlaşmaları yaptı.
Sektörlerdeki şirketler, Arthur’un platformundan yararlanarak yalnızca müşterilerini korumakla ve yapay zekalarının katı yasal gerekliliklere uymasını sağlamakla kalmadı, aynı zamanda işletme giderlerinde yüz milyonlarca dolar tasarruf ederken model odaklı önemli bir gelir artışı elde etti.