Tracer AI, markaları kötü aktörler tarafından AI chatbots aracılığıyla makine ölçeğinde yayılan itibar zararından koruyan bir çözüm olan Chatgpt için Tracer Protect’i başlattı.
Üretken AI (GENAI) motorlarının artan popülaritesi, işletmelerin karşılaştığı acil ve hızla gelişen marka güvenlik tehdidi vektörünü yönlendiriyor. CHATGPT için Tracer Protect, Tracer müşterilerinin markalarının, ürünlerinin, hizmetlerinin ve yöneticilerinden bahsetme için chatgpt sonuçlarını aktif olarak izler ve sahtekarlık, sosyal mühendislik, yönetici taklit etme, hileli mobil uygulamalar, taklit veya nakavt ürünleri ve gelişmiş anlatım saldırıları gibi zararlı şemaları proaktif olarak tanımlar ve nötralize eder.
Bir tehdit üzerine yapılan her eylemden öğrenmek için tasarlanan Tracer’ın Flora Ajan AI platformu üzerine inşa edilen CHATGPT için Tracer Protect, tehdit algılama yeteneklerini sürekli olarak geliştirir ve uyarlar.
“Openai, Chatgpt’te Nefarious etkinliğiyle savaşmak için zaten önemli adımlar atıyor. CHATGPT için Tracer Protect ile Tracer artık bu soruna karşı sağlam bir çözümün temel bir direği olacak, Openai’deki ihlal faaliyetlerini ve tüketicilere avcıya avcı için tasarlanan web siteleri, mobil uygulamalar ve pazar yerleriyle ilgili herhangi bir bağlantıyı geliştirecek.” Dedi.
Üretken AI, marka istismarcıları için bir sonraki yeşil alan olarak ortaya çıkıyor
Ana akım erişilebilirlik ve genel halkın üretken AI çıktılarına olan güveni, kötü aktörlerin marka kötüye kullanımını sürdürmesi için yeni, son derece etkili yollar yarattı. Özellikle, AI chatbots artık arama deneyimlerinin bir parçası olarak ürün önerilerini içerir ve bir kullanıcının sorgusu “yemek pişirmeyi seven biri için hediyeler” veya “200 doların altındaki en iyi gürültü önleyici kulaklıklar” gibi alışveriş niyetini ima ettiğinde ilgili ürünleri ortaya çıkarabilir.
Bu yeni özellik, AI Chatbots’un Web’i arama ve bağlantılar sağlama yeteneği ile birleştiğinde, kötü aktörlerin yetkisiz içerik, ürün ve hizmetleri tanıtması ve yüksek hedefli kimlik avı şemaları yürütmesi için yeni bir yol oluşturur.
Snowflake stratejik hesap yöneticisi Sawyer Ramsey, “AI Chatbots’un marka manipülasyonu için yeni bir vektör olarak ortaya çıkması, işletme kuruluşları için acil bir endişe” dedi. “Snowflake AI veri bulutunu kullanan Tracer’ın platformu, müşterileri için doğru zaman bilgileri sağlamak için inanılmaz tepki süreleri elde edebilir. Şirketin yapay zeka çıktılarında marka itibarını izleme proaktif yaklaşımı, yeni dijital ortamımızda gezinirken, siber güvenlik endüstrisinin ihtiyaç duyduğumuz için ihtiyaç duyduğu bir tür ileriye dönük korumayı temsil eder.
Geleneksel marka ihlaline ek olarak, kötü niyetli aktörler AI platformlarına sofistike anlatı zehirlenmesi saldırıları enjekte etmeye başladı. Bunlar, bir marka hakkındaki yanıltıcı veya zararlı hikayelerin ve anlatıların kasıtlı olarak hazırlanmasını ve yayılmasını içerir. Yanlış bilgilerin ve negatif ilişkilerin bu sistematik olarak tohumlanması sadece kamuoyunu etkilemekle kalmaz, aynı zamanda AI sistemlerinin marka ile ilgili sorgulardan nasıl öğrendiklerini ve bunlara yanıt vermesini de değiştirebilir.
AI ikametgahı ve yapay zeka odaklı kötü niyetli etkinlikteki artış, genellikle bu yeni tehditlerin son derece yüksek hacmine ve karmaşıklığına ayak uydurmak için mücadele eden geleneksel marka koruma yöntemleri için önemli bir zorluk oluşturmaktadır. AI Chatbots’a özgü özel izleme eksikliği göz önüne alındığında, kötü aktörler, üretken motor optimizasyonu (GEO) kullanarak bu AI Chatbots içindeki görünürlüklerini teşvik ederek içeriklerini geleneksel arama motorlarından saklıyorlar.
Farnell, “Hileli içeriğin üretilebileceği artan kolaylık ve benzeri görülmemiş tüketicinin arama motorlarından AI chatbots kullanılarak artan kolaylığı göz önüne alındığında, bu tehdidin önüne geçme aciliyeti abartılamaz. Kuruluşlar, dijital varlıklarını korumak için eşit derecede ileri önyargıları benimsemelidir” diye devam etti Farnell. “Kötü niyetli aktörler ve marka savunucuları arasındaki bu artan teknolojik silah yarışı, dijital güvenliğe proaktif ve nüanslı bir yaklaşım gerektiriyor, bu yüzden chatgpt için izleyici koruma oluşturduk. Marka ihlallerini aktif olarak monitörler ve nötrleştirmek için Chatgpt çıktılarını aktif olarak monitörler ve analiz eden ve bu, bu tehlikeli riskleri tespit etmek ve almaya yardımcı olmak için AI’yi kullanmaya yardımcı oluyoruz. müşterileri. “
AI tarafından üretilen çıktılardan artan tehditleri ele alır
Tracer AI platformunun merkezinde, dijital marka korumasının karmaşıklıkları için tasarlanmış özel amaçlı bir ajan AI sistemi olan Flora bulunmaktadır. Flora’nın aracı yetenekleri, çevrimiçi tehditlerin sürekli doğası göz önüne alındığında, “her zaman açık” bir savunmaya doğru ilerleyerek tüm izleme ve uygulama sürecini daha da otomatikleştirir ve hızlandırır. Bu nedenle, marka kötüye kullanım örnekleri için live zamana (TTL)% 80’e kadar büyük ölçüde azaltır ve alakasız tehdit tespitlerini akıllıca filtreler.
Floradan yararlanan CHATGPT için Tracer Protect, dijital marka bütünlüğünde önemli bir sıçrama temsil ediyor. Çok çeşitli marka ihlallerini tespit etmek ve nötralize etmek için ChatGPT çıkışlarını aktif olarak izler ve analiz eder. Gelecekte kalıpları daha iyi tanıyabilmesi için bir tehdit üzerinde harekete geçmek için verdiği her kararla daha akıllı hale gelir.
Tracer AI, kapsamlı marka izleme ve koruma yeteneklerini chatbotlara genişleterek, markalara, ChatGPT’nin arama ve ürün önerisi özellikleri aracılığıyla bulunanlar da dahil olmak üzere gelişmekte olan dijital içerik kaynağında riskleri proaktif olarak tanımlama ve azaltma yeteneği sunuyor. Bu proaktif nötralizasyon kabiliyeti, üretken AI gelişmeye ve kötü aktörler tarafından sömürülmeye devam ettiği için marka özgünlüğünü ve tüketici güvenliğini korumak için hayati öneme sahiptir.
CHATGPT için Tracer Protect, Tracer’ın, gelişmiş AI’nın benzersiz hızını ve ölçeğini insan analistlerinin uzmanlığıyla sorunsuz bir şekilde entegre eden Tracer’ın Tescilli İnsan İnsanı AI (HITL) yaklaşımını içerir. Bu kombinasyon, uygulama önerilerinin sadece hızlı ve verimli olmasını değil, aynı zamanda doğru, yasal olarak savunulabilir ve markaya özgü hedefler ve direktiflerle uyumlu olmasını sağlar.
ChatGPT için Tracer Protect, DataIKU’dan Universal AI platformunda inşa edilmiştir ve geliştirilmiştir. Bu stratejik işbirliği ile Tracer AI, üretken AI ortamlarında ortaya çıkan marka tehditlerini tespit etmede ve etkisiz hale getirmede benzersiz bir doğruluk, hız ve ölçek sunar. Tracer AI, DataIKU’nun AI ajanlarının tamamen yönetilen yaratılışını ve kontrolünü kullanarak, gelişen dijital manzaraya marka bütünlüğünü ve tüketici güvenini koruma taahhüdünü güçlendiriyor.
“Tracer AI önden liderlik ediyor, gelişmiş AI ajanlarının bina ve kontrol edilmesinin, daha iyi gen kontrolüne doğru ilerlemek de dahil olmak üzere dönüştürücü ve dayanıklı bir iş avantajı sağlayabileceğini kanıtlıyor. Flora ajanını evrensel AI platformu ile birleştirerek, Tracer, Frontier Ai’yi gerçek world çıkışlarına nasıl çevireceğini gösterdi.” “Dataiku’nun tam olarak inşa edildiği şey budur: vizyoner ekiplerin, ölçülebilir iş etkisi elde ederken gerçek dünya zorluklarını tamamen yeni yollarla çözen AI ajanları oluşturmalarını, yönetmesini ve birbirine bağlamalarını sağlamak.”
ChatGPT için Tracer Protect, şirketin yakın vadeli yol haritasında, kaynaklarında mevcut ve ortaya çıkan genai tehditlerini etkisiz hale getirmeyi amaçlayan ve AI tehdit vektörleri çoğaldıkça marka özgünlüğünü ve tüketici güvenini sağlayan çoklu çözümlerin ilkidir. Şirket, bu yıl Claude, Düşünce ve Gemini için marka koruma ürünlerini piyasaya sürecek.