İngiliz yetkililer, yapay zeka destekli chatbot’ları işlerine entegre etmeleri konusunda kuruluşları uyarıyor ve araştırmaların giderek zararlı görevleri yerine getirmek üzere kandırılabileceğini gösterdiğini söylüyor.
İngiltere Ulusal Siber Güvenlik Merkezi (NCSC), Çarşamba günü yayınlanacak bir çift blog yazısında, uzmanların, büyük dil modelleri olarak adlandırılan, insana benzeyen etkileşimler oluşturabilen algoritmalara bağlı potansiyel güvenlik sorunlarıyla henüz başa çıkamadığını söyledi. veya LLM’ler.
Yapay zeka destekli araçlar, bazılarının sadece internet aramalarının değil, aynı zamanda müşteri hizmetleri çalışmalarının ve satış çağrılarının da yerini alacağını öngördüğü sohbet robotları olarak erken dönemde kullanılmaya başlandı.
NCSC, özellikle bu tür modellerin kuruluşun iş süreçlerindeki diğer unsurlara eklenmesi halinde bunun risk taşıyabileceğini söyledi.
Akademisyenler ve araştırmacılar, chatbotları hileli komutlarla besleyerek veya kendi yerleşik korkuluklarını aşmaları için kandırarak onları altüst etmenin yollarını defalarca buldular.
Örneğin, bir banka tarafından konuşlandırılan yapay zeka destekli bir sohbet robotu, bir bilgisayar korsanının sorgusunu doğru şekilde yapılandırması durumunda yetkisiz bir işlem yapması için kandırılabilir.
NCSC, blog gönderilerinden birinde deneysel yazılım sürümlerine atıfta bulunarak, “LLM’leri kullanan hizmet geliştiren kuruluşların, tıpkı beta sürümdeki bir ürün veya kod kütüphanesini kullanıyorlarsa olacakları gibi dikkatli olmaları gerekir.” dedi.
“Ürünün müşteri adına işlem yapılmasına izin vermeyebilirler ve umarız ürüne tamamen güvenmezler. Benzer uyarılar yüksek lisans öğrencileri için de geçerli olmalıdır.”
Dünyanın dört bir yanındaki yetkililer, işletmelerin satış ve müşteri hizmetleri de dahil olmak üzere geniş bir hizmet yelpazesine dahil ettiği OpenAI ChatGPT gibi LLM’lerin yükselişiyle boğuşuyor.
ABD ve Kanada’daki yetkililerin bilgisayar korsanlarının bu teknolojiyi benimsediğini gördüklerini söylemeleriyle birlikte, yapay zekanın güvenlik üzerindeki etkileri de hala odak noktası olmaya devam ediyor.