Tenable’daki siber güvenlik araştırmacıları, OpenAI’nin ChatGPT’sinde, kötü niyetli aktörlerin özel kullanıcı verilerini çalmasına ve herhangi bir kullanıcı etkileşimi olmadan saldırı başlatmasına olanak verebilecek bir dizi kritik güvenlik açığını ortaya çıkardı.
Güvenlik kusurları, her gün büyük dil modelleriyle etkileşime giren yüz milyonlarca kullanıcıyı etkileyerek yapay zekanın güvenliği konusunda önemli endişelere yol açıyor.
En Son GPT Modellerinde Yedi Kritik Güvenlik Açığı Keşfedildi
Araştırma ekibi, ChatGPT’nin harici verileri işlemesindeki zayıflıklardan yararlanan yedi farklı güvenlik açığı ve saldırı tekniği belirledi.
Bu güvenlik açıkları en son GPT-5 modelinde mevcut ve ChatGPT 4’ü de etkiliyor.
En endişe verici keşif, ChatGPT’ye bir web aramasını tetikleyen masum bir soru sorarak kullanıcıları tehlikeye atabilecek sıfır tıklamalı bir saldırı vektörüdür.
Güvenlik açıkları, ChatGPT’nin varsayılan olarak etkin olan ve potansiyel olarak hassas kullanıcı bilgilerini konuşmalar arasında depolayan bellek özelliğinden yararlanıyor.
Tenable araştırmacılar, güvenilir web sitelerindeki yorum bölümleri, dizine eklenmiş web sayfaları ve doğrudan URL parametreleri dahil olmak üzere çeşitli kanallar aracılığıyla kötü niyetli istemler enjekte etme yöntemlerini keşfetti.
“Konuşma Enjeksiyonu” adı verilen özellikle karmaşık bir teknik, saldırganların SearchGPT’nin yanıtlarına talimatlar ekleyerek ChatGPT’yi manipüle etmesine olanak tanır ve ChatGPT’nin kendisini enjekte etmesini etkili bir şekilde teşvik eder.
Belki de en endişe verici olanı, OpenAI’nin url_safe uç noktasını atlatmak için Bing izleme bağlantılarından yararlanan güvenlik mekanizmasının güvenlik açığını atlamasıdır. Bu güvenlik özelliği, kötü amaçlı URL’lerin kullanıcılara ulaşmasını önlemek için tasarlanmıştır.
Yine de araştırmacılar, Bing.com’un izin verilen durumunun, saldırganların, saldırganın kontrolündeki alanlara yönlendiren statik izleme bağlantılarını kullanarak kullanıcı verilerini her seferinde bir karakter olmak üzere sızdırmasına izin verdiğini buldu.
Tenable araştırmacıları, acil tehditlerin ötesinde, saldırganların ChatGPT’nin bellek sistemini manipüle ederek kalıcılık elde edebileceklerini gösterdi.
Bellek Enjeksiyonu tekniği aracılığıyla, kötü niyetli aktörler, bir kullanıcının anılarını, sonraki her ChatGPT yanıtında yürütülecek veri sızıntısı talimatlarını içerecek şekilde güncelleyebilir.
Bu, özel bilgilerin farklı görüşmelerde, oturumlarda ve hatta ilk ihlalden günler sonra bile sızdırılmasına devam eden kalıcı bir tehdit oluşturur.
Araştırma ekibi ayrıca, ChatGPT gizli talimatları işlemeye devam ederken saldırganların kötü amaçlı içeriği kullanıcılardan gizlemesine olanak tanıyan bir işaretleme oluşturma hatası da keşfetti.
Bu teknik, ChatGPT’nin yanıtlarına güvenen ve verilerinin çalındığının farkında olmayan kurbanlar için saldırıları neredeyse tespit edilemez hale getirir.
Tenable, bu güvenlik açıklarının yıkıcı bir etki için nasıl bir araya getirilebileceğini gösteren çok sayıda kavram kanıtı gösterimi sundu.
Bir senaryoda, saldırganlar popüler blogların ve haber sitelerinin yorum bölümlerine kötü niyetli istemler püskürtüyor.
Kullanıcılar ChatGPT’den bu makaleleri özetlemesini istediklerinde farkında olmadan istem enjeksiyonunu tetiklerler ve bu da kimlik avı saldırılarına veya veri hırsızlığına yol açar.
En şiddetli saldırı vektörü, soru sormanın ötesinde sıfır kullanıcı etkileşimi gerektirir. Saldırganlar belirli konularla ilgili web siteleri oluşturur, yalnızca SearchGPT bunlara göz attığında görünen istemleri enjekte eder ve sitelerin OpenAI tarayıcısı tarafından dizine eklenmesini bekler.
Kullanıcılar bu konularla ilgili bilgi aradığında, ChatGPT otomatik olarak kötü amaçlı web sitelerini kaynaklıyor ve güvenliği ihlal ediliyor.
Bu benzeri görülmemiş güvenlik açığı, güncel olaylara, siyasi eğilimlere veya özel ilgi alanlarına dayalı hedefli saldırılara olanak tanıyarak yapay zeka destekli arama işlevine güvenen herkesi etkileyebilir.
Anında Güncellemeler Almak ve GBH’yi Google’da Tercih Edilen Kaynak Olarak Ayarlamak için bizi Google Haberler, LinkedIn ve X’te takip edin.