LayerX Security’deki siber güvenlik araştırmacıları, OpenAI’nin yeni tarayıcısı ChatGPT Atlas’ta, saldırganların kötü amaçlı talimatları doğrudan kullanıcının ChatGPT oturum belleğine yerleştirmesine olanak tanıyan bir güvenlik açığı tespit etti. “ChatGPT Kusurlu Anılar” adını verdikleri bu açık, bir saldırganın kullanıcının haberi olmadan uzaktan kod çalıştırmasına, kullanıcının hesabını, tarayıcısını veya bağlantılı sistemlerini hedeflemesine olanak tanıyor.
Araştırmacılara göre bu güvenlik açığı özellikle endişe verici çünkü ChatGPT Atlas’ın neredeyse hiçbir yerleşik kimlik avı koruması sunmadığı ve tarayıcı kullanıcılarını Google Chrome veya Microsoft Edge gibi standart tarayıcıları kullananlara göre %90’a kadar daha savunmasız bıraktığı bildiriliyor.
Şu anda ChatGPT Atlas tarayıcısının yalnızca macOS’ta mevcut olduğunu belirtmekte fayda var. Windows ve Android sürümlerinin yakında piyasaya sürülmesi bekleniyor. Yeni keşfedilen güvenlik açığının neye benzediği, neden önemli olduğu ve kullanıcıların bu konuda neler yapabileceği aşağıda açıklanmıştır.
Güvenlik açığı nasıl çalışır?
Bir kullanıcı ChatGPT Atlas’a göz attığında tarayıcı, web sayfalarını anlamak, bilgileri özetlemek ve sizin adınıza hareket etmek için ChatGPT’nin aracılık yeteneklerini kullanır. LayerX, bir saldırganın tarayıcının işlediği içeriğe gizli kötü amaçlı talimatlar yerleştirebileceğini tespit etti.
ChatGPT, bu içeriği hafızasının veya görev listesinin bir parçası olarak yorumladığında, kullanıcının açıkça istemediği eylemleri gerçekleştirebilir, hesap açabilir, komutları çalıştırabilir ve hatta dosyalara erişebilir.
Özellikle tehlikeli olan şey, aracılı bellek özelliğinin bağlamı koruması nedeniyle bu istismarın cihazlar veya oturumlar arasında devam edebilmesidir. Bir saldırganın tek bir oturumu tek başına kullanmasına gerek yoktur; kalıcı bir yer edinebilirler.
Ayrıca, bu yeni tarayıcı modelinde yerleşik kimlik avı koruması zayıf olduğundan, bir saldırgan standart sosyal mühendislik vektörlerini (kötü amaçlı bağlantılar, gizli istemler) kullanabilir ve ağır işleri yapmak için tarayıcının yapay zeka aracısına güvenebilir. Standart tarayıcılar için tasarlanan geleneksel korumalar, bu yapay zeka aracısı davranışlarını kapsamıyor gibi görünüyor.
“Güvenlik açığı, herhangi bir tarayıcıdaki ChatGPT kullanıcılarını etkiliyor, ancak OpenAI’nin yeni ajan tarayıcısı ChatGPT Atlas’ın kullanıcıları için özellikle tehlikeli. LayerX, Atlas’ın şu anda anlamlı bir kimlik avı koruması içermediğini tespit etti; bu, bu tarayıcının kullanıcılarının, Chrome veya Edge gibi geleneksel tarayıcıların kullanıcılarına kıyasla kimlik avı saldırılarına karşı %90’a kadar daha savunmasız olduğu anlamına geliyor.”
Or Eshed – LayerX Kurucu Ortağı ve CEO’su
Bu, kullanıcılar ve kuruluşlar için neden önemlidir?
LayerX Security’nin blog gönderisine göre, saldırı kötü amaçlı yazılım yüklemeyi veya tuhaf izinler vermeyi gerektirmediği için teknik bilgisi olmayan kullanıcılar bile etkilenebilir; tarayıcı aracısının güveninden ve bağlamından yararlanır. Kuruluşlar için bu, yeni bir tür saldırı yüzeyi açar: İçeriği kullanıcı talimatlarıymış gibi tarayan yapay zeka tarayıcıları.
ChatGPT’nin çok geniş bir kullanıcı tabanı olduğundan, bu kusurdan yararlanan bir saldırgan, çok sayıda hesabı hızla hedefleyebilir. Hafızanın veya bağlamın oturumları taşıyabilmesi, etkinin ilk cihazın ötesine yayılabileceği anlamına gelir. Üstelik bu, tarayıcı güvenliğinin, tarayıcının özerk hareket eden bir aracı değil, yalnızca bir araç olduğu yönündeki temel varsayımlarından birini zayıflatır.
Şimdilik ne yapmalı
ChatGPT Atlas kullanıyorsanız daha iyi koruma için bazı pratik adımlar şunlardır:
- Güvenliğine olan güven artıncaya kadar AI tarayıcının hassas hesaplar (e-posta, bankacılık, iş kimlik bilgileri) için kullanımını sınırlayın.
- Yapay zeka tarayıcısını kullanırken bilmediğiniz bağlantılara tıklamaktan kaçının ve kritik görevler için standart bir tarayıcı kullanmayı düşünün.
- Tarayıcının neyi hatırladığını veya aracının hangi eylemleri gerçekleştirdiğini düzenli olarak inceleyin ve bunları tanıdığınızdan emin olun.
- Kuruluşlar herhangi bir AI tarayıcısını daha yüksek riskli bir uç nokta olarak ele almalı ve ekstra kontroller uygulamalıdır (en az ayrıcalık, aracı eylemlerini izleme, bağlamları kısıtlama).
- Yazılımı güncel tutun ve OpenAI’den gelen yamaları veya ChatGPT Atlas ile ilgili güvenlik önerilerini izleyin.
Güvenlik Açığı OpenAI’ye Bildirildi
LayerX, istismarı Sorumlu Açıklama kanalları aracılığıyla OpenAI’ye bildirdi ve şirkete tüm ayrıntılar kamuya açıklanmadan önce kusuru araştırma ve düzeltme şansı verdi. Araştırmacılar bulgularının üst düzey bir özetini paylaştılar ancak herhangi birinin saldırıyı yeniden oluşturmasını veya kötüye kullanmasını önlemek için teknik ayrıntıları gizli tutuyorlar.
OpenAI’nin bu sorunu çözmek için bazı çalışmaları var. Sorun, Atlas tarayıcısının içeriği okuma ve belleğinin bir parçası olarak saklama biçiminden kaynaklandığından, gerçek bir düzeltme, hızlı bir yama veya eklenen güvenlik filtrelerinden daha fazlasını gerektirebilir.