Araştırmacılar OpenAI’nin Atlas ajan tarayıcısında güvenlik açıkları buluyor


Güvenlik araştırmacıları, yapay zeka (AI) şirketi OpenAI tarafından geliştirilen bir haftalık Atlas web tarayıcısını incelediler ve yazılımı erken benimseyenlerden olmanın riskli bir teklif olduğunu öne süren güvenlik açıklarını buldular.

Araştırmacılar OpenAI'nin Atlas ajan tarayıcısında güvenlik açıkları buluyor


Tarayıcı güvenlik sağlayıcısı LayerX, tehdit aktörlerinin Atlas’a kötü niyetli talimatlar enjekte edebildiğini gösteren bir araştırma yayınladı.

Bunların, tarayıcının ChatGPT chatbot entegrasyonuna ilişkin anıları kalıcı olarak lekeleyebileceği ve kodu uzaktan çalıştırabileceği belirtildi.

Saldırı, kullanıcıları kötü niyetli bir istek göndermeye kandıran, bu durumda tehdit aktörlerinin kullanıcıların ChatGPT’sine erişmesini sağlayan siteler arası istek sahteciliğiyle yapılıyor.

LayerX, “Bu istismar, saldırganların sistemlere kötü amaçlı kod bulaştırmasına, kendilerine erişim ayrıcalıkları vermesine veya kötü amaçlı yazılım dağıtmasına olanak tanıyabilir” dedi.

LayerX, keşfettiği güvenlik açığının herhangi bir tarayıcıdaki ChatGPT kullanıcılarını etkilediğini söylese de, özellikle OpenAI Atlas kullanıcıları için tehlikelidir.

LayerX, Atlas’ın kimlik avına karşı anlamlı bir koruma içermediğini, bunun da kullanıcılarını bu tür saldırılara karşı Google Chrome gibi AI olmayan tarayıcıları çalıştıran diğer tarayıcılara göre yüzde 90’a kadar daha savunmasız hale getirdiğini söyledi.

LayerX tarafından 103 doğal saldırı ile yapılan test, tehditlerin yüzde 53’ünü durduran Microsoft Edge’in ve tehditlerin yüzde 47’sini önleyen Google Chrome’un aksine, Atlas’ın yüzde 97’sinin geçmesine izin verdiğini gösterdi.

LayerX, Perplexity.ai’nin Comet ve Genspark gibi diğer ajan yapay zeka tarayıcılarının da kimlik avı saldırılarına karşı zayıf performans gösterdiğini söyledi.

LayerX’ten önce güvenlik sağlayıcısı NeuralTrust, Atlas “çok amaçlı adres çubuğu”nun hızlı enjeksiyon için kullanılabileceğini ve saldırganların güvenlik kontrollerini atlamak için kötü amaçlı talimatlar içeren özel hazırlanmış web bağlantılarını kullanmasına olanak tanıdığını keşfetmişti.

OpenAI’nin bilgi güvenliği şefi Dan Stuckey, “hızlı enjeksiyonun bir sınır, çözülmemiş güvenlik sorunu olmaya devam ettiğini” ve saldırganların ChatGPT aracısının bu tür saldırılara kanmasını sağlamak için zaman ve kaynak harcayacağını itiraf etti.

Atlas, Apple’ın macOS 14.2 veya üzeri işletim sistemlerinde, M serisi işlemcili Mac bilgisayarlarda mevcuttur ve açık kaynaklı Chromium çerçevesini temel alır.

OpenAI, Atlas’ın “genel olarak tüketicilere açık” olduğunu söylerken, tarayıcının, yazılımı düşük riskli verilerle değerlendirmesi istenen ticari ve kurumsal müşteriler için beta sürümde olduğu belirtiliyor.

Bu nedenle OpenAI, Hizmet Organizasyon Kontrolü 2 (SOC 2), rol tabanlı erişim kontrolleri, güvenlik bilgileri aracılığıyla izleme ve olay yönetimi (SIEM) gibi çoğu kurumsal güvenlik ve uyumluluk özelliğinin bu aşamada desteklenmemesi nedeniyle Atlas’ın kapsam dışı olması gerektiğini söyledi.

Aracı işlevselliği söz konusu olduğunda OpenAI, otonom yapay zekanın davranışının kuruluşlar için yeni riskler oluşturması durumunda kullanıcıların bunu güvenlik ekipleriyle birlikte incelemesini önerdi.

OpenAI, Atlas’ın düzenlenmiş, gizli veya üretim verileriyle kullanılmamasını tavsiye etti.

Yapay zeka şirketi, Atlas’ın ticari ve kurumsal müşterilerin içeriğini modellerini eğitmek için kullanmadığını söyledi ancak bunun tüketiciler için geçerli olup olmadığına açıklık getirmedi.





Source link