En son üretici AI modelleri sadece bağımsız metin oluşturan sohbet botları değildir, aynı zamanda sorularınıza kişiselleştirilmiş cevaplar vermek için verilerinize kolayca bağlanabilirler. Openai’nin chatgpt, Gmail gelen kutunuza bağlanabilir, GitHub kodunuzu incelemeye izin verebilir veya Microsoft takviminizde randevu bulabilir. Ancak bu bağlantılar istismar edilme potansiyeline sahiptir ve araştırmacılar bunu yapmak için sadece tek bir “zehirli” belge alabileceğini gösterdiler.
Güvenlik araştırmacıları Michael Bargary ve Tamir Ishay Sharbat’ın yeni bulguları, bugün Las Vegas’taki Black Hat Hacker Konferansı’nda ortaya çıktı, Openai konektörlerindeki bir zayıflığın, dolaylı bir hızlı enjeksiyon saldırısı kullanılarak hassas bilgilerin bir Google Drive hesabından nasıl çıkarılmasına izin verdiğini gösteriyor. AgentFlayer olarak adlandırılan saldırının bir gösterisinde, pazarlık, bir gösteri sürücü hesabında saklanan API anahtarları şeklinde geliştirici sırlarını nasıl çıkarmanın mümkün olduğunu gösteriyor.
Güvenlik açığı, AI modellerinin harici sistemlere bağlanmasının ve bunlara daha fazla veri paylaşmanın, kötü niyetli bilgisayar korsanları için potansiyel saldırı yüzeyini nasıl artırdığını ve potansiyel olarak güvenlik açıklarının girebileceği yolları çoğalttığını vurgulamaktadır.
Güvenlik firması Zenity CTO’su Wired, “Kullanıcının tehlikeye girmek için yapması gereken hiçbir şey yok ve kullanıcının verilerin dışarı çıkması için yapması gereken hiçbir şey yok. “Bunun tamamen sıfır tutulduğunu gösterdik; sadece e-postanıza ihtiyacımız var, belgeyi sizinle paylaşıyoruz ve işte bu. Evet, bu çok, çok kötü” diyor pazarlık.
Openai, Wired’in konektörlerdeki güvenlik açığı hakkında yorum talebine hemen yanıt vermedi. Şirket, bu yılın başlarında beta özelliği olarak ChatGPT konektörlerini tanıttı ve web sitesi, hesaplarıyla bağlantılı olabilecek en az 17 farklı hizmeti listeliyor. Sistemin “araçlarınızı ve verilerinizi chatgpt’e getirmenize” ve “dosyaları arama, canlı veriler çekin ve içeriği doğrudan sohbette” vermenize izin veriyor.
Pazarlık, bulguları bu yılın başlarında Openai’ye bildirdiğini ve şirketin konektörler aracılığıyla veri çıkarmak için kullandığı tekniği önlemek için hızla hafifletmeler getirdiğini söyledi. Saldırının çalışma şekli, bir kerede sadece sınırlı miktarda veri çıkarılabilir – saldırının bir parçası olarak tam belgeler kaldırılamadı.
“Bu sorun Google’a özgü olmasa da, hızlı enjeksiyon saldırılarına karşı güçlü korumaların geliştirilmesinin neden önemli olduğunu göstermektedir” diyor Google Workspace güvenlik ürün yönetimi kıdemli direktörü Andy Wen, şirketin yakın zamanda geliştirilmiş AI güvenlik önlemlerine işaret ediyor.