Trafik uçtan uca şifrelemeyle korunsa bile yapay zeka sohbet robotlarıyla yapılan konuşmaların konularını ortaya çıkaran karmaşık bir yan kanal saldırısı.
“Fısıltı Sızıntısı” olarak adlandırılan bu güvenlik açığı, ulus devlet aktörleri, İSS’ler veya Wi-Fi meraklıları gibi kulak misafiri olanların ağ paket boyutlarından ve zamanlamalarından hassas istem ayrıntılarını çıkarmasına olanak tanıyor. Bu keşif, yapay zeka araçlarının sağlık hizmeti sorgularından hukuki tavsiyelere kadar günlük hayata daha derinlemesine entegre olması nedeniyle artan gizlilik risklerine dikkat çekiyor.
Microsoft’taki araştırmacılar, yakın tarihli bir blog gönderisinde saldırının ayrıntılarını vererek, bunun kullanıcıların yapay zeka sistemlerine olan güveni üzerindeki etkilerini vurguladı. Saldırganlar, büyük dil modellerinden (LLM’ler) gelen akış yanıtlarını analiz ederek, verilerin şifresini çözmeden istemleri belirli konulara göre sınıflandırabilir.
Bu durum özellikle protestolar, seçimler veya yasaklı içeriklerle ilgili tartışmaların hedef almaya yol açabileceği baskıcı rejimlerin olduğu bölgelerde endişe vericidir.
OpenAI veya Microsoft’unkiler gibi AI sohbet robotları, jeton bazında yanıtlar oluşturur ve hızlı geri bildirim için çıktı akışı sağlar. Bu otoregresif süreç, HTTPS gibi protokoller aracılığıyla TLS şifrelemesiyle birleştiğinde genellikle içeriği korur.
Ancak Whisper Leak meta verileri hedefler: Paket boyutlarındaki (belirteç uzunluklarına bağlı) ve varışlar arası sürelerdeki farklılıklar, konulara özgü kalıpları ortaya çıkarır.
Metodoloji, sınıflandırıcıların şifrelenmiş trafik konusunda eğitilmesini içeriyordu. Kavramın kanıtlanması için araştırmacılar “kara para aklamanın yasallığı” konusuna odaklandılar, 100 anlık değişken oluşturdular ve bunları 11.716 alakasız Quora sorusuyla karşılaştırdılar.
Veri yakalamak için tcpdump gibi araçları kullanarak LightGBM, Bi-LSTM ve BERT tabanlı sınıflandırıcılar dahil olmak üzere modelleri test ettiler. Sonuçlar çarpıcıydı: Birçoğu, Hedef Konuları Gürültüden Ayırarak Hassasiyet-Geri Çağırma Eğrisi Altındaki Alanda (AUPRC) %98’in üzerinde doğruluk elde etti.
Simüle edilmiş gerçek dünya senaryolarında, 10.000 konuşmayı izleyen saldırganlar hassas olanları %100 hassasiyet ve %5-50 geri çağırma ile işaretleyebilir; bu da daha az sayıda yanlış alarm ve yasa dışı sorgularda güvenilir isabet anlamına gelir.
Saldırı, Weiss ve arkadaşlarının belirteç uzunluğu çıkarımı gibi önceki araştırmalara dayanıyor. ve Carlini ve Nasr’ın zamanlama istismarları, ancak konu sınıflandırmasına kadar uzanıyor.
Azaltmalar
Microsoft, düzeltmeleri dağıtmak için OpenAI, Mistral, xAI ve kendi Azure platformu gibi satıcılarla işbirliği yaptı. OpenAI, jeton uzunluklarını maskelemek ve saldırının uygulanabilirliğini azaltmak için rastgele metin parçaları içeren bir “karartma” alanı ekledi.
Mistral, benzer rastgeleleştirme için bir “p” parametresi sunarken Azure bu değişiklikleri yansıttı. Bu güncellemeler, test başına riskleri ihmal edilebilir seviyelere indirir.
Kullanıcılar için uzmanlar, genel ağlarda hassas konulardan kaçınmayı, VPN kullanmayı, akış dışı modları tercih etmeyi ve hafifletilmiş sağlayıcıları seçmeyi öneriyor. GitHub’daki açık kaynaklı Whisper Leak deposu, farkındalık ve daha fazla çalışma için kod içerir.
Bu olay, benimsenme arttıkça güçlü yapay zeka gizliliğine olan ihtiyacın altını çiziyor. Azaltma önlemleri acil tehdidi ele alırken, gelişen saldırılar sektörün sürekli olarak dikkatli olmasını gerektirebilir.
Günlük siber güvenlik güncellemeleri için bizi Google Haberler, LinkedIn ve X’te takip edin. Hikayelerinizi öne çıkarmak için bizimle iletişime geçin.
