Daha fazla şirket yapay zeka sistemlerinin gelişimini hızlandırdıkça, büyük dil modellerini (LLM’ler) çalıştırmak ve verileri büyük ölçekte hızlı bir şekilde işlemek için ihtiyaç duydukları bilgi işlem gücü için giderek daha fazla grafik işlem birimi (GPU) çiplerine yöneliyorlar. Video oyunu işleme ve yapay zeka arasında GPU’lara olan talep hiç bu kadar yüksek olmamıştı ve çip üreticileri arzı artırmak için acele ediyor. Ancak bugün açıklanan yeni bulgularda araştırmacılar, Apple, Qualcomm ve AMD çipleri de dahil olmak üzere ana akım GPU’ların birçok marka ve modelinde, bir saldırganın GPU belleğinden büyük miktarda veri çalmasına olanak verebilecek bir güvenlik açığının altını çiziyor.
Silikon endüstrisi, merkezi işlem birimlerinin veya CPU’ların güvenliğini geliştirmek için yıllarını harcadı, böylece hız için optimize edilmiş olsalar bile bellekteki verileri sızdırmazlar. Ancak GPU’lar ham grafik işleme gücü için tasarlandığından, veri gizliliğinin öncelikli olduğu aynı derecede tasarlanmamıştır. Üretken yapay zeka ve diğer makine öğrenimi uygulamaları bu çiplerin kullanımını genişletirken, New York merkezli güvenlik firması Trail of Bits’ten araştırmacılar, GPU’lardaki güvenlik açıklarının giderek daha acil bir endişe kaynağı haline geldiğini söylüyor.
Trail of Bits’in yapay zeka ve makine öğrenimi güvencesi mühendislik direktörü Heidy Khlaaf, WIRED’e şunları söylüyor: “Bu GPU’ların olması gerektiği kadar güvenli olmamalarına ve önemli miktarda veri sızdırmalarına ilişkin daha geniş bir güvenlik endişesi var.” “5 megabayttan 180 megabayta kadar her yere bakıyoruz. CPU dünyasında, bir parça bile ortaya çıkarılamayacak kadar fazla.”
Araştırmacıların LeftoverLocals adını verdiği bu güvenlik açığından yararlanmak için saldırganların hedef cihazında bir miktar işletim sistemi erişimi kurmuş olması gerekiyor. Modern bilgisayarlar ve sunucular, birden fazla kullanıcının birbirlerinin verilerine erişmeden aynı işlem kaynaklarını paylaşabilmesi için verileri silolayacak şekilde özel olarak tasarlanmıştır. Ancak LeftoverLocals saldırısı bu duvarları yıkar. Güvenlik açığından yararlanmak, bir bilgisayar korsanının savunmasız GPU’ların yerel belleğinden erişememeleri gereken verileri sızdırmasına olanak tanıyacak ve LLM’ler tarafından oluşturulan sorgular ve yanıtların yanı sıra, alınacak veriler de dahil olmak üzere orada bulunan her türlü veriyi açığa çıkaracaktır. tepkiyi yönlendiren ağırlıklar.
Aşağıdaki GIF’te görüldüğü gibi, konsept kanıtlarında araştırmacılar, solda gösterilen bir hedefin açık kaynak LLM Llama.cpp’den WIRED dergisi hakkında ayrıntılı bilgi vermesini istediği bir saldırıyı gösteriyor. Saldırganın (sağda gösterilen) cihazı saniyeler içinde, savunmasız GPU belleğine bir LeftoverLocals saldırısı gerçekleştirerek LLM tarafından sağlanan yanıtın çoğunu toplar. Araştırmacıların oluşturduğu saldırı programı 10 satırdan az kod kullanıyor.
Bir saldırgan (sağda), LLM konuşmalarını dinlemek için LeftoverLocals güvenlik açığından yararlanıyorVideo: Bitlerin İzi
Geçen yaz araştırmacılar yedi GPU üreticisinden gelen 11 çipi ve bunlara karşılık gelen birden fazla programlama çerçevesini test etti. Apple, AMD ve Qualcomm’un GPU’larında LeftoverLocals güvenlik açığını buldular ve Eylül ayında US-CERT Koordinasyon Merkezi ve 3D grafiklere odaklanan bir standartlar kuruluşu olan Khronos Group ile işbirliği içinde güvenlik açığına ilişkin geniş kapsamlı, koordineli bir açıklama başlattılar. makine öğrenimi, sanal ve artırılmış gerçeklik.
Araştırmacılar Nvidia, Intel veya Arm GPU’larının LeftoverLocals güvenlik açığını içerdiğine dair kanıt bulamadılar ancak Apple, Qualcomm ve AMD, WIRED’e bu güvenlik açığından etkilendiklerini doğruladı. Bu, AMD Radeon RX 7900 XT gibi iyi bilinen çiplerin ve Apple’ın iPhone 12 Pro ve M2 MacBook Air gibi cihazlarının savunmasız olduğu anlamına geliyor. Araştırmacılar, test ettikleri Imagination GPU’larda kusur bulamadılar ancak diğerleri savunmasız olabilir.
Bir Apple sözcüsü LeftoverLocals’ı doğruladı ve şirketin 2023’ün sonunda tanıttığı en son M3 ve A17 işlemcileriyle birlikte düzeltmeler gönderdiğini belirtti. Bu, güvenlik açığının görünüşte hala milyonlarca mevcut iPhone, iPad ve MacBook’ta mevcut olduğu anlamına geliyor. önceki nesil Apple silikonlarında. 10 Ocak’ta Trail of Bits araştırmacıları, güvenlik açığını bir dizi Apple cihazında yeniden test etti. Apple’ın M2 MacBook Air’inin hâlâ savunmasız olduğunu ancak iPad Air 3. nesil A12’nin yamalanmış gibi göründüğünü buldular.