Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
LeftoverLocals Apple, AMD ve Qualcomm Cihazlarını Etkiliyor
Akşaya Asokan (asokan_akshaya) •
18 Ocak 2024
Araştırmacılar, popüler cihazların grafik işleme birimlerinde, saldırganların büyük dil modellerinden verilere erişmesine olanak verebilecek kritik bir güvenlik açığını ortaya çıkardı.
Ayrıca bakınız: BT ve Güvenlikte Yapay Zekanın Geleceği Nedir?
LeftoverLocals olarak adlandırılan kusur, Apple, AMD ve Qualcomm cihazlarının GPU çerçevelerini etkiliyor. Güvenlik firması Trail of Bits’teki kusuru ortaya çıkaran araştırmacılar, bunun, etkilenen cihazların çekirdek belleğini yalıtmamasından kaynaklandığını ve saldırganın, hedeflenen aygıtların bellekten veri boşaltmasını sağlamak için yalnızca GPU çekirdek kodunu yazmasına izin verdiğini söyledi.
Araştırmacılar, hacklemeyi düzenlemek için AMD Radeon RX 7900 XT GPU’da Meta’nın açık kaynaklı LLM modeli olan llama.cpp’yi kullandılar. Ayrıca Dinleyici ve Yazar adlı iki çekirdek programını derlemek için açık kaynaklı programlama dili OpenCL’i kullandılar.
Yazar, araştırmacıların arabellek taşmalarını yerel bellekte saklamasını ve Dinleyicinin başlatılmamış yerel belleği okumasını sağladı. Araştırmacılar iki programı çalıştırdıklarında, hedef cihazdan LLM uygulamasından kalan belleği boşaltmasını istediler.
Araştırmacılar, 181 megabaytlık LLM sorgusuna erişebildiklerini ve bu taktiklerin, saldırganların sohbet oturumlarını çoğaltmasına ve model parametrelerine ve çıktılarına erişim izni vermesine olanak tanıyarak LLM modellerine yönelik genel tehdit vektörünü artırdığını söyledi.
Araştırmacılar, “Bu saldırıları uygulamak zor değil ve amatör programcıların erişimine açık” dedi. Makine öğrenimi yığınlarının bazı kısımları “güvenlik uzmanları tarafından titizlikle incelenmediğinden” açık kaynaklı LLM’lerin bu güvenlik açığına özellikle duyarlı olduğunu söylediler.
Araştırmacılara göre Apple, kusur için sınırlı yamalar yayınlarken, Qualcomm ve AMD de güvenlik açığını değerlendirmeye devam ettiklerini söyledi.
Trail of Bits araştırmacılarının uyarısı, ABD Ulusal Standartlar ve Teknoloji Enstitüsü’nün, üretken yapay zeka sistemlerinin, yazılım ortamlarındaki karmaşıklık nedeniyle hızlı enjeksiyon ve veri sızıntısı tehditlerine karşı duyarlı olmaya devam ettiğini söyleyen bir uyarısıyla kabaca örtüşüyor (bkz.: NIST Yapay Zeka Modellerine Yönelik Siber Tehditlere Karşı Uyardı ).
NIST, “Bir yapay zekayı eğitmek için kullanılan veri kümeleri, insanların başarılı bir şekilde izlemesi ve filtrelemesi için çok büyük olduğundan, yapay zekayı yanlış yönlendirmeden korumanın henüz kusursuz bir yolu yok” dedi.