Elon Musk’un Yapay Zeka Şirketi’nde bir çalışan Xai özel bir anahtar sızdı Zımpara Son iki aydır, kimsenin Musk şirketlerinden dahili verilerle çalışmak için özel olarak yapılmış gibi görünen özel Xai Büyük Dil Modellerini (LLMS) sorgulamasına izin verebilirdi. SpaceX– Tesla Ve Twitter/x, Krebsonsecurity öğrendi.
Resim: Shutterstock, @sdx15.
Philippe CatergliGüvenlik Danışmanlığı’nda “Baş Hacking Memur” SeralisXai’deki bir teknik personelin GitHub Kod deposunda maruz kalan bir X.Ai Uygulama Programlama Arayüzü (API) için kimlik bilgilerinin sızmasını ilk tanıtın.
Catergli’nin LinkedIn hakkındaki görevi, araştırmacıların dikkatini çekti. Gitguardiankamusal ve tescilli ortamlarda maruz kalan sırları tespit etme ve iyileştirme konusunda uzmanlaşmış bir şirket. GitGuardian’ın sistemleri, açıkta kalan API anahtarları için GitHub ve diğer kod depolarını sürekli olarak tarar ve etkilenen kullanıcılara otomatik uyarıları atar.
Gitguardian’s Eric Fourrier KrebSonsecurity, maruz kalan API anahtarının yayınlanmamış birkaç modele erişimi olduğunu söyledi. GrokXai tarafından geliştirilen AI chatbot. Toplamda, Gitguardian anahtarın en az 60 farklı veri setine erişimi olduğunu buldu.
GitGuardian, bulgularını XAI’ye açıklayan bir e -postada, “Kimlik bilgileri X.Ai API’sına kullanıcının kimliğiyle erişmek için kullanılabilir. “İlişkili Hesap sadece genel GROK modellerine (GROK-2-1212, vb.) Erişimi değil, aynı zamanda yayınlanmamış (GROK-2.5V), geliştirme (araştırma-GROK5V-1018) ve özel modeller (Tweet Recjator, Grok-Spacex-2014-11-04).”
Fourrier, Gitguardian’ın XAI çalışanını neredeyse iki ay önce maruz kalan API anahtarı hakkında uyarmıştı – 2 Mart’ta. Ancak Gitguardian’ın Xai’nin güvenlik ekibini doğrudan pozlamaya karşı uyardığı 30 Nisan itibariyle anahtar hala geçerli ve kullanılabilirdi. Xai, Gitguardian’a konuyu bu hata ödül programı aracılığıyla bildirmesini söyledi. Hackeroneancak sadece birkaç saat sonra API tuşunu içeren depo GitHub’dan kaldırıldı.
Fourrier, “Bu dahili LLM’lerin bazıları SpaceX verilerinde ince ayarlanmış gibi görünüyor ve bazıları Tesla verileriyle ince ayarlandı” dedi. “Kesinlikle SpaceX verilerinde ince ayarlanmış bir GROK modelinin kamuya açıklanması amaçlandığını düşünmüyorum.”
Xai yorum talebine yanıt vermedi. Anahtarı maruz kalan 28 yaşındaki Xai teknik personeli de yoktu.
Carole Winqwist Gitguardian’daki araştırma ekibine başkanlık ediyor. Winquist, potansiyel olarak düşmanca kullanıcılara özel LLM’lere ücretsiz erişim sağlamanın bir felaket tarifi olduğunu söyledi.
“Bir saldırgansanız ve GroK gibi şeyler için modele ve arka uç arayüzüne doğrudan erişiminiz varsa, bu kesinlikle daha fazla saldırı için kullanabileceğiniz bir şey” dedi. “Bir saldırgan, (LLM) modelini amaçlarına hizmet etmek için ayarlamak veya tedarik zincirine kodu implante etmeye çalışmak için hızlı enjeksiyon için kullanabilir.”
XAI için dahili LLM’lerin yanlışlıkla maruz kalması, Musk’ın sözde Devlet Verimliliği Bakanlığı (Doge) hassas hükümet kayıtlarını yapay zeka araçlarına besliyor. Şubat ayında, Washington Post Bildirilen DOGE yetkilileri, ajansın programlarını ve harcamalarını araştırmak için eğitim departmanından AI araçlarına veri besliyorlardı.
Post, Doge’in bu süreci birçok departman ve ajansta çoğaltmayı, hükümetin farklı bölgelerinde arka uç yazılımına erişmeyi ve daha sonra çalışanlara ve programlara yapılan harcamalar hakkında bilgi çıkarmak ve gözden geçirmek için AI teknolojisini kullanmayı planladığını söyledi.
Post gazeteciler, “Hassas verileri AI yazılımına beslemek, onu bir sistemin operatörüne sahip hale getirerek siber saldırılarda sızma veya süpürülme şansını artırıyor” diye yazdı.
Wired, Mart ayında Doge, GSAI adlı tescilli bir sohbet botu kullandığını bildirdi. Genel Hizmetler İdaresiDoge olarak daha önce insanlar tarafından yapılan görevleri otomatikleştirme çabasının bir parçası, federal işgücünü temizlemeye devam ediyor.
A Reuters Geçen ay, Trump yönetim yetkililerinin bazı ABD hükümet çalışanlarına DOGE’nin AI kullandığını, en az bir federal ajansın Başkan Trump ve gündemine düşmanlık için iletişimini desteklemek için kullandığını söyledi. Reuters, Doge ekibinin, Federal hükümeti kesen çalışmalarının bir parçası olarak Musk’tan GroK AI Chatbot’u ağır bir şekilde konuşlandırdığını yazdı, ancak Reuters GroK’ın tam olarak nasıl kullanıldığını tespit edemeyeceğini söyledi.
Catergli, federal hükümetin veya kullanıcı verilerine maruz kalan X.Ai API anahtarı aracılığıyla erişilebileceğine dair bir gösterge olmasa da, bu özel modeller muhtemelen tescilli veriler üzerinde eğitildiğini ve XAI, Twitter veya SpaceX’teki iç geliştirme çabalarıyla ilgili ayrıntıları ortaya çıkarabileceğini söyledi.
Caturgli, “Bu anahtarın iki ay boyunca kamuya açık olması ve iç modellere erişim sağlanması söz konusudur” dedi. “Bu tür uzun ömürlü kimlik bilgisi maruziyeti, zayıf anahtar yönetimini ve yetersiz dahili izlemeyi vurgular ve geliştirici erişimi ve daha geniş operasyonel güvenlik konusundaki önlemler hakkında sorular sorar.”