Meta, “topluluğun açık üretken yapay zeka modelleriyle sorumlu bir şekilde inşa edilmesine yardımcı olacak araçları ve değerlendirmeleri bir araya getirmeyi” amaçlayan bir proje olan Purple Llama’yı duyurdu.
Üretken Yapay Zeka (AI) modelleri yıllardır ortalıkta dolaşıyor ve eski AI modelleriyle karşılaştırıldığında ana işlevleri, daha fazla girdi türünü işleyebilmeleridir. Örneğin, bir dosyanın kötü amaçlı yazılım olup olmadığını belirlemek için kullanılan eski modelleri ele alalım. Giriş dosyalarla sınırlıdır ve çıktı genellikle yüzde biçiminde gelir. (Örneğin bu dosyanın kötü amaçlı olma ihtimali %90’dır.)
Üretken yapay zeka modelleri daha fazla bilgi türünü sıralama yeteneğine sahiptir. Örneğin metni, görselleri, videoları, şarkıları, diyagramları, web seminerlerini, bilgisayar kodunu ve diğer benzer girdi türlerini işleyebilen Büyük Dil Modellerini (LLM’ler) ele alalım.
Üretken yapay zeka modelleri, bu noktada insan yaratıcılığına en yakın modellerdir. Bu nedenle, üretken yapay zeka yeni bir inovasyon dalgasını beraberinde getirdi. ChatGPT gibi modellerle konuşmamıza, talimatlara dayalı görseller oluşturmamıza ve büyük miktarlarda metinleri özetlememize olanak tanır. Hatta bilim adamlarının bunları insan çalışmalarından ayırmakta zorlanacağı noktaya kadar makaleler bile yazabilir.
Meta’nın açıklamasına göre:
“Güvenlik konusunda iş birliği, bu yeni inovasyon dalgasını yönlendiren geliştiricilere güven oluşturacak ve sorumlu yapay zeka konusunda ek araştırma ve katkılar gerektirecek.”
Bu nedenle Meta, Purple Llama projesinde Microsoft gibi diğer AI uygulama geliştiricileri ve AWS ve Google Cloud gibi bulut platformları ve Intel, AMD ve Nvidia gibi çip tasarımcılarıyla işbirliği yapıyor.
LLM’ler, en iyi güvenlik uygulamalarını takip etmeyen veya istismar edilebilir güvenlik açıkları ortaya çıkaran kodlar üretebilir. GitHub’ın yakın zamanda kodun %46’sının CoPilot AI’nın yardımıyla üretildiğini gururla duyurduğu göz önüne alındığında, bu sadece teorik bir risk olmaktan çok uzaktır.
Bu nedenle, Mor Lama projesinin ilk adımının, yazılım üreten modellerde siber güvenlik sorunlarını test edecek araçlara odaklanması mantıklıdır. Bu paket, geliştiricilerin, bir yapay zeka modelinin güvenli olmayan kod oluşturma veya kullanıcılara siber saldırı gerçekleştirmede yardımcı olma olasılığının ne kadar yüksek olduğunu kontrol etmek için karşılaştırma testleri yapmasına olanak tanır.
Paket, kodlama asistanı olarak çalışan Yüksek Lisans’ların siber güvenliğini artırmaya yardımcı olmak için geliştirilen kapsamlı bir kıyaslama olan CyberSecEval adı altında tanıtıldı. İlk testler, LLM’lerin ortalama olarak %30 oranında savunmasız kod önerdiğini gösterdi.
Bir LLM’nin tüm giriş ve çıkışlarını kontrol etmek ve filtrelemek için Meta, Llama Guard’ı piyasaya sürdü. Llama Guard, geliştiricilere potansiyel olarak riskli çıktılar oluşturmaya karşı savunmaya yardımcı olacak önceden eğitilmiş bir model sağlayan, ücretsiz olarak kullanılabilen bir modeldir. Model, potansiyel olarak riskli veya ihlale neden olan yaygın içerik türlerinin bulunmasına yardımcı olmak amacıyla kamuya açık veri kümelerinin bir karışımı üzerinde eğitilmiştir. Bu, geliştiricilerin bir modelin uygunsuz içerik üretmesine neden olabilecek belirli öğeleri filtrelemesine olanak tanır.
Duyuru, Siber Güvenlik ve Altyapı Güvenliği Ajansı’nın (CISA) hafıza güvenli yol haritaları konusunu ortaya koyan bir kılavuz yayınlamasıyla aynı zamanda geldi. CISA, rehberliğinde üreticilere, uluslararası Tasarımla Güvenli kampanyasının bir parçası olarak hafıza açısından güvenli yol haritaları oluşturma ve yayınlama yönünde atabilecekleri adımları sağlamaya çalışıyor.
Bellek güvenliği açıkları, siber suçluların sıklıkla yararlandığı, iyi bilinen ve yaygın kodlama hatalarının bir sınıfıdır. Bellek açısından güvenli programlama dilleri kullanmaya yönelik adımlar atmadığımız ve LLM’ler tarafından oluşturulan kodu kontrol etmek için yöntemler kullanmadığımız sürece sayıları artabilecek kodlama hataları.
Yalnızca tehditleri rapor etmiyoruz; onları kaldırıyoruz
Siber güvenlik riskleri asla bir manşetin ötesine yayılmamalıdır. Malwarebytes’i bugün indirerek tehditleri cihazlarınızdan uzak tutun.