Yazan: Nadav Czerninski, Oligo Security Kurucu Ortağı ve CEO’su
Yapay zeka, bilim kurgu sayfalarından günlük yaşamlarımıza sıçradı.
Açık kaynaklı yazılım (OSS) modellerinin sağladığı yapay zeka devrimi artık hızlanıyor. Bu modeller, özellikle yapay zeka geliştirmek için tasarlanmış, kuruluşların yapay zeka modellerini verimli ve uygun ölçekte dağıtmasına olanak tanıyan karmaşık açık kaynak kod paketleridir.
Çoğu kuruluş, herhangi bir standart açık kaynak kodu satırının güvenlik açıklarına karşı kontrol edilmesini sağlarken, konuşlandırdıkları daha büyük açık kaynak modelleri genellikle aynı incelemeden kaçar.
Yakın zamanda keşfedilen bir dizi güvenlik açığı, kötü amaçlı OSS modelleri aracılığıyla tedarik zinciri saldırılarının nasıl yürütülebileceğini vurguluyor. Bu keşif, açık kaynak modellerinin kırılganlığı ve genel olarak yapay zeka sistemlerinin güvenliği ile ilgili endişeleri artırıyor ve yapay zekanın hızla artan popülaritesinin ortasında sıkı OSS güvenlik önlemlerine olan kritik ihtiyacı vurguluyor.
Yapay Zeka Modelleri ve Güvendikleri OSS
OSS modelleri yapay zeka devriminin temelini oluşturur. Neden? Günümüzde çoğu kuruluş kendi yapay zeka modellerini sıfırdan oluşturmuyor; yapay zeka girişimlerinin temel bileşenleri olarak giderek daha fazla açık kaynak modellerine güveniyorlar. Bu yaklaşım, geliştirmeyi hızlandırır ve belirli ihtiyaçlara uyacak şekilde hızlı dağıtım ve özelleştirmeye olanak tanır.
Ancak bu kolaylık ve verimliliğin karşılığı güvenliktir.
OSS paketleri yaygın olarak kullanılıyor ve saldırganlar da bunu biliyor. Ayrıca kuruluşların, dış geliştiriciler tarafından yazılan kodlardaki potansiyel güvenlik açıklarını incelemekte zorlandıklarını da biliyorlar. Sonuç: OSS modelleri genellikle kötü niyetli aktörlerin hassas verileri, karar alma süreçlerini ve genel sistem bütünlüğünü tehlikeye atmak için kolayca kullanabileceği güvenlik açıkları sunar.
Yapay zeka araştırmaları ve çözümleri hâlâ “hızlı hareket etme ve işleri bozma” aşamasında olduğundan, OSS modellerine yönelik güvenlik protokollerinin hâlâ başlangıç aşamasında olması şaşırtıcı değil. Bu nedenle, aralarında Google ve Microsoft’un da bulunduğu 700’den fazla şirket tarafından kullanılan 1500’den fazla LLM entegre API tokeninin ele geçirildiği son Hugging Face güvenlik açığı gibi siber olaylar artıyor.
OSS Modellerini Güvenceye Almamanın Sonuçları
Yapay zeka altyapısına sızmak, kötü aktörlere krallığın anahtarlarını veriyor. Saldırganlar hassas verileri görüntüleyebilir ve çalabilir, bu da kullanıcı gizliliğini benzeri görülmemiş bir ölçekte tehlikeye atabilir. Ayrıca bir kuruluşun fikri mülkiyetini tehlikeye atarak AI modellerine erişebilir, bunları çalabilir ve hatta silebilir. Belki de en endişe verici olanı, bir yapay zeka modelinin ürettiği sonuçları değiştirebilmeleridir.
Kalıcı baş ağrısı olan bir kişinin, temel baş ağrısı ipuçları için bir AI sohbet robotuna veya Büyük Dil Modeline (LLM) sorduğu bir senaryo hayal edin. Bozulmuş AI, dinlenme veya Advil önermek yerine, kişiye iki OTC ilacını, baş ağrısı çeken kişinin haberi olmadan toksik veya ölümcül yan etkilere yol açabilecek şekilde birleştirmesini tavsiye ediyor.
Alternatif olarak, navigasyonu için yapay zekaya dayanan otonom bir arabayı düşünün. Yapay zeka sistemi kurcalanırsa, kırmızı trafik ışığını yeşil olarak yanlış yorumlayabilir ve bir çarpışmayı tetikleyebilir. Benzer şekilde, bir otomobil üretim tesisinin yapay zeka kalite kontrol sistemi kurcalanırsa hatalı kaynakları hatalı bir şekilde doğrulayabilir, bu da sürücü güvenliğini ve geri çağırmaları riske atabilir.
Görünüşte zararsız durumlarda bile risk altındaki yapay zeka tehlikeli olabilir. Bir kullanıcının bir yapay zeka asistanından İtalya için seyahat ipuçları önermesini istediğini düşünün. Güvenliği ihlal edilmiş bir LLM, yanıtına kötü amaçlı bir URL yerleştirebilir ve kullanıcıyı, yararlı bir seyahat kaynağı olarak gizlenen, kötü amaçlı yazılımla dolu bir kimlik avı sitesine yönlendirebilir. Gezgin olmak isteyen kişi bir istismarı etkinleştirdiğini asla fark etmese de, saldırgan artık yeni erişimini kullanarak ağdaki daha fazla kullanıcının bilgisayarına virüs bulaştırabilir.
Proaktif OSS Modeli güvenliği
Güvenliği ihlal edilmiş OSS modellerinin riskleri arttıkça kuruluşların OSS model güvenliklerini güçlendirmeye yönelik proaktif bir duruş benimsemeleri gerekmektedir. Bu, yalnızca güvenlik ihlallerinin ardından devreye giren reaktif önlemlerin ötesine geçmesi gereken çok yönlü bir yaklaşımı gerektirmektedir.
Sürekli izleme ve gerçek zamanlı tehdit tespit mekanizmaları çok önemlidir. Kuruluşlar anormallikleri, olağandışı davranışları veya açık kaynak modellere yönelik potansiyel tehditleri gerçek zamanlı olarak tespit edebilecek gelişmiş izleme araçları aramalıdır. Yangına ateşle müdahale eden yapay zeka destekli sistemler bu gibi durumlarda en etkili yöntem olabilir.
Ek olarak kuruluşlar, yapay zeka altyapılarının bütünlüğünü güçlendirmek için güçlü kimlik doğrulama protokollerine, şifreleme yöntemlerine ve erişim kontrollerine öncelik vermelidir. Düzenli güvenlik denetimleri, güvenlik açığı değerlendirmeleri ve özellikle açık kaynak modellerine göre uyarlanan kod incelemeleri, olası zayıf noktaların istismar edilmeden önce tespit edilmesine ve ele alınmasına yardımcı olacaktır.
Son olarak, ekipler içinde kuruluş çapında bir güvenlik farkındalığı kültürünün ve proaktif yanıtın geliştirilmesi, ortaya çıkan riskleri azaltmak için hızlı önlemlerin alınabilmesini sağlar.
Kuruluşlar, tehditleri gerçek zamanlı olarak önleyen, tespit eden ve bunlara yanıt veren proaktif güvenlik çözümlerini entegre ederek, OSS model altyapılarının siber dayanıklılığını artırabilir ve verilerinin – ve müşterilerinin – yapay zeka devriminin karanlık tarafından korunmasını sağlayabilir.
yazar hakkında
Nadav Czerninski, Oligo Security’nin CEO’su ve kurucu ortağıdır. IDF Siber ve İstihbarat birimlerinde kıdemli bir subay olarak geniş bir geçmişe sahip olan Nadav’ın deneyimi, Oligo’yu çalışma zamanı uygulama güvenliğinde ön sıralara taşıdı.
Nadav’a çevrimiçi olarak https://www.linkedin.com/in/nadav-czerninski/ adresinden ve şirket web sitemiz https://www.oligo.security/ adresinden ulaşılabilir.