Yapay Zeka (AI) uygulamalarının ve hizmetlerinin yaygın olarak benimsenmesi, Baş Bilgi Güvenliği Görevlilerinin (CISOS) siber güvenlik politikalarını ve stratejilerini nasıl yapılandırmasında temel bir değişim sağlıyor.
Yapay zekanın benzersiz özellikleri, veri yoğun doğası, karmaşık modelleri ve özerk karar verme potansiyeli, anında ve belirli politika geliştirmeleri ve stratejik yeniden kalibrasyonları gerektiren yeni saldırı yüzeyleri ve riskler sunmaktadır.
Birincil hedefler, yapay zeka ve üretken AI (GENAI) araçlarını kullanan çalışanlar tarafından yanlışlıkla veri sızıntısını önlemek ve AI sistemlerine dayalı kararların dahili veya harici kötü niyetli aktörler tarafından tehlikeye atılmamasını sağlamaktır. Aşağıda, CISOS’un siber güvenliği GENAI sistemlerinin güvenli dağıtım ve kullanımı ile hizalaması için stratejik bir plan bulunmaktadır.
- Yapay zeka için kabul edilebilir kullanım ve veri işleme politikalarını yenileyin: Mevcut kabul edilebilir kullanım politikaları (Aups), AI araçlarının kullanımını ele almak için özel olarak güncellenmeli ve hassas, gizli veya tescilli şirket verilerinin kamuya açık veya onaylanmamış AI modellerine girdisini açıkça yasaklamalıdır. Hassas veriler müşteri kişisel bilgilerini, finansal kayıtları veya ticari sırları içerebilir. Politikalar, yapay zeka bağlamında ‘hassas’ verileri neyin oluşturduğunu açıkça tanımlamalıdır. Veri işleme politikaları, iç AI model eğitimi veya ince ayar için kullanılan verilerin anonimleştirme, takma adlandırma ve tokenizasyonu için gereksinimleri de detaylandırmalıdır.
- AI sisteminin uzlaşmasını ve kurcalamayı azaltın: CISOS, AI sistemi bütünlüğüne ve güvenliğine odaklanmalıdır. Güvenlik uygulamalarını AI modelleri için güvenli kodlamadan, hızlı enjeksiyon, veri zehirlenmesi ve model ters çevirme gibi güvenlik açıklarına kadar titiz testlere kadar tüm AI geliştirme boru hattına yerleştirin. AI sistemine giren tüm veriler için güçlü filtreler ve doğrulayıcılar uygulayın (istenmeyen, RAG için alınan veriler) çekişmeli saldırıları önlemek için. Benzer şekilde, AI tarafından üretilen tüm çıkışlar, kullanıcılara sunulmadan veya kötü niyetli enjeksiyonlardan kaçınmak için aşağı akış sistemlerinde kullanılmadan önce sterilize edilmeli ve onaylanmalıdır. Mümkün olan her yerde, AI sistemlerini XAI özelliklerine sahip dağıtarak, kararların nasıl alındığına dair şeffaflık sağlar. Yüksek bahisli kararlar için, hassas verileri ele alırken veya tehlikeye giren AI çıktısına karşı nihai bir koruma sağlamak için geri dönüşümsüz operasyonlar gerçekleştirirken insan gözetimini zorunlu kılmak.
- Dayanıklı ve güvenli yapay zeka geliştirme boru hatları: Yapay zeka geliştirme boru hatlarının güvence altına alınması, kritik ağ altyapısı, güvenlik ürünleri ve işbirlikçi çözümlere entegre edilmiş AI uygulamalarının güvenilirliğini ve esnekliğini sağlamak için çok önemlidir. Tüm AI yaşam döngüsü boyunca güvenliği yerleştirmeyi gerektirir. Genai kodu, modelleri ve eğitim veri kümeleri modern yazılım tedarik zincirinin bir parçasıdır. AIOPS boru hatlarını CI/CD en iyi uygulamaları, kod imzalama ve model bütünlük kontrolleri ile sabitleyin. Kötü amaçlı kod veya truva ağırlıkları için eğitim veri kümelerini ve model eserlerini tarayın. Arka kapı ve lisans uyumluluğu için üçüncü taraf modeller ve kütüphaneler.
- Kapsamlı bir AI yönetişim çerçevesi uygulayın: CISOS, güvenliği en başından beri yerleşen işletme çapında bir AI yönetişim çerçevesinin oluşturulmasını savunmalıdır. Yapay zeka riskleri izole edilmemeli, kurumsal çapında risk yönetimi ve uyum uygulamalarına dokunmalıdır. Bu çerçeve, AI merkezli bir risk yönetimi süreci oluşturmak için AI geliştirme, dağıtım ve gözetim için açık roller ve sorumluluklar tanımlamalıdır. Risk sınıflandırmaları ile birlikte onaylanmış AI araçlarının merkezi bir envanteri korunmalıdır. Yönetişim çerçevesi, “gölge AI” ile ilişkili riskin yönetilmesine, onaylanmamış AI araçlarının veya hizmetlerinin kullanımına önemli ölçüde yardımcı olur. Yalnızca yetkilendirilmiş AI araçlarını onaylar ve diğer tüm AI araç ve hizmetlerini engeller.
- Yapay zeka iş akışları için veri kaybı önleme araçlarını (DLP) güçlendirin: DLP stratejileri, hassas verilerin yetkisiz AI ortamlarına girmesini veya AI çıkışları aracılığıyla söndürülmesini önlemek ve önlemek için gelişmelidir. Bu, DLP araçlarının AI etkileşim kanallarını (örneğin Sohbet Arayüzleri ve LLM’lere API çağrıları) özel olarak izleyecek şekilde yapılandırmayı ve hassas verilerin girdi olduğunu gösteren kalıpları tanımlamayı içerir. PII, fikri mülkiyet veya gizli kodu kamu AI istemlerine yapıştırma girişimlerini engellemek veya işaretlemek için AI’ya özgü DLP kuralları geliştirilmelidir.
- Çalışan ve Liderlik AI Farkındalık Eğitimini Geliştirin: Çalışanlar genellikle organizasyondaki en zayıf bağlantıdır. CISO’lar, AI’nın kabul edilebilir kullanımı hakkında hedefli, sürekli eğitim programları uygulamalı, AI merkezli tehditleri tanımlamalı, mühendislik en iyi uygulamalarını teşvik etmeli ve AI araçlarının kötüye kullanılması ve potansiyel uzlaşma ile ilgili güvenlik olaylarının raporlanması konusunda eğitim sağlamalıdır.
- Yapay zeka hizmetleri için satıcı risk yönetimi: Şirketler üçüncü taraf AI hizmetlerine giderek daha fazla güvenirken, CISO’lar bu riskleri ele almak için üçüncü taraf risk yönetimi (TPRM) programlarını geliştirmelidir. AI satıcısının tedarik zincirinin güvenlik duruşunu değerlendirmek için standartları tanımlamalı, güvenlik standartlarını, veri gizliliğini, ihlallerin sorumluluğunu ve AI hizmet sağlayıcıları için denetim haklarını zorunlu kılan güçlü sözleşme hükümlerine bağlı kalmalıdır. Yapay zeka satıcılarının derinlemesine güvenlik değerlendirmeleri, veri işleme uygulamalarını, model güvenliğini, API güvenliğini ve AI’ya özgü olay yanıt yeteneklerini incelemelidir.
- Sürekli izleme ve düşmanca testleri entegre edin: Yapay zeka ve risklerin sürekli gelişen manzarasında statik güvenlik önlemleri yetersizdir. CISOS, olağandışı hızlı kalıplar, beklenmedik çıktılar veya model davranışındaki ani değişiklikler tarafından işaret edilen potansiyel uzlaşmaları, veri sızıntılarını veya düşman saldırılarını tespit etmek için AI sistemlerinin sürekli izlenmesinin önemini vurgulamalıdır. AI güvenlik açıklarından yararlanmak için özel olarak tasarlanmış düzenli kırmızı ekip ve düşmanca test egzersizleri, kuruluşların kötü niyetli aktörlerden önce zayıflıkları tespit etmelerine yardımcı olmalıdır.
Bu değişiklikleri yapan CISO’lar, AI ile ilişkili riskleri daha iyi yönetebilecek ve güvenlik uygulamalarının AI dağıtımına ayak uydurmasını veya ilerlemesini sağlayacaktır. Bu, reaktif savunmadan AI girişimlerinin dokusuna dokunan proaktif, uyarlanabilir bir güvenlik duruşuna geçmeyi gerektirir.
Aditya K Sood, Aryaka’da Güvenlik Mühendisliği ve AI Stratejisi Başkan Yardımcısıdır.