YORUM
Şunu hayal edin: Bir cumartesi sabahı ve ailenize kahvaltı hazırladınız. Krepler altın kahverengiydi ve görünüşe göre tadı iyiydi, ama sen dahil herkes onları yedikten kısa süre sonra hastalandı. Hamuru yapmak için kullandığınız sütün son kullanma tarihinin birkaç hafta önce dolduğunu bilmiyorsunuz. Malzemelerin kalitesi yemeği etkiledi, ancak dışarıdan her şey yolunda görünüyordu.
Aynı felsefe yapay zekaya (AI) da uygulanabilir. Amacı ne olursa olsun yapay zekanın çıktısı, girdisinin kalitesiyle doğrudan ilişkilidir. Yapay zekanın popülaritesi artmaya devam ettikçe, yapay zekaya beslenen verilerle ilgili güvenlik endişeleri de sorgulanmaya başlıyor.
Günümüz kuruluşlarının çoğunluğu yapay zekayı belirli bir kapasitede iş operasyonlarına entegre ediyor ve tehdit aktörleri de bu duruma dikkat ediyor. Geçtiğimiz birkaç yılda AI zehirlenmesi olarak bilinen bir taktik giderek yaygınlaştı. Bu yeni kötü amaçlı uygulama, aldatıcı veya zararlı verilerin yapay zeka eğitim setlerine enjekte edilmesini içeriyor. Yapay zeka zehirlenmesinin en zor kısmı, girdi tehlikeye atılsa bile çıktının başlangıçta normal şekilde devam edebilmesidir. Bir tehdit aktörü verileri sıkı bir şekilde ele geçirip tam teşekküllü bir saldırı başlatana kadar normdan sapmalar açıkça ortaya çıkmaz. Sonuçlar biraz rahatsız edici olmaktan markanın itibarına zarar vermeye kadar değişir.
Bu, her büyüklükteki kuruluşu, hatta günümüzün en önde gelen teknoloji sağlayıcılarını bile etkileyen bir risktir. Örneğin, geçtiğimiz birkaç yılda, saldırganlar Google’ın Gmail spam filtrelerini zehirlemek için birçok büyük ölçekli saldırı başlattı ve hatta Microsoft’un Twitter sohbet robotunu düşman haline getirdi.
Yapay Zeka Veri Zehirlenmesine Karşı Savunma
Neyse ki kuruluşlar yapay zeka teknolojilerini potansiyel zehirlenmelerden korumak için aşağıdaki adımları atabilir.
-
Kapsamlı bir veri kataloğu oluşturun. İlk olarak kuruluşların yapay zeka sistemlerine beslenen merkezi bir bilgi deposu olarak hizmet veren canlı bir veri kataloğu oluşturması gerekiyor. Yapay zeka sistemlerine her yeni veri eklendiğinde bu dizinde takip edilmelidir. Ayrıca katalog, yapay zeka sistemlerine akan verileri kim, ne, ne zaman, nerede, neden ve nasıl şeffaflık ve hesap verebilirliğin sağlanacağına göre kategorize edebilmelidir.
-
Yapay zeka verileriyle etkileşime giren kullanıcılar ve cihazlar için normal bir temel oluşturun. Güvenlik ve BT ekipleri, yapay zeka sistemlerindeki tüm veriler ve bu verilere kimlerin erişebildiği konusunda sağlam bir anlayışa sahip olduktan sonra, normal kullanıcı ve cihaz davranışına ilişkin bir temel oluşturmak önemlidir.
Ele geçirilen kimlik bilgileri, siber suçluların ağlara sızmasının en kolay yollarından biridir. Bir tehdit aktörünün tek yapması gereken ya bir tahmin oyunu oynamak ya da bunlardan birini satın almaktır. 24 milyar kullanıcı adı ve şifre kombinasyonu Siber suç pazarında mevcuttur. Bir tehdit aktörü, erişime sahip olduktan sonra kolayca manevra yaparak yapay zeka eğitim veri kümelerine erişebilir.
Güvenlik ekipleri, kullanıcı ve cihazın temel davranışını belirleyerek bir saldırının göstergesi olabilecek anormallikleri kolayca tespit edebilir. Çoğu zaman bu, bir olay tam kapsamlı bir veri ihlaline dönüşmeden önce bir tehdit aktörünün durdurulmasına yardımcı olur. Örneğin, genellikle New York ofisinde çalışan ve yapay zeka veri eğitim setlerini denetleyen bir BT yöneticiniz olduğunu varsayalım. Bir gün başka bir ülkede aktif olduğunu ve yapay zekaya büyük miktarda veri eklediğini gösteriyor. Güvenlik ekibinizin zaten bir kullanıcı davranışı temeli varsa, bunun anormal olduğunu hemen anlayabilirler. Daha sonra güvenlik ya yöneticiyle konuşup eylemi gerçekleştirdiğini doğrulayabilir ya da yönetici yapmadıysa, daha fazla hasarı önlemek için uyarı kapsamlı bir şekilde araştırılıncaya kadar hesabını geçici olarak devre dışı bırakabilir.
Yapay Zeka Eğitim Setlerinin Sorumluluğunu Almak
Tıpkı yemek yapmadan önce malzemelerin kalitesini kontrol etmeniz gerektiği gibi, AI eğitim verilerinin bütünlüğünü sağlamak da kritik öneme sahiptir. Yapay zeka zekası, işlediği verilerin kalitesiyle karmaşık bir şekilde bağlantılıdır. Yönergelerin, politikaların, izleme sistemlerinin ve iyileştirilmiş algoritmaların uygulanması, yapay zekanın güvenliğini ve etkinliğini sağlamada çok önemli bir rol oynar. Bu önlemler potansiyel tehditlere karşı koruma sağlıyor ve kuruluşlara yapay zekanın dönüştürücü potansiyelinden yararlanma gücü veriyor. Bu, kuruluşların sürekli gelişen tehdit ortamı karşısında tetikte kalırken yapay zekanın yeteneklerinden yararlanmayı öğrenmesi gereken hassas bir dengedir.