Kuruluşlar, BT süreçlerini otomatikleştirmek, güvenlik tehditlerini tespit etmek ve ön saflardaki müşteri hizmetleri işlevlerini devralmak için üretken yapay zekayı giderek daha fazla benimsiyor. Bir 2023'te IBM araştırması Büyük işletmelerin %42'sinin yapay zekayı aktif olarak kullandığını ve diğer %40'ının da yapay zekayı araştırdığını veya denediğini buldu.
Yapay zeka ve bulutun kaçınılmaz kesişme noktasında işletmelerin bulutta yapay zeka araçlarının güvenliğini nasıl sağlayacaklarını düşünmeleri gerekiyor. Bu konu hakkında çok düşünen kişilerden biri de geçen Ağustos ayında Amazon Web Services'in CISO'su olan Chris Betz'di.
Betz, AWS'den önce Capital One'ın başkan yardımcısı ve CISO'suydu. Betz ayrıca Lumen Technologies'de kıdemli başkan yardımcısı ve baş güvenlik sorumlusu olarak çalıştı ve Apple, Microsoft ve CBS'de güvenlik görevlerinde bulundu.
Dark Reading yakın zamanda Betz'le şu konu hakkında konuştu: buluttaki yapay zeka iş yüklerinin güvenliği. Bu konuşmanın düzenlenmiş bir versiyonu aşağıdadır.
Dark Reading: Bulutta yapay zeka iş yüklerinin güvenliğini sağlamanın en büyük zorlukları nelerdir?
Chris Betz: Birçok müşterimizle üretken yapay zeka hakkında konuştuğumda, bu konuşmalar genellikle şu şekilde başlıyor: “Elimde gerçekten hassas veriler var ve müşterilerime bir yetenek sunmak istiyorum. Bunu nasıl yaparım? güvenli ve emniyetli bir yol mu?” Bu konuşmayı gerçekten takdir ediyorum çünkü müşterilerimizin elde etmeye çalıştıkları sonuca odaklanmaları çok önemli.
Dark Reading: Müşteriler en çok ne hakkında endişeleniyor?
Betz: Konuşmanın “verileriniz sizin verilerinizdir” kavramıyla başlaması gerekiyor. Verileri olduğu yerde tutma konusunda gerçekten iyi bir iş çıkaran BT altyapısının üzerine inşa edebileceğim için büyük bir avantajımız var. Bu yüzden vereceğim ilk tavsiye şu: Verilerinizin nerede olduğunu anlayın. Nasıl korunuyor? Üretken yapay zeka modelinde nasıl kullanılıyor?
Bahsettiğimiz ikinci şey, üretken bir yapay zeka modeliyle olan etkileşimlerin genellikle müşterilerinin en hassas verilerinden bazılarını kullanmasıdır. Üretken bir yapay zeka modeline belirli bir işlem hakkında soru sorduğunuzda, o işleme dahil olan kişiler hakkındaki bilgileri kullanacaksınız.
Karanlık Okuma: İşletmeler, yapay zekanın hem şirket içi verileriyle hem de müşteri verileriyle ne yaptığı konusunda endişeli mi?
Betz: Müşteriler en çok üretken yapay zekayı müşterileriyle olan etkileşimlerinde ve madencilikte kullanmak, dahili olarak sahip oldukları devasa miktardaki veriden yararlanmak ve bunu hem dahili çalışanlar hem de müşterileri için işe yaramak istiyor. Bu inanılmaz derecede hassas verileri güvenli ve emniyetli bir şekilde yönetmeleri şirketler için çok önemlidir çünkü bu, işletmelerinin can damarıdır.
Şirketlerin, yapay zekaya komut verirken ve yanıt alırken verilerinin nerede olduğunu ve nasıl korunduğunu düşünmesi gerekiyor.
Karanlık Okuma: Yanıtların kalitesi ile verilerin güvenliği birbiriyle bağlantılı mı?
Betz: Yapay zeka kullanıcılarının her zaman kaliteli yanıtlar alıp almadıklarını düşünmeleri gerekir. Güvenliğin nedeni insanların bilgisayar sistemlerine güvenmeleridir. Müşteriye bir şey sunmak için üretken bir yapay zeka modeli kullanan bu karmaşık sistemi bir araya getiriyorsanız, müşterinin, yapay zekanın onlara harekete geçmeleri için doğru bilgileri verdiğine ve bilgilerini koruduğuna güvenmesine ihtiyacınız var.
Karanlık Okuma: AWS'nin buluttaki yapay zekaya yönelik saldırılara karşı nasıl koruma sağladığı konusunda paylaşabileceği belirli yollar var mı? Ani enjeksiyon, zehirleme saldırıları, düşmanca saldırılar ve bunun gibi şeyleri düşünüyorum.
Betz: Halihazırda güçlü temelleri olan AWS, yıllardır yapay zeka ile çalıştığımız için bu zorluğa adım atmaya hazırdı. Çok sayıda dahili yapay zeka çözümümüz ve doğrudan müşterilerimize sunduğumuz bir dizi hizmetimiz var ve bu çözümleri geliştirmemizde güvenlik önemli bir husustur. Müşterilerimizin sorduğu ve bekledikleri şey budur.
En büyük ölçekli bulut sağlayıcılarından biri olarak, dünya çapında gelişen güvenlik ihtiyaçlarına ilişkin geniş bir görünürlüğe sahibiz. Yakaladığımız tehdit istihbaratı toplanır ve müşteri araçları ve hizmetlerinde kullanılan eyleme dönüştürülebilir öngörüler geliştirmek için kullanılır: Nöbet. Ayrıca tehdit istihbaratımız, müşterilerin verilerini güvende tutmak amacıyla otomatik güvenlik eylemleri oluşturmak için kullanılır.
Karanlık Okuma: Siber güvenlik satıcılarının sistemlerinde olağandışı davranışları arayarak tehditleri tespit etmek için yapay zeka ve makine öğrenimini kullandığını çok duyduk. Şirketlerin kendilerini güvence altına almak için yapay zekayı kullanmanın diğer yolları nelerdir?
Betz: Müşterilerin üretken yapay zekayla harika şeyler yaptığını gördüm. CodeWhisperer'dan faydalandıklarını gördük [AWS’ AI-powered code generator] teknolojileri hızla prototiplemek ve geliştirmek. Ekiplerin kendilerine yardımcı olmak için CodeWhisperer'ı kullandığını gördüm güvenli kod oluştur ve koddaki boşluklarla ilgilendiğimizden emin olun.
Ayrıca bazı dahili güvenlik sistemlerimizle iletişim halinde olan üretken yapay zeka çözümleri de geliştirdik. Tahmin edebileceğiniz gibi birçok güvenlik ekibi büyük miktarda bilgiyle uğraşır. Üretken yapay zeka, bu verilerin sentezinin, hem inşaatçılar hem de güvenlik ekipleri tarafından sistemlerde neler olup bittiğini anlamak, daha iyi sorular sormak ve bu verileri bir araya getirmek için çok kullanışlı olmasını sağlar.
Bunu düşünmeye başladığımda siber güvenlik yetenek açığıÜretken yapay zeka bugün yalnızca yazılım geliştirme hızını artırmaya ve güvenli kodlamayı iyileştirmeye yardımcı olmakla kalmıyor, aynı zamanda verilerin toplanmasına da yardımcı oluyor. Bize yardım etmeye devam edecek çünkü insani yeteneklerimizi güçlendiriyor. Yapay zeka, karmaşık sorunları çözmek için bilgileri bir araya getirmemize yardımcı olur ve daha iyi sorular sormaya başlayabilmeleri için verileri güvenlik mühendislerine ve analistlere ulaştırmamıza yardımcı olur.
Karanlık Okuma: Yapay zekaya ve buluta özel herhangi bir güvenlik tehdidi görüyor musunuz?
Betz: Güvenlik araştırmacılarıyla en son teknolojiye sahip üretken yapay zeka saldırılarını ve saldırganların buna nasıl baktığını incelemek için çok zaman harcadım. Bu alanda düşündüğüm iki sınıf şey var. Birinci sınıf, kötü niyetli aktörlerin, halihazırda yaptıkları şeyleri daha hızlı ve daha iyi hale getirmek için üretken yapay zekayı kullanmaya başladıklarını görüyoruz. Sosyal mühendislik içeriği buna bir örnektir.
Saldırganlar ayrıca kodun daha hızlı yazılmasına yardımcı olmak için yapay zeka teknolojisini kullanıyor. Bu, savunmanın bulunduğu noktaya çok benzer. Bu teknolojinin gücünün bir kısmı, bir dizi aktiviteyi kolaylaştırmasıdır ve bu saldırganlar için doğrudur, ancak aynı zamanda savunmacılar için de geçerlidir.
Araştırmacıların daha fazla bakmaya başladığını gördüğüm diğer alan ise bu üretken yapay zeka modellerinin kod olduğu gerçeğidir. Diğer kodlar gibi, zayıflıklara da açıktırlar. Bunları nasıl güvence altına alacağımızı anlamamız ve savunmaların olduğu bir ortamda var olmalarını sağlamamız önemlidir.