Orta Doğu pazarlarında üretken yapay zekanın (GenAI) benimsenmesi, geçen yaz Arapça geniş dil modeli (LLM) Jais’in piyasaya sürülmesi ve ChatGPT yaratıcısı OpenAI’nin Abu Dabi hükümetiyle bir ortaklık duyurmasıyla artıyor.
Konuyla ilgili bir tartışma için zamanlama uygundur ve yaklaşan Black Hat Orta Doğu konferansında Careem’in CISO’su Srijith Nair, bölgedeki Yapay Zeka üzerine bir panele liderlik edecek: “Karanlık Sanatlara Karşı Savunma: Üretken Yapay Zeka ve Kurumsal Risk “
Dark Reading, GenAI’nin tanıtımının güvenlik unsurlarını hem saldırı hem de savunma açısından tartışmak için Nair ile bir araya geldi.
Karanlık Okuma: Üretken yapay zekanın ne kadar bir iş sorunu olduğunu düşünüyorsunuz, yoksa toplumda yavaş yavaş iş dünyasını ve nihayetinde siber güvenliği “istila eden” bir şey mi oluyor?
Srijith Nair: Üretken yapay zeka daha geniş bir toplumsal olgudur ve bu nedenle hayatımızın birçok yönünü etkilemektedir. İş dünyası ve nihayetinde siber güvenlik, bu toplumsal etkinin bir uzantısı olarak etkileniyor. Çeşitli alanlarda (sanat, kodlama) halihazırda aksaklıklar olduğunu görebiliyorsunuz ve siber güvenlik de bu değişimin etkisinden muaf değil. Jüri bunun bir evrim mi yoksa devrim mi olduğu konusunda kararsız; bunu zaman gösterecek.
DR: Siber güvenliğin Üretken Yapay Zeka trendine ne kadar ayak uydurduğunu düşünüyorsunuz?
: Dolandırıcılığa imkan vermekten belirli kişilere yönelik kimlik avı saldırıları gerçekleştirmeyi kolaylaştırmaya kadar siber güvenlik ortamını birçok yönden etkileyecek. Öte yandan teknoloji, güvenlik hizmetleri için daha geniş araç yetenekleri sağlar. Kodlama platformlarının yapay zeka tabanlı yeteneklerinin akıllıca kullanılmasıyla güvenli kod yazmak giderek kolaylaşıyor.
DR: Saldırganların bundan yararlanabileceğini ve bunu daha iyi saldırılar ve özellikle kimlik avı mesajları oluşturmak için kullanabileceğini duyduk. Savunma tarafı ayakta kalabilecek mi?
: STK’ların yeni tür teknolojik yenilikleri etkinleştirmenin ve bunlara uyum sağlamanın yollarını bulması gerekiyor. İnsanların bu araçları kullanmasına ama aynı zamanda güvenli bir şekilde kullanmasına olanak tanıyan bir yaklaşım geliştirebilmek gerekiyor ve bu, şu anda çok ilginç bir zorluk.
Üretken yapay zeka, beraberinde çok daha fazla yeni vektör ve tehdit getiriyor, ancak aynı zamanda bize çok daha fazla araç da sağlıyor. Bu araçlar yalnızca yeni risklere karşı koymamızı sağlamakla kalmayacak, aynı zamanda daha agresif bir şekilde sola kaymamızı da sağlayacak; bu, güvenlik uygulayıcıları için konuyu ilginç kılıyor çünkü artık mühendislik ekiplerinize nasıl güvenli bir şekilde kod yazacaklarını söyleyebiliyor ve SOC ekiplerinize olanak tanıyabiliyorsunuz. daha proaktif olmak ve daha iyi ölçeklenmek vb. İnsanların işleri güvenli bir şekilde yapmak için yoldan çekilmesine gerek kalmayacak; kullanıma hazır cephaneliklerinin bir parçası haline gelir.
DR: Makine öğrenimi ve yapay zeka hakkında konuşmalar son on yılın en iyi kısmında ortalıkta dolaşıyor, peki üretken yapay zeka sadece çok fazla karmaşıklık mı ekliyor?
: Bu gerçekten doğrudur. Makine öğrenimi ve modelleri hiç de yeni değil. Genellikle denetimli, denetimsiz, yarı denetimli veya takviyeli öğrenme olarak sınıflandırılan modeller benzersiz özelliklere ve uygulamalara sahiptir. Ancak bu teknikler geleneksel olarak ve öncelikle yeni, orijinal içerik üretmek yerine kalıpları tanımaya ve tahminlerde bulunmaya odaklanır.
Üretken yapay zeka bir adım daha ileri gidiyor. Bu sistemler yalnızca kalıpları tanımakla kalmıyor, aynı zamanda üzerinde eğitim aldığı verileri taklit eden yeni içerik de üretebiliyor. Muhtemelen en büyük değişim, üretken yapay zekanın demokratikleştirilmiş AI kullanımı. Kullanım durumları sıradan bir kullanıcıya daha yakın olan üretken yapay zeka, günlük yaşamımızda güçlü bir dayanak noktası buldu.
DR: Bu teknolojilerin güvenlik açısından nasıl kullanılacağını, nasıl kullanılabileceğini ve onlarla neler yapılabileceğini öğrenecek yeterli kapasite var mı?
: Verilerinizi ve yapay zeka ekiplerinizi işleri nasıl güvenli bir şekilde yapacaklarını eğitebilmeniz gerekir, ancak aynı zamanda bir güvenlik ekibi olarak bilginizi de geliştirmeniz gerekir çünkü bir STK olarak kontrol işlevi sizsiniz. Takımların doğru şeyi yapıp yapmadığını tespit etmeniz bekleniyor; bu nedenle, onlara “Hey, bu doğru mu?” diye meydan okuyabilecek kadar bilgi sahibi olmanız gerekir.
Çoğu zaman, bu konuda gerçekten uygulamalı olmadıkları sürece, güvenlik ekibinizin kalitesini yükseltmekle sonuçlanır ki buna çok şaşıracağım. Çoğu zaman, konu üretken yapay zeka söz konusu olduğunda son iki yılın çok hızlı ilerlemesi nedeniyle, ekibinizdeki herhangi bir güvenlik görevlisinin bu konuda tamamen uzman olduklarını iddia edebilmesine çok şaşırırım.
DR: Yapay zeka, yıllardır konuştuğumuz güvenlik personeli sorunu konusunda kurtarıcı olabilir mi?
: Korunan sistemlerin artan karmaşıklığı, dahil olan heterojen ortamlar ve tehdit aktörleri tarafından kullanılan otomasyon ve ölçeklendirme göz önüne alındığında, yapay zekanın güvenlik kontrollerini gerekli seviyeye ölçeklendirmede ve otomatikleştirmede kesinlikle büyük bir yardımı olacaktır. Ancak onu “kurtarıcı” ya da sihirli değnek olarak adlandırmak, en azından bu noktada çok ileri bir adım olacaktır.