Katie Boswell, enerji ve yaşam bilimlerinde en kritik ulusal altyapıyı güvence altına almak için ön saflarda yıllarını harcadı. Yine de kariyerinin başlarında, anne olmayı planlıyorsa üst düzey liderliğin ona göre olmadığı söylendi. Erken cinsiyete dayalı eleştirilere rağmen sebat etti ve şimdi, deneyimi onu sistemlerin ve altyapının güvenliğini ve dayanıklılığını güçlendirmeyi tartışmak için ideal bir konuma getiriyor.
Yarının siber güvenlik iş gücünden neler bekleyebileceğimiz ve kadınların siber güvenlik rollerindeki konumunu yükseltmeye yardımcı olmak için neler yaptığı hakkında Kendi Cihazlarımıza Sol podcast’iyle konuştu. Yapay zeka güvenliğinde lider bir ses olan Katie, bugün kadınları siber güvenlik devrimine katılmaya teşvik etmenin yarının ürünlerini güvence altına almaya nasıl yardımcı olduğuna ışık tutuyor.
AI güvenliğinin geleceği
Bugünün AI devrimi, ticari ve kişisel kullanım için yeni fikirlerle sürekli olarak büyüyor. Ancak, bu yeni modelleri yeni endüstrilere entegre etmek, bu sağlam sistemler için çok fazla risk de getirir.
“Yapay zeka ana akım haline geldi ve her yerde olacak. OT sistemleri çok zordur. ABD’de, enerjiyi güvenli ve verimli bir şekilde nasıl taşıyacağımızı düşündüğümüz şebeke modernizasyon programlarının yanı sıra kamu hizmeti kuruluşları için RCIP düzenlemelerimiz var,” dedi Katie. Yapay zeka ile ilgili olarak şöyle devam etti: “Her yerde var ve sektöre özel değil. Günlük çalışma şeklimizi gerçekten değiştirecek.”
Bu, günlük operasyonlarında yapay zekayı benimseyen ancak siber güvenlik istihdam açıklarını doldurmak için mücadele eden kuruluşlar üzerinde ekstra baskı oluşturuyor. Açık olan bir şey var ki, yapay zekanın artan popülaritesi, ürün güvenliği dünyasının, yarının zorluklarının üstesinden gelebilecek yükselen genç erkek ve kadınları işe almanın yeni yollarını aramak da dahil olmak üzere, güvenlik stratejilerinde daha da fazla ayarlama yapmasını gerektiriyor.
Hızlı inovasyonun önüne geçmeden güvenliğe nasıl ayak uydurulur?
“İnovasyon, teknolojide olmamızın nedeni, değil mi?” dedi Katie. Ancak bunun diğer tarafı, tehdit aktörlerinin de sürekli olarak yenilik yaptıklarını kabul etmektir.
Görev açısından kritik cihazların üreticileri, ürünlerin siber güvenlik duruşlarına yama, hafifletme ve güncelleme yapmalarına izin vererek kesintisiz çalışma süresi sağlamalıdır. “KPMG yakın zamanda Cranium adlı bir ürün çıkardı. Cranium, kuruluşlara yapay zeka modellerinde neler olup bittiğine dair gerçek zamanlı görünürlük sağlamanın yanı sıra güvenliklerinin akreditasyonunu sağlayacak,” diye ekliyor Katie.
AB, yapay zeka modellerinde daha fazla şeffaflık talep etmeye başladığında, bileşenler, ürün grupları ve iş birimleri arasındaki güvenlik açıklarını belirlemenin yanı sıra belirli modellerin nasıl eğitildiğini anlamak için daha derinlemesine SBOM yönetimine yönelik bir talep görmeyi planlıyoruz. Kendilerini ve başkalarını korumak isteyen kişiler, kuruluşlar ve hükümetler için gönül rahatlığı sağlayabilecek bir şey uygunluk sertifikalarıdır. Bu, yalnızca yapay zeka modellerini ve gizli verilere erişimi olan sistemleri anlayarak ve standartlaştırarak elde edilebilir.
Bazı modeller, kadınlara veya diğer gruplara karşı fark edilmeyen önyargılar üzerine eğitildiğinden, ön saflarda sürüklenmeyi önleyen ve algoritmayı odakta tutan kadın mühendislerin olması önemlidir.
Katie, “Yeni ve gelişen riskler karşısında yapay zekayı nasıl yöneteceğimizi ve sürdüreceğimizi yakalamaya çalışıyoruz” diye ekliyor.
AI ve makine öğreniminin artan popülaritesi arasında güvenlik endişelerini azaltma
Her gün haberlerde sayısız farklı kullanım durumuyla amaç, yapay zeka sistemlerine güven oluşturmaktır. Nihayetinde, AI güvenliği, AI modellerini nasıl kullandığınızı, üretime girdikten sonra onlara ne olduğunu ve hangi güvenlik önlemlerine güvendiğinizi anlamanın bir birleşimidir.
AI, bir süredir hassas tıpta ve kritik altyapı desteğinde kullanılıyor. Şimdi, yapay zeka orman yangını gibi diğer sektörlere doğru genişledikçe, bağlantılı ürün üreticileri hala ürün yazılımlarının içinde tam olarak ne olduğunu anlamakta zorlanıyor. Daha da önemlisi, bilmemenin getirdiği riskleri anlamaları gerekiyor.
Katie, “Güvenlik uzmanlarının, genel AI yaşam döngüsünü ve AI modellerinin nasıl çalıştığını ve bu konuşmaların bazı kuruluşlarda, özellikle de AI ile daha yeni ilgilenenlerde gerçekten yeni başladığını anlaması gerekiyor” dedi.
Yapay zekada yeni olan işletmelerin ihtiyaçlarına, sektörlerine, ekosistemlerine ve mevcut araçlarına göre belirli çerçeveler tanımlaması gerektiğini vurgulayan Katie, “Örneğin, NIST’in bir yapay zeka risk yönetimi çerçevesi var. MIR, bir Atlas bilgi tabanına sahiptir. Bu araçlar, dikkatli bir şekilde uygulandıklarında güçlüdür. Bu büyük bir fark yaratacak.”
Geliştirme sürecinde yapay zeka sistemlerinin güvenliği nasıl sağlanır?
Kuruluşlar, güvenli tasarım süreçlerinin erkenden uygulanması gerektiğini anlamalıdır. Bu, diğer ekiplerle işbirliği yapmayı gerektirir.
Güvenlik uzmanları, birbirinden farklı güvenlik endişelerini, gizlilik kimliğini, erişim yönetimini ve bilgi korumayı daha iyi anlamak için veri bilimcilerle işbirliği yapmalıdır. Hem veri bilimcileri hem de güvenlik, bir modelin hassas veriler gerektirip gerektirmeyeceğini ve bu verilerin hem geliştirme hem de üretimde nerede bulunacağını belirleme konusunda yardıma ihtiyaç duyar. Sağlam bir AI ekosistemine sahip olmak için tüm bunların dikkate alınması gerekir.
“Güvenlik ekiplerinin yapay zeka yaşam döngüsünü anlaması ve veri ile yapay zeka modellerinin güvende kalmasını sağlamak için veri bilimcilere öneriler sunması gerekiyor.
Yarının yapay zeka dünyası
Yapay zekayı çevreleyenden emin olabileceğimiz bir şey, teknolojinin bizi 10 yıl, 20 yıl ve sonrasında nereye götüreceğini hayal bile edemiyor olmamızdır. Kuruluşlar tarafından tam potansiyelinden yararlanıldığından emin olmak için şirketler, kaynağı ne olursa olsun kuruluşlarında yeni fikirlerin gelişmesi için alanlar yaratmalıdır.
Katie Boswell, 19 yaşında kendisini Manhattan’da BT yöneticisi olarak bulurken, birçok kadının bir iş ilanının tüm kriterlerini karşılamıyorsa kalifiye olmadıklarını kendilerine söylediklerini fark eder. Aynı zamanda, yetenekli olduklarını bildikleri işlere başvuran kadınların giderek artması, günümüz kadınlarının siber güvenlik dünyasında sayılarını artırmaları için bir adımdır.
Katie, kadınları genel başarılarına bakmaları ve korkmamaları için teşvik ediyor. “Kadınları hedeflerini zorlamaya ve kendilerini rahatlık alanlarının dışına çıkarmaya teşvik ediyorum. Bağlanın. Ağınızı büyütün. Bana sunulan tüm fırsatlar oradaydı çünkü beni dahil etmeye istekli bir insan ağım vardı. Ve yeni zorluklara göğüs germekten korkmuyordum. Ama her şeyden önce, hey, bununla ilgileniyorum demekten çekinmeyin. Bir denemek istiyorum,” dedi.
Bize göre, geleceğimiz buna bağlı olabilir.