Bu Help Net Security röportajında, EY Küresel Adli Tıp ve Bütünlük Hizmetleri Lideri Dilek Çilingir, yapay zekanın üçüncü taraf değerlendirmelerini ve durum tespitini nasıl dönüştürdüğünü anlatıyor. Makine öğrenimi ve davranış analitiğinin kuruluşların riskleri daha erken tespit etmesine, uyumluluğu artırmasına ve hesap verebilirliği güçlendirmesine nasıl yardımcı olduğunu açıklıyor. Gözetim arttıkça Çilingir, yapay zeka destekli her kararda insan yargısının neden hala önemli olduğunu açıklıyor.
Üçüncü taraf ihlali meydana geldiğinde, adli soruşturma genellikle yapay zekanın daha önce işaretleyebileceği zayıf noktaları ortaya çıkarır. Deneyimlerinize göre, olay sonrası analizde yapay zekanın gerçekçi bir şekilde tespit edebileceği veya önleyebileceği hangi kalıpları tekrar tekrar görüyorsunuz?
Araştırmalar boyunca, makine öğrenimi ile EDR/XDR’nin çok daha erken işaretleyebileceği davranışları tekrar tekrar görüyoruz; örneğin alışılmadık saatlerde anormal kullanıcı etkinliği, belirli bir kullanıcı veya rol için alışılmadık uygulamaların yürütülmesi, tanıdık olmayan veya daha önce görülmemiş harici IP’lere bağlantılar ve olağandışı, sürekli veri çıkışı modelleri (örneğin, yeni bir adrese düzenli giden akışlar).
EDR/XDR, bu zayıf sinyalleri neredeyse gerçek zamanlı olarak ortaya çıkarmak için davranış analizi, sinyal korelasyonu ve otomatik yanıt uygular. Deneyimlerimize göre bu kontrolleri uygulayan kuruluşlar saldırıları daha erken tespit etmektedir. Şu ana kadar bu araçları kullanan müşteriler arasında büyük bir olay gözlemlemedik çünkü şüpheli faaliyet zincirleri, etki aşamalarına ulaşmadan kesintiye uğruyor.
Yapay zekanın, olağandışı veri aktarımları, finansal düzensizlikler veya iletişimdeki davranışsal kırmızı bayraklar gibi potansiyel bir üçüncü taraf sorununun büyümeden önce belirlenmesine yardımcı olduğu bir örnek verebilir misiniz?
Bir etkileşimde, EDR izleme platformu, tek bir iş istasyonundan “olağandışı trafik” olarak işaretlenen yeni gözlemlenen bir hedefe giden ağdaki periyodik ani artışlar için bir uyarı yayınladı. Önceliklendirme gerçekleştirilerek uç nokta süreç davranışı, kullanıcı bağlamı ve ağ telemetrisi ilişkilendirilerek modelin kullanıcının geçmiş etkinliğiyle tutarsız olduğu doğrulandı.
Davranışsal anormallik tespiti ve çapraz sinyal korelasyonunun birleşimi, tehdidin kontrol altına alınmasına, veri sızıntısının ve daha fazla tırmanmanın önlenmesine yol açtı. Temel kolaylaştırıcılar geniş uç nokta kapsamı, yapay zeka gerçek zamanlı davranış takibi ve disiplinli uyarı incelemesi ve yanıtlarıydı; bu da çoğu zaman doğru şekilde uygulanan yapay zeka çözümleri ile bilgili kullanıcıların kombinasyonunun istenen sonuçlara yol açtığını gösteriyor.
Birçok şirket “kara kutu” yapay zeka çıktılarıyla mücadele ediyor. Kuruluşlar yapay zeka odaklı üçüncü taraf değerlendirmelerinde şeffaflığı ve açıklanabilirliği nasıl koruyabilir?
Kara kutu tarzı tek bir “araştırma temsilcisine” güvenmeyin. Durum tespiti sürecini küçük, denetlenebilir adımlara bölün. Yapay zekanın nerede değer katacağına (örneğin varlık çözümü, anormallik puanlaması) ve deterministik mantığın nerede yeterli olacağına (örneğin yaptırım listesi kontrolleri) açıkça karar verin. Beklenen ve gerçek sonuçları sürekli olarak karşılaştırarak, her adıma yönelik ölçümlerle bir değerlendirme çerçevesi (“değerlendirmeler”) oluşturun.
Modelin neyi göstereceğine karar vermesine izin vermek yerine yapay zekayı kaynak alıntılarını uçtan uca taşımaya zorlayarak kaynağı sonuç soyuna zorlayın. İş akışının belirleyici, gözden geçirilebilir aşamalardan geçmesi için korkuluklar ekleyin. Makine öğrenimi bileşenleri için, özellik katkılarını ortaya çıkarmak ve analistlerin anlayış ve zorluklarını desteklemek için yerleşik açıklanabilirlik tekniklerini (örneğin, SHapley Additive exPlanations (SHAP)) kullanın.
Şirketler yapay zekayı satıcı risk süreçlerine dahil etmeye başladıkça hangi yeni yönetişim yapılarına veya hesap verebilirlik önlemlerine ihtiyaç duyulduğunu düşünüyorsunuz?
Yapay zekayı tedarikçi risk süreçlerine dahil eden şirketlerin şeffaflık, hesap verebilirlik ve uyumluluk sağlayan yönetişim yapılarına ihtiyacı var. Bu, onaylanmış bir kaynak kataloğunun tutulmasını ve sistemin ya da bir analistin bulguları doğrulamasını ve bunların arkasındaki mantığı belgelemesini gerektirmeyi içerir.
Yaptırımlar veya ambargo listeleri gibi hangi bilgilerin her zaman kapsam dahilinde olduğunu ve bağlamsal olarak neyin alakalı olduğunu tanımlayarak, GDPR kapsamında korunan veya hassas özellikleri hariç tutarak ve yapay zekayı bunları göz ardı edecek şekilde yapılandırarak veri minimizasyonu tasarımın içine yerleştirilmelidir.
Düşük riskli ilişkiler için gereksiz veri toplanmasını önlemek ve yüksek risk senaryolarının kapsamını genişletmek için kontrollerin derinliği tedarikçi kritikliğine ve coğrafyaya göre kalibre edilerek risk değerlendirmeleri kademeli hale getirilmelidir. Yapay zeka, insan muhakemesini değiştirmeden tavsiyeler sunarken (“döngüdeki insan”), adlandırılmış bir kişinin durum tespiti kararlarına sahip olmasıyla, insanın hesap verebilirliği hayati olmaya devam ediyor.
Düzenleyiciler yapay zekanın uyumluluk ve yönetim açısından kullanımını incelemeye başlıyor. Üçüncü taraf durum tespitinde küresel düzenleyici kurumların yapay zeka konusunda ne yönde hareket edeceğini düşünüyorsunuz?
Düzenleyicilerin, AB Yapay Zeka Yasası gibi çerçevelerin gerektirdiği şekilde, firmaların güçlü kontroller oluşturması ve etkili gözetim sergilemesi durumunda yapay zeka kullanımına izin vermesi muhtemeldir. Sorumluluk kişi veya kuruluşlara aittir; sorumluluk yapay zekanın kendisine devredilmez.
Düzenleyiciler ayrıntılı teknik kuralları belirlemekte zorlansa da, açık bir değişiklik, “veri hacminin incelenemeyecek kadar büyük olması”nın artık kabul edilebilir bir savunma olmayacağıdır. Denetim izlerine sahip ölçeklenebilir, açıklanabilir süreçler beklenecektir. Sonuçta firmalar, bu sonuçları nasıl karşılayacakları konusunda esneklikle birlikte dokümantasyon, kanıtlanabilir değerlendirmeler ve insani sorumluluk sağlamalıdır.
Web Semineri: Yapay Zeka Aracılığıyla Saldırı Simülasyonunu Yeniden Tanımlamak