Yapay zeka, bu hafta Maryland, National Harbor’da düzenlenen Gartner Güvenlik ve Risk Yönetimi Zirvesi’nin ana odak noktası oldu ve büyük dil modelleri (LLM’ler) şu ana kadar gereğinden fazla taahhütte bulunsa ve yetersiz teslim edilse de hala yapay zeka tehditleri ve tehditleri olduğu konusunda fikir birliği oluştu. Siber güvenlik profesyonellerinin bilmesi gereken savunma amaçlı kullanım durumları.
Gartner Araştırma Yapay Zeka ve Siber Güvenlikten Sorumlu Başkan Yardımcısı Jeremy D’Hoinne, konferans katılımcılarına hackerların şimdiye kadar yapay zeka kullanımlarının gelişmiş kimlik avı ve sosyal mühendislik içerdiğini ve deepfake’in özellikle endişe verici olduğunu söyledi.
Ancak D’Hoinne ve Direktör Analist Kevin Schmidt, ortak bir panelde henüz yapay zekadan kaynaklanan yeni bir saldırı tekniğinin bulunmadığı, yalnızca iş e-postasının ele geçirilmesi (BEC) veya sesli dolandırıcılık gibi mevcut saldırı tekniklerinde iyileştirmeler yapıldığı konusunda hemfikirdi.
Yapay zeka güvenlik araçları da aynı şekilde az gelişmiş durumda; yapay zeka asistanları belki de şu ana kadarki en umut verici siber güvenlik uygulamasıdır ve potansiyel olarak yama uygulama, hafifletme, uyarılar ve etkileşimli tehdit istihbaratına yardımcı olabilir. D’Hoinne, araçların güvenlik personelinin eleştirel düşünme yeteneklerini kaybetmemeleri için yardımcı olarak kullanılması gerektiği konusunda uyarıyor.
Siber Güvenlik için Yapay Zeka İstemi Mühendisliği: Hassasiyet Önemlidir
Yapay zeka asistanlarının ve yüksek lisansların siber güvenlik kullanım örnekleri için kullanılması, Schmidt’in ayrı bir sunumunun odak noktasıydı; Schmidt, yüksek lisansların sınırlamalarının üstesinden gelmek için yapay zeka istemi mühendisliğinin güvenlik kullanımları için çok özel olması gerektiği ve o zaman bile cevabın size yalnızca 70 kazandırabileceği konusunda uyardı. Hedefinize doğru %-80. Çıktıların doğrulanması gerekir ve kıdemsiz personel, çıktının önemini daha hızlı belirleyebilecek olan kıdemli personelin gözetimine ihtiyaç duyacaktır. Schmidt ayrıca ChatGPT gibi sohbet robotlarının yalnızca kritik olmayan veriler için kullanılması gerektiği konusunda da uyardı.
Schmidt, güvenlik operasyonları ekiplerine yardımcı olmak için iyi ve kötü yapay zeka güvenlik uyarılarına örnekler verdi.
“Benimde bir sorgu oluştur
SIEM sorgusu oluşturmanın daha iyi bir yoluna bir örnek verdi: ”
Bu istem aşağıdaki çıktıya benzer bir şey üretmelidir:
Güvenlik duvarı günlüklerini analiz etmek başka bir örnekti. Schmidt, etkisiz bir istem örneği olarak şunları verdi: “Güvenlik duvarı günlüklerini olağandışı modeller veya anormallikler açısından analiz edin.”
Daha iyi bir bilgi şu şekilde olabilir: “Son 24 saatteki güvenlik duvarı günlüklerini analiz edin ve olağandışı kalıpları veya anormallikleri tespit edin. Bulgularınızı güvenlik ekibi brifingine uygun bir rapor formatında özetleyin.
Bu, aşağıdaki çıktıyı üretti:
Başka bir örnek XDR araçlarını içeriyordu. “Bir satıcının XDR’sindeki en önemli iki güvenlik uyarısını özetleyin” gibi zayıf bir bilgi istemi yerine Schmidt şu satırlara benzer bir öneride bulundu: “Bir satıcının XDR’sindeki en önemli iki güvenlik uyarısını, uyarı kimliği, açıklama ve önem derecesi de dahil olmak üzere özetleyin. ve etkilenen varlıklar. Bu, aylık güvenlik inceleme raporu için kullanılacaktır. Yanıtı tablo halinde sağlayın.”
Bu istem aşağıdaki çıktıyı üretti:
Yapay Zeka Güvenlik İstemlerinin Diğer Örnekleri
Schmidt, biri olay incelemesi ve diğeri web uygulaması güvenlik açıkları hakkında olmak üzere iyi yapay zeka istemlerine iki örnek daha verdi.
Güvenlik olayı araştırmaları için etkili bir istem şu olabilir: “DB2024-001 olayının ayrıntılı bir açıklamasını sağlayın. Olayların zaman çizelgesini, saldırganın kullandığı yöntemleri ve kuruluş üzerindeki etkisini ekleyin. Bu bilgi bir iç soruşturma raporu için gereklidir. Çıktıyı tablo halinde üretin.”
Bu istem aşağıdaki çıktıya benzer bir şeye yol açmalıdır:
Web uygulaması güvenlik açıkları için Schmidt şu yaklaşımı önerdi: “Web uygulamamızda saldırganlar tarafından istismar edilebilecek ilk beş güvenlik açığını belirleyin ve listeleyin. Her bir güvenlik açığına ilişkin kısa bir açıklama sağlayın ve azaltma adımlarını önerin. Bu, güvenlik düzeltme eki uygulama çabalarımıza öncelik vermek için kullanılacaktır. Bunu tablo formatında üretin.
Bu, şu çıktıya benzer bir şey üretmelidir:
Yapay Zeka Güvenlik Asistanlarına yönelik Araçlar
Schmidt, sohbet robotlarından SecOps AI asistanlarına (CrowdStrike Charlotte AI, Microsoft Copilot for Security, SentinelOne Purple AI ve Splunk AI gibi) ve AirMDR, Crogl, Dropzone ve Radiant gibi startup şirketlere kadar güvenlik ekiplerinin kullanabileceği bazı GenAI araçlarını listeledi. Güvenlik (aşağıdaki Schmidt’in slaytına bakın).
