Yapay Zeka ve Makine Öğrenmesi, Hükümet, Sektöre Özel
Federal AI Güvenlik Araçları Önemli Eğitim Gerektirir, Asgari İyileştirmeler Sunar
Chris Riotta (@chrisriotta) •
31 Temmuz 2024
ABD siber güvenlik kurumu, yeni yapay zeka araçlarının federal siber operasyonlara “önemsiz” iyileştirmeler sağladığı ve analistlerin eğitilmesi için önemli bir zaman gerektirdiği sonucuna vardı.
Ayrıca bakınız: 2024’e Bakış: Kara Para Aklama ve Mali Suçlara Uyumda Küresel Eğilimler
Siber Güvenlik ve Altyapı Güvenlik Ajansı, AI destekli federal güvenlik açığı tespit yazılımının hükümet sistemleri ve ağlarındaki güvenlik açıklarını belirlemede geleneksel teknolojilerden daha etkili olup olmadığını değerlendirmek için operasyonel bir pilot uygulama yürüttü. Ajans, büyük dil modelleri kullanan yazılımlar da dahil olmak üzere en son AI teknolojilerine odaklanarak 2023’ten itibaren federal olarak kullanılabilir hale gelen ürünleri değerlendirdi.
Ajans, yapay zeka araçlarının “sorun gidermesi zor şekillerde öngörülemez olabileceğini” ve bazı durumlarda analistlere yeni yetenekler öğretmenin önemli miktarda zaman gerektirdiğini tespit etti.
Ajans Pazartesi günü yayınladığı raporda, “Kazanılan kademeli iyileştirme önemsiz olabilir” dedi ve federal güvenlik açığı tespit çabalarında yapay zekanın en iyi kullanımının “şu anda mevcut araçları değiştirmek yerine, onları desteklemek ve geliştirmek” olduğunu ekledi.
CISA, ABD hükümetinin ulusal AI stratejisi için politika geliştirmek üzere işbirlikçi, kurumlar arası çabalara öncülük ederek, federal hükümetin AI sistemlerini benimsemesinde lider olarak konumlanmıştır. Kurum, federal hükümet genelinde sorumlu AI araçlarının güvenli bir şekilde geliştirilmesini ve dağıtımını sağlamak için 2023’te bir yol haritası yayınlamıştır (bkz: Yeni CISA AI Yol Haritası Sorumlu Benimseme İçin Rota Çiziyor).
Başkan Joe Biden, 2023’te CISA’ya kritik ABD hükümet yazılımları, sistemleri ve ağlarındaki güvenlik açıklarını azaltmaya yardımcı olmak için AI yeteneklerini kullanan bir pilot başlatması talimatını veren AI hakkında bir yürütme emri yayınladı. Emir, İç Güvenlik Bakanlığı’na, bir AI Güvenlik ve Emniyet Kurulu kurmanın yanı sıra, Ulusal Standartlar ve Teknoloji Enstitüsü tarafından belirlenen standartları ülkenin kritik altyapı sektörlerine uygulama görevini veriyor (bkz: Beyaz Saray, Yapay Zekayı Güvence Altına Almak İçin Kapsamlı Bir Yürütme Emri Yayımladı).
Beyaz Saray o zamandan beri federal kurumların, kritik altyapılarda AI kullanımına ilişkin risk değerlendirmelerini tamamlamak ve federal hükümet genelinde AI profesyonellerinin işe alınmasını hızlandırmak için çabaları başlatmak da dahil olmak üzere, yürütme emrinde belirtilen direktiflerin çoğunu uygulamada beklenenden daha hızlı hareket ettiğini söyledi. Ulusal Bilim Vakfı, AI hesaplama yeteneklerini ve araştırmalarını daha kolay erişilebilir hale getirmek için ulusal bir altyapı kurmayı amaçlayan kendi pilot projesinde ilerleme kaydetti.
Raporda yapay zeka araçlarının “sürekli olarak iyileştiği” kabul edildi ve CISA’nın “piyasayı izlemeye devam edeceği” ve “güvenlik açığı tespit yeteneklerinin en son teknoloji olmaya devam etmesini” sağlamak için federal olarak mevcut yazılım ürünlerini test edeceği belirtildi. Kurum, pilot uygulama için yapay zeka araçlarının ilk değerlendirmelerini, federal ortak ağların güvenlik değerlendirmelerini ve kontrollü bir ortamda testler yaparak gerçekleştirdiğini söyledi.