Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
ABD CISA, Yapay Zeka Siber Olayı Bilgi Paylaşımını Kolaylaştırmaya Yönelik Kılavuz Yayımladı
Chris Riotta (@chrisriotta) •
14 Ocak 2025
ABD siber savunma kurumu, federal hükümet, önde gelen yapay zeka geliştiricileri ve yapay zeka araçlarını kullanan büyük şirketler arasında yapay zeka siber güvenlik olayları ve zayıf noktalarına ilişkin bilgi paylaşımını kolaylaştırmayı amaçlıyor.
Ayrıca bakınız: İkinci Yıllık Üretken Yapay Zeka Çalışması: İş Ödülleri ve Güvenlik Riskleri
Siber Güvenlik ve Altyapı Güvenliği Ajansı Salı günü, kamu-özel sektör ortaklarına yapay zeka olaylarını ve zayıf noktalarını ifşa etme konusunda rehberlik sağlayan ve aynı zamanda ajansın paylaşılan bilgilerle kolektif savunmayı güçlendirmeye yönelik adımlarını detaylandıran bir yapay zeka siber güvenlik işbirliği taktik kitabı yayınladı. CISA, FBI, Ulusal Güvenlik Ajansı Yapay Zeka Güvenlik Merkezi gibi federal ortaklarla ve AWS, Nvidia, IBM, Microsoft ve OpenAI gibi sektör ortaklarıyla Ortak Siber Savunma İşbirlikçi Yapay Zeka Siber Güvenlik İşbirliği Stratejisini geliştirdiğini söyledi.
Başucu kitabı, kritik tehditlerin erken tespitine yardımcı olmak için kötü amaçlı faaliyetlerle ilgili proaktif bilgi paylaşımına çağrıda bulunuyor. Yapay zeka geliştiricilerine ve özel sektör şirketlerine JCDC içinde koordinasyon sağlamanın yanı sıra siber olayları gönüllü olarak CISA’ya bildirme yolları sağlar. Kılavuz, İç Güvenlik Bakanlığı Genel Müfettiş Ofisi’nin, teşkilatın en önemli tehdit paylaşım girişiminin, artan güvenlik endişeleri ve katılımın azalmasından işe alım stratejisinin eksikliğine kadar büyük engellerle karşı karşıya olduğunu tespit etmesinden sonra geldi (bkz.: Uzmanlar, CISA’nın Tehdit Paylaşımının ‘Ölüm Spiralinde’ Olduğu Uyarısında Bulundu).
CISA Direktörü Jen Easterly, yeni taktik kitabını CISA’nın “aktif işbirliği yoluyla yapay zeka sistemlerini güvence altına alma” çabalarında “önemli bir kilometre taşı” olarak nitelendirdi. Hükümetten, endüstriden ve uluslararası ortaklardan 150 yapay zeka uzmanının, “yapay zeka odaklı bir geleceğin gelişen zorluklarını ele almak için düzenli olarak güncellenecek” iki dinamik masaüstü tatbikatına katılan kılavuzun geliştirilmesine katkıda bulunduğunu ekledi.
CISA’nın Siber Güvenlik Danışma Komitesi, Haziran ayında kuruma JCDC’yi elden geçirmesi ve operasyonel işbirliğine olan odağını geliştirmesi yönünde çağrıda bulunan bir dizi öneri yayınladı. Uzmanlar, o dönemde Bilgi Güvenliği Medya Grubu’na, 12 kritik altyapı sektöründe 300’den fazla üye kuruluşa sahip olan kamu-özel sektör ortaklığının, görev belirsizliğinden ve işbirliğini geliştirecek bir platform eksikliğinden muzdarip olduğunu söylemişti (bkz.: Uzmanlar Yavaş Başlangıcı Eleştirirken CISA JCDC Yenilemesini Planlıyor).
Başucu kitabı öncelikle kuruluşlara yapay zeka ürün ve hizmetlerindeki siber olayları ve güvenlik açıklarını bildirmek için CISA web sayfalarını kullanma talimatını veriyor. CISA, tüm JCDC ortaklarının, ihtiyaç halinde tekrarlanan iyileştirmeler yaparken, senaryoyu olay müdahale ve bilgi paylaşım süreçlerine entegre etmelerini önerir.
Kılavuz, güvenlik araştırmacılarının belirli sistemler için hangi testlere izin verildiğini ve bu güvenlik açığı raporlarının nasıl gönderileceğini anlamaları için kuruluşları kapsamlı güvenlik açığı açıklama politikaları oluşturmaya teşvik ediyor. Ayrıca, konuşlandırılmış federal hükümet sistemlerindeki güvenlik açıklarını tespit eden JCDC ortaklarına, sahibini bilgilendirmeleri veya sorunu Carnegie Mellon Üniversitesi Yazılım Mühendisliği Enstitüsü CERT Koordinasyon Merkezi aracılığıyla bildirmeleri talimatını verir.
Başucu kitabının yayınlanması, Washington’da iktidar geçişinden yalnızca altı gün önce gerçekleştiği için uygulamada zorluklarla karşılaşılabilir. Bir sonraki yönetim, siber savunma teşkilatını önemli ölçüde küçültmeye çalışabilir. Başkan seçilen Donald Trump, Beyaz Saray’daki birçok önemli siber pozisyonunu henüz açıklamamış olsa da, yeni yetkilendirilen Cumhuriyetçilerin bütçe kesintileri ve CISA’nın misyonunun yeniden önceliklendirilmesi için baskı yapması muhtemel görünüyor (bkz: CISA, Trump Yönetiminde Belirsiz Gelecekle Karşı Karşıya).