ABD ve Avrupa Birliği’nde, etik perspektifinden veri güvenliğine kadar açık kaynaklı AI kullanımını düzenlemek için birden fazla girişim vardır. Bununla birlikte, çekirdeğe çok az dikkat edilmektedir-açık kaynaklı yazılım bileşeninin kendisi.
Açık kaynaklı bir kütüphane olarak gömüldüğünde tescilli yazılımla nasıl etkileşime girer?
Açık kaynaklı AI kütüphaneleri nasıl oluşturulur? Eğitim verilerine güvenebilir miyiz, yoksa kaynakları iki kez kontrol etmeli miyiz? Açık kaynaklı AI yazılımı nerede barındırılıyor? Saygın bir paket deposu aracılığıyla yayınlandı mı, yoksa şüpheli bir güvenlik geçmişine sahip platformlardan mı kaynak mı verildi?
Savunma teknolojisi perspektifi
Savunma teknolojisi geliştiricileri için bu sorular kritiktir. Günümüzün kalıcı siber tehditler ve tehlikeye atılmış dijital altyapı ortamında, mühendisler sadece yazılım oluşturmakla kalmıyor. Gerçek bir savaş alanında kullanılacak gerçek silahlar inşa ediyorlar. Stratejik ve Uluslararası Araştırmalar Merkezi’nden (CSI) ön değerlendirme, ABD sivil ve askeri kod tabanlarının% 96’sının açık kaynaklı yazılım kullanılarak inşa edildiğini göstermektedir. Ve dünya çapında BT endüstrisindeki genel ürün geliştirme ile farklı değil.
3 savunma teknolojisinde açık kaynaklı AI için başlangıç noktası:
- Open-Source AI hala açık kaynaklı bir yazılım
Genel olarak açık kaynaklı yazılım gibi tamamen açık olduğu anlamına gelir. Açık Vakıf Modelleri, bireylerin ve işletmelerin lisans şartlarına göre incelemelerine, değiştirmelerine ve kullanmalarına olanak tanıyan mimarilerine halkın erişimini sağlar.
Bu açıklık, model ağırlıkları, eğitim verilerini ve çıkarım kodunu titizlikle inceleyen topluluğu teşvik eder – tüm bunlar bakımı basitleştirir ve iş maliyetlerini önemli ölçüde düşürür. Açık temel modelleri de özelleştirilebilir ve tescilli çözümlere dahil edilebilir.
- Açık kaynaklı yapay zeka için güvenlik ve yasal çerçeveler hala ortaya çıkıyor
Geleneksel açık kaynaklı yazılımlar için güvenlik ve yasal yaklaşımlar iyi kurulmuş olsa da, açık kaynaklı AI çerçeveleri sadece şekillenmeye başlıyor.
Ve bu AI düzenlemeleri ile ilgili değil. Çekirdeğin – kaynak kodu ve bileşenlerinin, tescilli ürünlere gömüldüğünde bunlara müdahale etme ve bunlardan ödün vermenin yollarını güvence altına almaktan kaynaklanır. Açık Foundation modelleriyle çalışan her mühendisin kendilerine sorması gereken ana soru, “İçeride ne var? Güvenli mi?”
- Savunma Tech, açık kaynaklı yazılım kullanılarak oluşturulmuştur ve şimdi açık kaynaklı AI’yı entegre etmeye başlıyor
Açık kaynaklı AI’nın artan popülaritesi ile savunma teknolojisi, son teknoloji inovasyon, siber güvenlik ve yoğun bir şekilde düzenlenmiş hükümet tedariklerinin kesişiminde duruyor. Son kullanıcılar olarak tüm bileşenlerin şeffaf ve devlet organları için açık olması çok önemli olsa da, ödün vermeyen güvenlik standartlarıyla dengelenmelidir. Bu, açık kaynaklı AI güvenlik yaklaşımlarının geliştirilmesi daha karmaşık olduğundan kritik güvenlik hususlarını gündeme getirmektedir.
Açık kaynaklı güvenlik girişimleri: açık kaynaklı yapay zekaya en iyi uygulamaların uygulanması
Son birkaç yılda (2023-2024), ABD bilgi ve güvenlik devlet kurumlarından, BT endüstrisi oyuncularından ve açık kaynaklı topluluktan açık kaynaklı güvenlik önlemleri ile ilgili önerileri hakkında geri bildirim toplamak için birden fazla girişimde bulundu.
Anahtar girişimler arasında Siber Güvenlik ve Altyapı Güvenlik Ajansı’ndan (CISA) açık kaynaklı yazılım güvenlik yol haritası (Eylül 2023) ve Ulusal Telekomünikasyon ve Bilgi İdaresi’nden (NTIA) yorum talebini (30 Ekim 2023) içerir.
Her iki çaba da açık kaynaklı yazılımlardaki güvenlik risklerini belirlemeye ve azaltmaya odaklanarak, devlet kurumlarının güvenli ve potansiyel olarak kötü niyetli bileşenler arasında ayrım yapmasına yardımcı olmaktadır.
Savunma teknolojisi geliştiricileri bu bulguları açık kaynaklı AI’ya nasıl uygulayabilir:
- Geliştiriciler, bu bileşeni kullanmadan önce açık kaynaklı AI bileşeninin yazılım malzeme faturasını (SBOM) kontrol etmeyi hedeflemelidir;
- Geliştiriciler, oluşturma işlemi sırasında yazılım materyalleri (SBOM) üreten araçları entegre etmelidir, çünkü bu araçlar artefaktı analiz etmeye kıyasla ayrıntılı ve doğru verilere daha derin erişime sahiptir;
- Geliştiriciler, açık kaynaklı AI’nın bağımlılıkları provenansını izlemeli ve doğrulamalıdır. NPM ve GitHub gibi paket depoları (NPM tabanlı projeler için) bu amaç için özel araçlar sunar.
- Geliştiriciler, en azından çok faktörlü kimlik doğrulama (MFA) gerektiriyorsa, paket depolarının güvenlik düzeylerini doğrulamalı ve güvenlik araştırmacılarının güvenlik açıklarını bildirmelerine izin vermelidir-Seviye 1 güvenlik olgunluğu için temel kriterler. Paket deposu güvenliğinin ilkeleri, savunma teknolojisi özel ürünlerine açık kaynaklı AI bileşenlerini entegre ederken belirleyici bir kılavuz olarak hizmet etmelidir.
ABD yönetiminin değişmesi ile değişim değişikliği?
Yeni ABD yönetiminin, sınırsız AI yeteneklerinin geliştirilmesine yönelik temkinli açık kaynaklı AI yaklaşımından değiştiği görülebilir. Bununla birlikte, daha yakından daha yakından görünümlüdür – politika sürekliliğinde fazla bir şey değişmemiştir. Trump yönetimi Beyaz Saray’daki öncekilerle aynı şeyi yapıyor – ABD AI eylem planını şekillendirmek için yeni bir bilgi için (RFI) talep başlattılar. Endüstriyi AI politika fikirleri üzerindeki girdilerini sağlamaya teşvik ediyorlar ve buradan öğrenebileceğimiz yer burası.
RFI’ya en dikkat çekici endüstri yanıtlarından biri Open AI’dan geliyor.
Açık AI, sunumlarında, Demokratik olmayan AI artışının getirdiği artan güvenlik risklerini vurgulamaktadır; Bu yaklaşımlar ABD AI politikasını etkiler ve açık AI ifadesine göre inovasyonu engeller.
Savunma teknolojisi geliştiricilerinin bu yanıttan uygulayabileceği temel paketlerden biri, açık kaynaklı yazılımın kökenini ve kullandıkları açık temel modellerini doğrulamaktır. Bazıları dolaylı olarak Seviye III ülkelerinden (demokratik olmayan PRC) türetilebilir ve özellikle savunma teknolojisi uygulamaları söz konusu olduğunda, yüksek siber güvenlik riskleri ve ulusal güvenlik endişeleri getirebilir.
Devlet kurumları savunma teknolojisi alanındaki en büyük müşteriler olduğu ve tehlikeye atılmış yazılım bileşenleri elde edemedikleri için bu farkındalık kritiktir.
Başka bir öneri, siber güvenlik, model ağırlık güvenliği ve personel güvenlik kontrollerinin uygulanmasına öncelik vermektir;
Sonuç
Açık kaynaklı yazılım genellikle tescilli uygulamaların temeli olarak hizmet eder ve savunma teknolojisi endüstrisi bir istisna değildir. Açık kaynaklı AI’nın artan popülaritesi ile savunma teknolojisi mühendisleri, nispeten yetersiz kalan yeni araçlar kullanarak uluslararası güvenliği şekillendirmek için bu son teknolojileri kullanıyor. Bu, dikkatle dikkat edilmesi gereken benzersiz zorluklar ve riskler getirir.
Kilit politika yapıcılar-Siber Güvenlik ve Altyapı Güvenlik Ajansı’nın (CISA), Ulusal Telekomünikasyon ve Bilgi İdaresi (NTIA) ve Bilim ve Teknoloji Politikası Ofisi (OSTP) gibi ABD eyalet savunma ajansları, ortaya çıkan açık kaynak ve açık source AI politikalarının nasıl şekillendirileceği konusundaki anlayışlar için endüstriden sürekli geri bildirim toplıyor.
Bu, geliştirme döngüsü sırasında işletmeler tarafından önceliklendirilmesi gereken savunma teknolojisi geliştiricilerinin eğitimi için harika bir kaynaktır. Yazılım materyalleri oluşturan geliştirme araçları uygulamak ve açık kaynaklı AI’nın bağımlılıklarının provenansını izlemek, savunma teknolojisi uygulamalarının şeffaflığı ve siber güvenliği için önemli bir ilk adımdır.
Yazar hakkında
Yuliia Verhun, BT endüstrisinden bir teknoloji ve iş avukatıdır. Yuliia, 10 yılı aşkın bir süredir uluslararası girişimlere AB, ABD ve Orta Doğu’da kurumsal yapılandırma, operasyonlar, yönetim kurulu yönetişimi, fikri mülkiyet ve veri koruması konusunda yardımcı oluyor. Genel danışman olarak Yuliia, BAE’deki teknoloji girişimleri için yatırım turlarına öncülük etti ve ABD’de büyük ölçekli kamu tedarikleri için bir milyondan fazla kullanıcıya hizmet veren bir Edtech SaaS platformu olan UniCheck’i hazırladı. Bu deneyimler, şeffaf ve güvenli yazılım mimarisinin, uluslararası aşamadaki durum tespiti ve tedarik süreçleri sırasında sürekli olarak incelenen stratejik bir varlık olduğu inancını güçlendirdi. Yuliia, savunma teknolojisindeki uygulamalara odaklanarak, açık kaynaklı AI ve siber güvenliğin kesişiminde aktif olarak araştırmalar yapmaktadır.
Yuliia Verhun’a çevrimiçi olarak ulaşılabilir. [email protected]https://www.linkedin.com/in/yuliia-verhun-general-counsel/ ve şirket web sitemde: https://generalcounsel.verhun.com/.