BASIN BÜLTENİ
Baş Dijital ve Yapay Zeka Ofisi (CDAO), askeri tıp bağlamında Geniş Dil Modeli (LLM) sohbet robotlarının kullanımına odaklanan Kitle Kaynaklı Yapay Zeka Kırmızı Takım Oluşturma (CAIRT) Güvence Programı pilot çalışmasını başarıyla tamamladı. CAIRT programı, Yapay Zeka Güvencesi ve Yapay Zeka Risk Azaltımına yönelik tabandan, kitle kaynaklı yaklaşımlar oluşturma konusunda Savunma Bakanlığı’nı (DoD) desteklemektedir. Kitle kaynak kullanımı sayesinde projeler büyük miktarda veri elde edebilir ve çok çeşitli paydaşları dahil edebilir.
Bu CAIRT LLM pilot uygulaması, Savunma Sağlık Ajansı (DHA) ve Program İcra Ofisi, Savunma Sağlık Yönetim Sistemleri (PEO DHMS) ile işbirliği içinde, algoritmik değerlendirmeler etrafında bir uygulama topluluğu oluşturan bir teknoloji şirketi olan Humane Intelligence tarafından gerçekleştirildi. İnsani İstihbarat, sistem sağlamlığını dahili olarak test etmek için rakip teknikleri kullanan kırmızı ekip metodolojisi sayesinde belirli sistem güvenlik açıklarını etkili bir şekilde tespit edebildi. Ek olarak kırmızı ekip, yeni teknolojilerle etkileşime geçmek isteyen ve gelecekteki olası yararlanıcılar olarak sistemlerin iyileştirilmesine katkıda bulunma fırsatını yakalamak isteyen katılımcıları cezbeder. Daha önce, 2024 baharında CDAO, finansal bir araç kullanarak değerli bir kırmızı takım CAIRT tatbikatı düzenlemişti. ödül.
En son pilot programda Humane Intelligence, askeri tıp bağlamında iki olası kullanım durumu için kitle kaynaklı kırmızı ekipten yararlandı: klinik not özetleme ve tıbbi tavsiye niteliğindeki bir sohbet robotu. DHA, Sağlık Bilimleri Üniformalı Hizmetler Üniversitesi ve Hizmetler’den klinik sağlayıcılar ve sağlık analistleri de dahil olmak üzere 200’den fazla katılımcı, üç popüler Yüksek Lisans’ın karşılaştırıldığı alıştırmaya katıldı. Tatbikat, bu potansiyel kullanım durumlarında bu yeteneklerin kullanılmasıyla ilgili potansiyel güvenlik açıklarına ve önyargılara ilişkin 800’den fazla bulguyu ortaya çıkardı. Bu alıştırma, performans beklentilerine uyum için gelecekteki satıcıları ve araçları değerlendirmek için kullanılabilecek kıyaslama veri kümelerinin geliştirilmesi yoluyla tekrarlanabilir ve ölçeklenebilir çıktılarla sonuçlanacaktır. Dahası, bu bulgular Savunma Bakanlığı politikalarının ve Üretken Yapay Zekanın (GenAI) sorumlu kullanımına yönelik en iyi uygulamaların şekillendirilmesinde ve sonuçta askeri tıbbi bakımın iyileştirilmesinde önemli bir rol oynayacak. Sahaya sürüldüğünde bu olası kullanım senaryoları OMB M-24-10’da tanımlanan kapsanan yapay zekayı içeriyorsa gerekli tüm risk yönetimi uygulamalarına bağlı kalınacaktır.
“Savunma Bakanlığı’nda bu tür amaçlar için GenAI’nin uygulanması, pilot uygulama ve deneylerin daha erken aşamalarında olduğundan, bu program, çok sayıda test verisi oluşturmak, değerlendirme için alanları ortaya çıkarmak ve gelecekteki araştırma ve geliştirmeyi şekillendirecek hafifletme seçeneklerini doğrulamak için önemli bir yol gösterici görevi görüyor. ve gelecekte devreye alınabilecek GenAI sistemlerinin güvencesi,” dedi CDAO’nun bu girişimin lideri Dr. Matthew Johnson.
Son pilotun ve diğerlerinin ortaya çıkardığı gibi, CAIRT Güvence Programı aracılığıyla LLM’lerin ve yapay zeka sistemlerinin test edilmeye devam edilmesi, CDAO’nun Yapay Zeka Hızlı Yetenekler Hücresini hızlandırmak, GenAI görev etkinliğini artırmak ve Savunma Bakanlığı kullanım senaryolarında haklı güvene katkıda bulunmak için kritik öneme sahip olacaktır.
CDAO hakkında
CDAO, Haziran 2022’de faaliyete geçti ve kendini Savunma Bakanlığı genelinde yapay zeka yeteneklerini entegre etmeye ve optimize etmeye adamıştır. Ofis, Savunma Bakanlığı’nın verileri, analitiği ve yapay zekayı benimsemesini hızlandırmaktan, Bakanlığın dijital altyapısının ve politika benimsemesinin kurumsal ve ortak kullanım senaryoları için ölçeklenebilir yapay zeka odaklı çözümler sunmasını sağlayarak ülkeyi mevcut ve yeni ortaya çıkan tehditlere karşı korumaktan sorumludur.
CDAO hakkında daha fazla bilgi için lütfen web sitemizi ziyaret edin: ai.mil. Ayrıca CDAO ile LinkedIn (@DoD Dijital ve Yapay Zeka Ofisi Şefi) ve resmi olarak Twitter (@dodcdao olarak bilinen X) üzerinden de bağlantı kurabilirsiniz. Ek güncellemeler ve haberler DVIDS’teki CDAO Birim Sayfasında bulunabilir.