DARPA, Yapay Zeka Kararlarını İnsani Değerlere Uyarlamak için RTX’ten Yararlanıyor


CAMBRIDGE, Mass., 10 Ağustos 2023 /PRNewswire/ — RTX’ler (NYSE: RTX) BBN bölümü, DARPA’nın “In The Moment” programını desteklemek için bir sözleşme ödülü aldı. ITM, genellikle hiçbir insan mutabakatının ve net bir doğru cevabın olmadığı dinamik durumlarda karmaşık ve hızlı kararların gerekli olduğu toplu kaza triyaj ve afet yardımı gibi senaryolarda bağımsız olarak karar vermek için güvenilen algoritmalar için gerekli temelleri geliştirmeyi amaçlar.

“ITM, yapay zekanın çok kontrollü senaryolarda doğru yanıtı vermesini sağlamaktan daha fazlasıdır. Bir X-Ray’de kanserli bir tümörü tanımlamaya yardımcı olmak için yapay zekayı etiketli veriler üzerinde eğitmekten bahsetmiyoruz” dedi. Alice Leung, Raytheon BBN baş araştırmacısı. “Bunun yerine başarmaya çalıştığımız şey, insanların kontrolsüz ortamlarda bağımsız olarak karar vermesine izin verecek yapay zeka sistemleri oluşturma yeteneği. Bunu başarmak için insan uzmanların nasıl gerçekten zor kararlar verdiğini belirlemeli ve kararlara güvenip güvenmemeyi değerlendirmeliyiz. Hem karar verme araştırması hem de güven araştırması yürüteceğiz.”

Kairos Research, MacroCognition ve Valkyries Austere Medical Solutions’ın yer aldığı Raytheon BBN liderliğindeki ekip, uzmanların (bu durumda tıp uzmanları ve ilk müdahale ekipleri) bilgileri nasıl değerlendirdiğini ve zorlu ödünleşimler yaptığını anlamak için bilişsel bir görüşme tekniği kullanacak. kritik karar noktalarında kararlı davranın. Bu niteliksel bilgi, bir bireyin karar verme niteliklerindeki farklılıkların seçimlerini nasıl açıklayabileceğini ve iki farklı insan arasındaki özelliklerin hizalanmasının kararları bir başkasına devretme istekliliğini nasıl etkilediğini incelemek için senaryoya dayalı deneyler tasarlamak için kullanılacaktır. Bu, yapay zekanın uzman bir popülasyonla eşleşecek şekilde ayarlanmasını veya hatta tek bir uzmanla eşleşecek şekilde ayarlanmasını sağlayacaktır.

Leung, “Karar verme şeklimiz kişiden kişiye değiştiğinden, güvenilir bir yapay zeka modelinin var olması pek mümkün değil.” “Bunun yerine, teorik olarak, kullanıcıya ve alana uyum sağlayan yapay zeka sistemleri oluşturabilmeliyiz. Belirsizlik ve rakip hedefler arasındaki ödünleşimler nedeniyle kararlar zordur. Bir yapay zekanın risk toleransı gibi niteliklerini ayarlayabilmek istiyoruz. , süreç odağı veya bir kullanıcıyı veya bir grup kullanıcıyı daha iyi eşleştirmek için planları değiştirme isteği.”

DARPA, bu program üzerinde işbirliği yapmak için birden fazla ekibi bir araya getiriyor. Diğer ekipler, temel bilgilerle başlayan ve daha sonra bir dizi hedef özniteliği eşleştirmek için ayarlanabilecek prototip yapay zeka karar vericilerinin geliştirilmesine odaklanacak. Bu programdan elde edilen araştırma ürünleri, algoritmik etmenlerin zor senaryolarla karşı karşıya kaldıklarında hedef insan nitelikleriyle tutarlı kararlar vermeyi ne kadar iyi başardıklarını belirlemek için entegre edilecek ve değerlendirilecektir. Program ayrıca, insan uzmanların bu hizalanmış aracılara temel aracılara veya diğer gerçek insanlara göre güvenip güvenmediğini de test edecek. Bu program güven değerlendirmelerinde, karar vericinin yapay zeka mı yoksa insan mı olduğu bilinmeden, insan uzmanlara zor senaryolardaki kararların kaydı gösterilecek.

DARPA ve Hava Kuvvetleri Araştırma Laboratuvarı’nın sponsorluğunda gerçekleştirilen bu sözleşme ile ilgili çalışmalar Türkiye’de yapılıyor. Cambridge, Massachusetts; Dayton, Ohio; Ve Aniston, Alabama.

Raytheon BBN Hakkında

1948’de kurulan Raytheon BBN, ulusal güvenlik önceliklerine odaklanarak ileri teknoloji araştırma ve geliştirme sağlar. ARPANET’ten ilk e-postaya kadar Raytheon BBN, müşterileri için yenilikçi çözümler üretmek için sürekli olarak gelişmiş araştırmalara geçiş yapar. Raytheon BBN, analitik ve makine zekası, ağlar ve sensörler, akıllı yazılım ve sistemler ve fizik bilimlerinde çözümler oluşturmak için riskler alıyor ve geleneklere meydan okuyor.

RTX Hakkında

RTX, dünyanın en büyük havacılık ve savunma şirketidir. Dünya çapında 180.000’den fazla çalışanımızla, dünyamızı nasıl bağlayacağımızı ve koruyacağımızı yeniden tanımlamak için teknolojinin ve bilimin sınırlarını zorluyoruz. Collins Aerospace, Pratt & Whitney ve Raytheon gibi sektör lideri şirketler aracılığıyla havacılığı geliştiriyor, operasyonel başarı için entegre savunma sistemleri tasarlıyor ve küresel müşterilerin en kritik sorunlarının üstesinden gelmelerine yardımcı olmak için yeni nesil teknoloji çözümleri ve üretim geliştiriyoruz. 2022 satışları 67 milyar dolar olan şirketin merkezi Arlington, Virjinya.



Source link