Birleşik Krallık hükümetinin Sınır Yapay Zeka Görev Gücü, gelişmiş yapay zeka geliştirmeyle ilişkili riskleri araştırıp değerlendirebilecek bir yapay zeka güvenlik araştırma ekibi kuruyor.
7’deki ilk ilerleme raporunda belirtildiği gibio Bu yılın eylül ayında, görev gücü RAND, ARC Evals ve Trail of Bits dahil olmak üzere çeşitli önde gelen teknoloji kuruluşlarıyla çalışıyor. O zamandan bu yana, çalışma grubu önde gelen üç teknik kuruluşla da ortaklık kurdu: Advai, Gryphon Scientific ve Fakülte AI.
Bu yeni sözleşmeler, yapay zekanın uzmanlık alanlarındaki insan yeteneklerini ve mevcut güvenlik önlemleri etrafındaki riskleri nasıl geliştirebileceğine ilişkin önemli soruları ele alacak ve bulgularını, bir sonraki Yapay Zeka Güvenliği Zirvesi’nde sivil toplum grupları, hükümet temsilcileri, önde gelen yapay zeka şirketleri ve araştırma uzmanlarıyla yapılacak yuvarlak masa tartışmalarına dahil edecek. ay.
ITG CEO Vekili John Kirk: “Uzmanların yapay zekayla ilgili uyarılar ve korkularla mücadele etmek için işbirliği yaptığını görmek, yapay zekanın yaygın biçimde benimsenmesine yönelik güveni artırmanın anahtarıdır. Yapay zeka, tüm alanlarda ticari operasyonları hızlandırma potansiyeline sahip ve Birleşik Krallık’ın böyle bir ekip kurması, ekibin teknolojinin süper gücü statüsünde daha iyi konumlandırılmasına yardımcı oluyor.
Tüm sektörler bu güvenli gelişimden yararlanacak ve yaratıcı endüstriler, bu tür yenilikçi teknolojilerle el ele çalışarak kampanyaları küresel ölçekte güvenle geliştirebilecek.”
Bugünkü duyuru, Frontier AI Taskforce’un uzman danışma paneli kurulduğunu, iki araştırma yöneticisinin atandığını ve kuruluşlarla çeşitli ortaklıklar yaptığını duyurduğu geçen ayki önceki ilerleme raporunun ardından geldi.
Advai
Birleşik Krallık’taki bir şirket, Basit, Güvenli, Güvenli Yapay Zekanın benimsenmesini sağlamaya odaklandı. Teknolojileri ve araştırmaları, bu sistemleri iyileştirmek ve savunmak için yapay zekadaki güvenlik açıklarını ve sınırlamaları belirlemeye odaklanıyor.
Fakülte
Yazılım, danışmanlık ve hizmetler sağlayan uygulamalı bir yapay zeka şirketi olan Fakülte, yaklaşık on yıldır Birleşik Krallık hükümetiyle birlikte çalışıyor; diğer kamu sektörü çalışmaları arasında, COVID-19 erken uyarı sistemini oluşturmak için NHS ve Home ile ortaklık da bulunuyor. Ofis, IŞİD’in çevrimiçi propagandasını tespit edecek.
Frontier AI Görev Gücü, LLM’lerin acemi bir kötü aktörün yeteneğini ne dereceye kadar artırabileceğini ve gelecekteki sistemlerin bu riski nasıl artırabileceğini belirlemek için Fakülte AI ile birlikte çalışıyor.
Gryphon Bilimsel
Kamu sağlığı, biyosavunma ve ülke güvenliği alanlarında teknik uzmanlığa sahip bir fizik ve yaşam bilimleri araştırma ve danışmanlık şirketi olan Gryphon Scientific, ABD dahil hükümetler ve Orta Doğu ve Kuzey Afrika’daki ülkelerle birlikte bilimsel ilerlemenin ön saflarında çalışma deneyimine sahiptir. .
Gryphon Scientific, yaşam bilimlerinde hızlı ilerlemeyi sağlayacak bir araç olarak Yüksek Lisans’ın potansiyelini belirlemek için Frontier AI Görev Gücü ile birlikte çalışıyor.