Bilim, İnovasyon ve Teknoloji Dışişleri Bakanı Peter Kyle, Münih Güvenlik Konferansı’nı İngiltere’nin AI Güvenlik Enstitüsü’ne yeniden isimlendiren bir platform olarak kullanacak.
Bilim, İnovasyon ve Teknoloji Bölümü’nden yapılan açıklamaya göre, yeni isim “ [the AI Security Institute’s] Teknolojinin kimyasal ve biyolojik silahları geliştirmek için nasıl kullanılabileceği, siber saldırıları gerçekleştirmek ve sahtekarlık ve çocuk cinsel istismarı gibi suçları mümkün kılmak için nasıl kullanılabileceği gibi güvenlik sonuçlarıyla ciddi AI risklerine odaklanın ”.
AI Güvenlik Enstitüsü, hükümetin önyargıya veya konuşma özgürlüğüne odaklanacağını, ancak AI teknolojisinin ortaya koyduğu en ciddi risklerin anlaşılmasına odaklanacağını söyledi. Departman, İngiltere’nin ulusal güvenliğini korumanın ve vatandaşları suçtan korumanın İngiltere’nin yapay zekanın sorumlu kalkınmasına yaklaşımının kuruluş ilkeleri haline geleceğini söyledi.
Kyle, İngiltere ve ABD’nin kapsayıcı ve sürdürülebilir yapay zeka (AI) hakkında bir anlaşma imzalamayı reddettiği Paris’teki AI Eylem Zirvesi’nin sona ermesinden sadece günler sonra Münih’te canlandırılmış bir AI Güvenlik Enstitüsü vizyonunu belirleyecek. Ayrıca, açıklamaya göre, İngiltere ile AI şirketi Antropic arasında “yeni bir anlaşma yaptıracak” ifadesine de olacak.
Açıklamaya göre: “Bu ortaklık, İngiltere’nin yeni egemen AI biriminin çalışmasıdır ve her iki tarafın da AI sistemlerinin sorumlu geliştirilmesi ve konuşlandırılmasına odaklanarak teknolojinin fırsatlarını gerçekleştirmek için birlikte çalıştığını görecektir.”
İngiltere, hükümetin ev inşaat odaklı değişim planının temel direği olarak “önde gelen yapay zeka şirketleri” ile daha fazla anlaşma yapacak.
Kyle şunları söyledi: “Bugün duyurduğum değişiklikler, sorumlu AI gelişimine nasıl yaklaştığımızdaki mantıksal bir sonraki adımı temsil ediyor – AI’yı açığa çıkarmamıza ve değişim planımızın bir parçası olarak ekonomiyi büyütmemize yardımcı oluyor.
“AI Güvenlik Enstitüsü’nün çalışması değişmeyecek, ancak bu yenilenen odak noktası vatandaşlarımızın – ve müttefiklerimizin – kurumlarımıza, demokratik değerlerimize ve yaşam tarzımıza karşı kullanmaya çalışanlardan korunmasını sağlayacak.
“Herhangi bir hükümetin temel işi vatandaşlarının güvenli ve korunmasını sağlamaktır ve AI Güvenlik Enstitüsü’nün katlayabileceği uzmanlığın, İngiltere’nin tehdidiyle başa çıkmak için her zamankinden daha güçlü bir konumda olmasını sağlayacaktan eminim. Bu teknolojiyi bize karşı kullanmak isteyenler. ”
AI Güvenlik Enstitüsü, Departman’ın “Frontier AI” olarak adlandırdığı riskleri değerlendirmek için Savunma Bakanlığı Bilim ve Teknoloji Örgütü Savunma Bilim ve Teknoloji Laboratuvarı ile çalışacak. Ayrıca AI Güvenlik Araştırmaları Laboratuvarı (LASR) ve Ulusal Siber Güvenlik Merkezi’nin uzmanlığına dayanmak da dahil olmak üzere Ulusal Güvenlik Topluluğu ile birlikte çalışacaktır.
AI Güvenlik Enstitüsü, bir dizi suç ve güvenlik sorunu hakkında araştırma yapmak için İçişleri Bakanlığı ile birlikte çalışacak yeni bir cezai kötüye kullanım ekibi başlatacak. Böyle bir odak alanı, çocuk cinsel istismarı görüntüleri yapmak için AI kullanımıyla mücadele etmek olacak, bu yeni ekip, istismar edenlerin suç işlemek için AI’dan yararlanmasını önlemek için yöntemleri araştırıyor. Bu, daha önce açıklanan çalışmaları destekleyecek, çocukların cinsel istismar görüntülerini yapmak için optimize edilmiş AI araçlarına sahip olmayı yasadışı hale getiriyor.
AI Güvenlik Enstitüsü Başkanı Ian Hogarth, “Enstitünün başından beri odak noktası güvenlik üzerineydi ve halka ciddi riskleri değerlendirmeye odaklanan bir bilim insanı ekibi oluşturduk. Yeni Ceza Kötüye Kullanım Ekibimiz ve Ulusal Güvenlik Topluluğu ile Ortaklığı Derinleştirmek Bu risklerle başa çıkmanın bir sonraki aşamasını işaret ediyor. ”
Antropic’in CEO’su ve kurucu ortağı Dario Amodei şunları ekledi: “AI, hükümetlerin vatandaşlarına nasıl hizmet ettiğini dönüştürme potansiyeline sahiptir. Antropik’in AI asistanı Claude, İngiltere hükümet kurumlarının, hayati bilgi ve hizmetleri İngiltere sakinleri için daha verimli ve erişilebilir hale getirmenin yeni yollarını keşfetmek amacıyla kamu hizmetlerini geliştirmesine nasıl yardımcı olabileceğini keşfetmeyi dört gözle bekliyoruz.
“Güvenli konuşlandırmayı sağlamak için AI yeteneklerini araştırmak ve değerlendirmek için İngiltere AI Güvenlik Enstitüsü ile yakın çalışmaya devam edeceğiz.”