Dijital sekreter Michelle Donelan, Birleşik Krallık hükümetinin AI Seul Zirvesi’nin ikinci gününde yapay zeka (AI) güvenlik araştırmaları için 8,5 milyon £’a kadar hibe sağlayacağını duyurdu.
Genel araştırma programı, Kasım 2023’te Bletchley Park’ta düzenlenen Yapay Zeka Güvenliği Zirvesi öncesinde kurulan Birleşik Krallık Yapay Zeka Güvenliği Enstitüsü (AISI) tarafından yönetilecek olsa da, hibeler, bu yapay zekanın nasıl geliştirileceğini araştıran araştırmacılara verilecek. toplumu, derin sahtekarlıklar ve siber saldırılar gibi yapay zekayla ilişkili risklerden en iyi şekilde korur.
Hükümet, örneğin üretkenliği artırmak için yapay zekanın faydalarından yararlanmanın yollarını araştıranlara da araştırma hibeleri verileceğini belirterek, en umut verici tekliflerin uzun vadeli projelere dönüştürüleceğini ve ileride daha fazla fon alabileceğini ekledi.
Birleşik Krallık Araştırma ve İnovasyon (UKRI) ve Alan Turing Enstitüsü ile ortaklaşa yürütülen AISI programı, aynı zamanda dünya çapındaki diğer Yapay Zeka güvenlik enstitüleriyle de işbirliği yapmayı amaçlayacak. Yapay Zeka Güvenliği Biliminde Uluslararası İşbirliğine Yönelik Seul Niyet Beyanı Güney Kore zirvesinin ilk gününde 10 ülke ve Avrupa Birliği (AB) tarafından imzalanan anlaşma.
Hükümet, hibe programının aynı zamanda AISI’nin kapsamını, yapay zekanın toplumsal düzeyde etkilerini anlamayı ve azaltmanın yanı sıra çeşitli kurumların nasıl çalıştığını anlamayı amaçlayan “sistemik yapay zeka güvenliği” alanını da içerecek şekilde genişletmek üzere tasarlandığını ekledi. Sistemler ve altyapı teknolojiye uyum sağlayabilmektedir.
Hibe başvuru sahiplerinin Birleşik Krallık’ta yerleşik olmaları gerekecek ancak hükümet, dünyanın dört bir yanından diğer araştırmacılarla işbirliği yapmaya aktif olarak teşvik edileceklerini söyledi.
Donelan, “Birleşik Krallık geçen yıl dünyanın ilk Yapay Zeka Güvenliği Enstitüsünü kurduğunda, yapay zeka güvenliği amacını ilerleterek yapay zekanın olumlu faydalarından yararlanmaya yönelik iddialı ama acil bir misyonu gerçekleştirmeye karar verdik” dedi.
“Yapay zeka modelleri için değerlendirme sistemleri artık mevcut olduğundan, yapay zeka fırsatlarından güvenli bir şekilde yararlanmaya yönelik planımın 2. Aşaması, yapay zekayı tüm toplum için güvenli hale getirmekle ilgili olmalıdır.
“Bu, enstitümüzün akademi ve endüstri ile ortaklık kurmasına olanak tanıyacak ve yapay zekanın iyilik için dönüştürücü bir güç olmaya devam etmesini sağlamamıza yardımcı olabilecek yeni yaklaşımlar geliştirmede proaktif olmaya devam etmemizi sağlayacak olan bu fonla tam olarak mümkün kıldığımız şey. ”
FOTOĞRAF: DAVID WOOLFALL“Bu fon, Yapay Zeka Güvenliği Enstitümüzün akademi ve endüstri ile ortaklık kurmasına olanak tanıyarak, yapay zekanın iyilik için dönüştürücü bir güç olmaya devam etmesini sağlamamıza yardımcı olabilecek yeni yaklaşımlar geliştirmede proaktif olmaya devam etmemizi sağlayacak”
Bilim, Yenilik ve Teknolojiden Sorumlu Devlet Bakanı Michelle Donelan
AISI’nin araştırma direktörü Christopher Summerfield, yeni programı yapay zekanın toplum genelinde güvenli bir şekilde yayılmasını sağlamak için “büyük bir adım” olarak nitelendirdi. “Altyapımızı ve sistemlerimizi, yapay zekanın yaptığımız her şeye dahil olduğu yeni bir dünyaya nasıl uyarlayacağımız konusunda dikkatli düşünmemiz gerekiyor” dedi. “Bu program, bu sorunun nasıl çözüleceğine dair çok sayıda fikir üretmek ve harika fikirlerin uygulamaya konulabilmesini sağlamak için tasarlandı.”
Seul Zirvesi’nin ilk gününde hükümet, kamu yararına katkıda bulunan yapay zeka atılımlarını finanse etmek amacıyla Mart 2023’te kurulan ilk Manchester Ödülü’nün 10 kazananını açıkladı. Finalistlerin her biri 1 milyon sterlinlik para ödülünden pay alacak ve yapay zekayı kullanarak enerji, altyapı ve çevre sorunlarını çözmeye çalışacak.
Kazananlar ayrıca bilgi işlem kaynaklarına yönelik finansman, yatırımcılara hazırlık desteği ve uzman ağına erişim de dahil olmak üzere kapsamlı destek paketlerinden de yararlanacak.
Finansman duyurusundan bir hafta önce, AISI ilk kez bir dizi yapay zeka güvenlik testi sonucunu kamuya açıkladı; bu sonuçlar, test edilen beş isimsiz modelden hiçbirinin, insanlar onları denetlemeden daha karmaşık, zaman alıcı görevleri yerine getiremediğini ortaya çıkardı. hepsinin güvenlik önlemlerinin temel “jailbreak”lerine karşı oldukça savunmasız kaldığı görülüyor. Ayrıca bazı modellerin, bu güvenlik önlemlerini aşmaya yönelik özel girişimler olmasa bile zararlı çıktılar üretebileceğini de tespit etti.
AISI ayrıca önde gelen AI şirketlerine ve Bay Area teknoloji yeteneklerine erişim sağlamak için yaz boyunca San Francisco’da yeni bir şube açma planlarını da duyurdu.
Seul’de konuşan Donelan şunları ekledi: “Bu önemli mücadeleyi ancak geniş ve çeşitli bir yetenek ve disiplin havuzundan yararlanarak ve mevcut bilgi ve metodolojilerin sınırlarını zorlayan yeni yaklaşımlarla ilerleyerek başarabileceğimizin kesinlikle farkındayım.”
Yapay Zeka Seul Zirvesi’nin ilk gününde dünyanın dört bir yanından 16 yapay zeka şirketi şunları imzaladı: Sınır Yapay Zeka Güvenliği Taahhütleriteknolojiyi güvenli ve sorumlu bir şekilde geliştirmelerini sağlamak için bir dizi gönüllü taahhüt.
Verilen temel gönüllü taahhütlerden biri, risklerin yeterince azaltılamaması durumunda şirketlerin yapay zeka sistemlerini geliştirmeyecekleri veya dağıtmayacaklarıdır; ancak azaltılamaz bir risk teşkil eden şeyin etrafında kırmızı çizgiler henüz belirlenmemiştir.
AB ve sözleşmeyi imzalayan aynı 10 ülke Seul Niyet Beyanı Yapay zeka güvenliğine ilişkin araştırma işbirliği etrafında da anlaşma imzalandı Seul DeklarasyonuBu alanda “aktif çok paydaşlı işbirliğinin önemini” açıkça teyit eden ve hükümetin ilgili taraflarını yapay zeka ile ilgili tartışmalara geniş bir yelpazedeki paydaşları “aktif olarak” dahil etme taahhüdünde bulunan.
İmzacılar arasında Avustralya, Kanada, AB, Fransa, Almanya, İtalya, Japonya, Kore Cumhuriyeti, Singapur Cumhuriyeti, İngiltere ve ABD yer aldı.