İngiltere’nin AI Güvenlik Enstitüsü, yapay zeka (AI) sistemlerinin öngörülebilir bir şekilde davranmasını sağlamak için küresel bir girişimde çeşitli küresel kurumlarla işbirliği yapmaktadır.
15 milyon sterlin hükümet finansmanı ile desteklenen hizalama projesi, Kanada AI Güvenlik Enstitüsü, Schmidt Bilimleri, Amazon Web Hizmetleri (AWS), Antropik, Halcyon Vadeli İşlemleri, Güvenli AI Fonu, İngiltere Araştırma ve İnovasyonu ve İleri Araştırma ve Buluş Ajansı (ARIA) dahil olmak üzere uluslararası bir koalisyonu bir araya getiriyor.
Bu, hükümet, sanayi, akademisi ve hayırseverlik arasında, hizalamanın toplumun karşılaştığı en acil teknik zorluklardan biri olduğunu ve alanı genişletmenin ortak bir uluslararası sorumluluk olduğunu yansıtmaktadır.
Ocak ayında hükümet, Uluslararası AI Güvenlik Raporu 10-11 Şubat 202’de Paris’te gerçekleşen AI Eylem Zirvesi öncesinde. Raporda, AI uzmanlarının AI’nın büyük toplumsal risklerinin ne zaman ortaya çıkacağı konusunda kararsız olduklarını belirtiyor. Bazıları, raporun yazarlarına göre, onlarca yıl uzakta olduklarını tahmin ederken, diğerleri genel amaçlı AI’nın önümüzdeki birkaç yıl içinde toplumsal ölçekli zarar verebileceğini düşünüyor.
“Genel amaçlı AI yeteneklerindeki son gelişmeler-özellikle bilimsel akıl yürütme ve programlama testlerinde-AI-özellikli hack ve biyolojik atak gibi potansiyel riskler için yeni kanıtlar üretmiştir ve bu da büyük bir AI şirketinin biyolojik risk değerlendirmesini ‘düşük’ ila ‘ortamdan’ artırmasına yol açmıştır.
AI hizalaması, AI sistemlerinin insanlığın yararına davranmasını sağlamaya odaklanmıştır. Bilim, inovasyon ve teknoloji için devlet sekreteri Peter Kyle, bunun AI Güvenlik Enstitüsü’nün ilk günden beri liderlik ettiğini, bu da İngiltere’nin ulusal güvenliğini korumayı ve İngiliz halkının teknoloji gittikçe ilerlemesi nedeniyle AI’nın ortaya çıkabileceği en ciddi risklerden korunmasını içeren olduğunu söyledi.
Yapay zeka ilerlemesinin hızı göz önüne alındığında, Bilim, İnovasyon ve Teknoloji Dairesi (DSIT), bugünün AI kontrolü için yöntemlerin, teknoloji gelişmeye devam ettikçe yarının daha yetenekli sistemler için yetersiz olabileceğini, bunun neden vatandaşların uzun vadeli güvenliğini sağlamak için koordineli küresel eyleme ihtiyaç olduğunu belirtiyor.
Kyle şunları söyledi: “Gelişmiş AI sistemleri zaten bazı alanlarda insan performansını aşıyor, bu yüzden bu dönüştürücü teknolojinin çıkarlarımızda davrandığından emin olmak için ileri araştırmalara yol açıyoruz.”
Finansman, bilgisayar bilimlerinden bilişsel bilime kadar disiplinler arasında araştırmacılar için 1 milyon £ ‘a kadar bir hibe içermektedir. Ayrıca AWS’den özel hesaplama kaynakları ve ticari hizalamayı hızlandırmak için özel fon sağlayıcılardan yatırıma erişim sağlar.
AI Güvenlik Enstitüsü baş bilim adamı Geoffrey Irving şunları söyledi: “AI hizalaması, zamanımızın en acil ve yetersiz kaynaklı zorluklarından biridir. İlerleme esastır, ancak AI gelişiminin hızlı temposuna göre yeterince hızlı gerçekleşmez.
“Yanlış hizalanmış, son derece yetenekli sistemler, derin küresel etkilerle kontrol etme yeteneğimizin ötesinde hareket edebilir. Finansman sağlayarak, sorunlara daha fazla fikir getirmek için kaynakları ve disiplinlerarası işbirliğini hesaplayarak, dönüştürücü AI sistemlerinin insanlığa güvenilir, güvenli ve güvenebileceğimiz şekillerde hizmet etme şansını artırmayı umuyoruz.”