Birleşik Krallık Ulusal Siber Güvenlik Merkezi, yapay zeka (AI) teknolojisinin güvenli ve emniyetli bir şekilde geliştirilmesini, teknoloji sektörü ortaklarıyla birlikte yazılmasını ve ABD Siber Güvenlik ve Altyapı Güvenlik Ajansı’nın önemli desteğiyle geliştirilmesini sağlamaya yardımcı olmak için tasarlanmış bir dizi kılavuz yayınladı ( CISA).
Güvenli yapay zeka sistemi geliştirme yönergeleri Dünyada türünün ilk örneği olduğu söylenen bu sistemlerin, Birleşik Krallık ve ABD’nin yanı sıra diğer G7 ülkeleri, uluslararası kuruluşlar ve Küresel Güney’den gelen sesler de dahil olmak üzere birçok ülkeden hükümet organlarından gelen girdilerle geliştirildi.
NCSC CEO’su Lindy Cameron, “Yapay zekanın olağanüstü bir hızla geliştiğini ve buna ayak uydurmak için hükümetler ve endüstri genelinde ortak uluslararası eyleme ihtiyaç olduğunu biliyoruz” dedi.
“Bu yönergeler, güvenliğin geliştirme için bir dipnot değil, baştan sona temel bir gereklilik olmasını sağlamak için yapay zeka etrafındaki siber riskler ve azaltma stratejilerine ilişkin gerçek anlamda küresel, ortak bir anlayışın şekillendirilmesinde önemli bir adıma işaret ediyor.
“NCSC’nin AI siber güvenlik çıtasını yükseltmeye yönelik önemli çabalara öncülük etmesinden gurur duyuyorum: daha güvenli bir küresel siber alan, bu teknolojinin harika fırsatlarını güvenli ve emin bir şekilde gerçekleştirmemize yardımcı olacaktır” dedi.
Cameron’un Amerikalı mevkidaşı CISA direktörü Jen Easterly şunları ekledi: Güvenli yapay zeka sistemi geliştirme yönergeleri tasarım gereği güvenli yapay zeka yeteneklerinin geliştirilmesini ve yaygınlaştırılmasını sağlamak için dünya çapındaki hükümetlerin ortak taahhüdünde önemli bir kilometre taşını temsil ediyor.
“Uluslar ve kuruluşlar yapay zekanın dönüştürücü gücünü benimserken, Birleşik Krallık NCSC ve CISA tarafından ortaklaşa geliştirilen bu uluslararası işbirliği, şeffaflığı, hesap verebilirliği ve güvenli uygulamaları teşvik etmeye yönelik küresel kararlılığın altını çiziyor.
“Tasarım yoluyla güvenlik ilkelerini ilerletme ve yapay zeka sistemlerinin dünya çapında güvenli bir şekilde geliştirilmesi için dayanıklı bir temel oluşturma konusundaki yerel ve uluslararası birlik, ortak teknoloji evrimimizde bundan daha önemli bir zamanda gelemezdi. Bu ortak çaba, kritik altyapıyı koruma misyonumuzu yeniden teyit ediyor ve dijital geleceğimizi güvence altına almada sınır ötesi işbirliğinin önemini güçlendiriyor.”
Kılavuzlar dizisi, yapay zeka içeren herhangi bir sistemin geliştiricilerinin, geliştirme süreci sırasında siber güvenlik hakkında bilinçli kararlar almasına yardımcı olmak için tasarlandı (ister sıfırdan oluşturulmuş olsun, ister başka bir şirket tarafından sağlanan mevcut bir araca veya hizmete eklenti olarak olsun) varlık.
NCSC, güvenliğin “Yapay Zeka sistem güvenliğinin temel bir ön koşulu” olduğuna ve başından itibaren geliştirme sürecinin ayrılmaz bir parçası olduğuna inanıyor.
CISA’nın Easterly’sinde değinilen tasarım gereği güvenlik ilkelerinin yazılım geliştirmeye giderek daha fazla uygulanmasına benzer şekilde, aynı kılavuzun yapay zeka dünyasına uygulanmasına yönelik bilişsel sıçramayı gerçekleştirmek çok zor olmamalıdır.
NCSC web sitesi üzerinden tam olarak erişilebilen yönergeler, Güvenli Tasarım, Güvenli Geliştirme, Güvenli Dağıtım ve Güvenli Çalıştırma ve Bakım olmak üzere dört ana yola ayrılıyor ve güvenliğin iyileştirilmesine yardımcı olacak önerilen davranışları içeriyor. Bunlar arasında müşteriler ve kullanıcılar için güvenlik sonuçlarının sahiplenilmesi, “radikal şeffaflığın” benimsenmesi ve tasarım gereği güvenli uygulamaların kurumsal yapılara ve liderlik hiyerarşilerine yerleştirilmesi yer alıyor.
Belge halihazırda Amazon, Google, Microsoft ve OpenAI teknoloji devleri ve Beş Göz istihbarat ittifakı ve G7’nin yanı sıra diğer 17 ülkeden temsilciler de dahil olmak üzere alandaki bir dizi önemli kuruluş tarafından onaylanmış ve ortak mühürlenmiştir. Şili, Çekya, Estonya, İsrail, Nijerya, Norveç, Polonya, Singapur ve Güney Kore.
Birleşik Krallık hükümeti için belgenin oluşturulması, açıkça siber güvenlik odaklı bir etkinlik olmasa da yine de toplumun yapay zeka risklerini nasıl yönetmesi gerektiği konusunda gerekli konuşmayı başlatmayı amaçlayan Kasım ayı başında Yapay Zeka Güvenlik Zirvesi’nde yapılan tartışmalara dayanıyor. .
Amerikalılar için bu, yakın zamanda yayınlanan, başkan Joe Biden tarafından imzalanan ve bir gün ABD’de eyalet veya federal düzeydeki mevzuatı destekleyebilecek bir standartlar temeli oluşturmayı amaçlayan Ekim ayındaki Başkanlık Kararnamesini destekleyen yapay zeka hakkında yakın zamanda yayınlanan bir CISA yol haritasının devamı niteliğindedir. kaçınılmaz küresel etkiye sahip.
CISA’nın yol haritası takip edilmesi gereken beş “çaba hattını” ortaya koymaktadır. Bunlar:
- CISA’nın temel siber misyonunu desteklemek için yapay zekayı sorumlu bir şekilde kullanmak;
- Özel ve kamu sektörlerinde tasarımı itibarıyla güvenli yapay zeka teknolojisini değerlendirmek ve güvence altına almak;
- Kritik ulusal altyapıyı (CNI) kötü niyetli yapay zekalardan korumak için;
- ABD’de ve dünyanın geri kalanında yapay zeka çabaları konusunda işbirliği yapmak ve iletişim kurmak;
- Yapay zeka uzmanlığını ve becerilerini genişletmek.
Endüstri tepki gösteriyor
“Yapay zekanın bu ilk günleri cam üflemeye benzetilebilir: Cam akışkan iken herhangi bir şekle sokulabilir, ancak soğuduktan sonra şekli sabitlenir. WithSecure siber güvenlik danışmanı Paul Brucciani, düzenleyicilerin yapay zeka düzenlemelerini şekillenirken etkilemeye çabaladığını söyledi.
“Kılavuzların hazırlanması mevzuat gerektirmediği için hızlıdır, ancak yine de NCSC ve CISA bu imzacı listesini bir araya toplamak için etkileyici bir hızla çalıştı. Dünyanın önde gelen yapay zeka geliştiricileri Amazon, Google, Microsoft ve OpenAI imzacıdır. Listede yer almayanlardan biri de AB’dir.”
Darktrace’in küresel tehdit analizi başkanı Toby Lewis şunları söyledi: “Güvenlik, güvenli ve güvenilir yapay zeka için bir ön koşuldur ve NCSC ve CISA dahil kurumların bugünkü yönergeleri bunun için hoş bir plan sağlıyor. Yönergelerin, yapay zeka sağlayıcılarının verilerini ve modellerini saldırganlardan korumaları ve yapay zeka kullanıcılarının doğru görev için doğru yapay zekayı uygulamalarının gerekliliğini vurguladığını görmekten memnuniyet duyuyorum.
“Yapay zeka geliştirenler daha da ileri gitmeli ve kullanıcıları yapay zekalarının yanıtlara nasıl ulaşacağı yolculuğuna çıkararak güven inşa etmeli. Güvenlik ve güvenle anlayacağız Darktrace’e atanmasından önce dört yıl boyunca NCSC’de olay yönetiminden sorumlu teknik direktör yardımcısı olarak görev yapan Lewis, yapay zekanın faydalarından daha hızlı ve daha fazla insan için yararlanılacağını ekledi.