Yönetim kurulunda ayrıca OpenAI CEO’su Sam Altman ve Alphabet CEO’su Sundar Pichai de yer alıyor. Bazı uzmanlar, her iki şirketin de özel yapay zeka modelleri geliştirmeye yoğun bir şekilde ilgi duyması nedeniyle bunun bir çıkar çatışması teşkil ettiğini savunuyor.
İç Güvenlik Bakanlığı (DHS), 26 Nisan 2024 Cuma günü Yapay Zeka Güvenlik ve Güvenlik Kurulu’nun (Kurul) kurulduğunu duyurdu. Bu hamle, güvenlik açıkları ve yapay zekanın (AI) potansiyel riskleri hakkında artan endişelerin ortasında geldi. Özellikle ülkenin kritik altyapı sektörlerindeki sistemler.
Kurul, iç güvenlik bakanına, kritik altyapı paydaşlarına ve halka yapay zeka teknolojilerinin sorumlu bir şekilde geliştirilmesi ve uygulanması konusunda tavsiyelerde bulunarak danışmanlık kapasitesinde hizmet verecek.
İç Güvenlik Bakanlığı’nın bugünkü duyurusuna göre odak noktası, bu teknolojilerin enerji, ulaşım, finans ve iletişim ağları gibi sektörlerde güvenli ve etkili bir şekilde uygulanmasını sağlamak olacak.
Bu girişim, Başkan Biden’ın Ekim 2023’te imzalanan Yapay Zeka ve Gelişmiş Bilgi İşleme ilişkin Yönetici Kararnamesi ile uyumludur. Karar, sorumlu yapay zeka gelişimini teşvik etmek ve kritik altyapılarda güvenlik ve emniyetle ilgili olanlar da dahil olmak üzere potansiyel riskleri azaltmak için ulusal bir strateji çağrısında bulundu.
Kurul, yapay zeka donanım ve yazılım şirketlerinden, önde gelen araştırma laboratuvarlarından, kritik altyapı kuruluşlarından ve ABD hükümetinden önde gelen endüstri uzmanlarını bir araya getirecek.” DHS bir basın açıklamasında belirtti.
Kurul üyelerinin arasında OpenAI CEO’su Sam Altman ve Alphabet CEO’su Sundar Pichai gibi teknoloji liderlerinin yanı sıra yapay zeka, sivil haklar uzmanları ve kritik altyapı şirketlerinin temsilcilerinin yer aldığı bildiriliyor.
Bu duyuru, DHS’nin Mart 2024’te yayınlanan ilk “Yapay Zeka Yol Haritası”nın ardından geliyor. Yol haritası, bakanlığın bireysel mahremiyeti, sivil hakları ve özgürlükleri korurken yurt içi güvenlik misyonları için yapay zekadan sorumlu bir şekilde yararlanma planlarını ana hatlarıyla belirtiyor. Aynı zamanda işbirlikçi ortaklıklar yoluyla yapay zekada ulusal liderliği de vurguluyor.
AppOmni’nin baş yapay zeka mühendisi ve güvenlik araştırmacısı Joseph Thacker şunları söyledi: “DHS tarafından Yapay Zeka Güvenlik ve Güvenlik Kurulu’nun kurulması, yapay zeka teknolojisinin kritik altyapıda geliştirilmesi ve konuşlandırılmasının güvenli ve emniyetli bir şekilde yapılmasını sağlamaya yönelik iyi bir adımdır.” , bir SaaS güvenlik öncüsü.
“Kurul, geniş bir uzman yelpazesini bir araya getirerek, yapay zeka ile ilişkili riskleri azaltırken aynı zamanda faydalardan yararlanmayı ümit edecek değerli bilgiler ve tavsiyeler sunacak” diye ekledi.
Ancak Joseph, yapay zeka kaynak modellerinin geliştirilmesinde yoğun olarak yer alan şirketlerin kurucuları ve üst düzey patronları arasında yer alan yönetim kurulu üyelerine atıfta bulunarak çıkar çatışması faktörünü savundu.
“En büyük endişem, kapalı kaynaklı yapay zeka modellerini geliştiren şirketlerin bir araya getirilmesiyle büyük bir çıkar çatışmasının ortaya çıkmasıdır. İş modellerine büyük ölçüde yardımcı olacağı ve karlarını olumlu yönde etkileyeceği zaman, “güvenlik nedenleriyle” açık kaynak modellerine karşı öneride bulunmaya teşvik ediliyorlar.”
Bununla birlikte Kurulun oluşumu, yapay zekanın ülkenin kritik altyapısına güvenli ve emniyetli bir şekilde entegre edilmesini sağlamaya yönelik önemli bir adımdır. Önerileri, en iyi uygulamaların geliştirilmesi ve bu hassas sektörlerde yapay zeka dağıtımıyla ilişkili potansiyel risklerin azaltılması açısından hayati önem taşıyacak.
- Beyaz Saray Stratejisi: İhlallerden Yazılım Firmaları Sorumlu
- Yapay Zeka Tarafından Oluşturulan Sahte Ölüm İlanı Web Siteleri Yaslı Kullanıcıları Hedefliyor
- Fidye Yazılımı Tehdidiyle Mücadelede ABD Liderliğinde 40 Ülke İttifakı
- Zehirli Veriler, Kötü Amaçlı Manipülasyon: NIST Yapay Zeka Kusurlarını Ortaya Çıkarıyor
- Dark Web Pedofilleri CSAM Oluşturmak İçin Açık Kaynak Yapay Zekayı Kullanıyor