YORUM
Artık yapay zeka (AI) çağının derinliklerindeyiz. Geçici bir trendden çok daha fazlası olan bu dönüştürücü teknoloji, iş yapma şeklimizi temelden değiştirecek. Kuruluşlar, yapay zekanın kendi özel tekliflerinden nasıl yararlanabileceğini anladıkça ve bunu belirlemeye çalışırken Yapay zekanın benimsenmesinin doğasında olan risklerBirçok ileri görüşlü şirket, bu devrime iyi hazırlandıklarından emin olmak için organizasyonları içinde halihazırda özel yapay zeka paydaşları oluşturmuştur. Baş bilgi güvenliği görevlileri (CISO’lar) bu komitenin kalbidir ve tavsiyelerinin uygulanmasından nihai olarak sorumlu olan kişilerdir. Bu nedenle önceliklerini, görevlerini ve potansiyel zorluklarını anlamak, engel olmak yerine işi kolaylaştıran olmak isteyen CISO’lar için çok önemlidir.
Tanıtıyoruz: Yapay Zeka Komitesi
Bazen AI yönetişim komitesi olarak da anılan bir AI komitesi, bir kuruluş içindeki, o kuruluşun AI kullanımının güvenlik, yasal ve güvenlik etkilerini denetlemekten sorumlu bir gruptur. Temel amacı, bir yandan organizasyonun bu kullanımın doğasında olan riskleri dikkate almasını ve şirketin varlıklarını, müşterilerini, markasını, varlıklarını korumak için aktif önlemler almasını sağlarken, bir yandan da kolaylaştırılmış üretkenlik gibi iş faydalarını artırmak için AI teknolojilerinin geliştirilmesini, dağıtılmasını ve kullanılmasını sağlamaktır. ve buna göre itibar.
Yapay Zeka Komitesinde Kimler Yer Alır?
Yapay zeka komitesi ideal olarak aşağıdakiler de dahil olmak üzere çeşitli iç ve dış kurumsal paydaşlardan oluşan bir grubu temsil eder:
-
Üst düzey liderlik: Yapay zeka girişimlerine stratejik yön ve destek sağlayan CEO, CIO veya CTO gibi üst düzey yönetim veya üst düzey yöneticilerden temsilciler.
-
Genel danışman: Yapay zeka teknolojileriyle ilgili düzenleyici gereklilikler, yasal riskler ve sözleşme yükümlülükleri konusunda tavsiyelerde bulunan hukuk danışmanı veya uyumluluk görevlileri.
-
Güvenlik liderliği: Veri gizliliği, siber güvenlik ve bilgi güvenliği konularında şunları sağlayan uzmanlar: Yapay zeka sistemleri gizlilik düzenlemelerine uyuyor ve güvenlikle ilgili en iyi uygulamalar. (Bu blog yazısı çoğunlukla CISO kişiliğine odaklanacaktır.)
-
Veri bilimcileri ve yapay zeka mühendisleri: Yapay zeka sistemlerinin geliştirilmesinden ve uygulanmasından sorumlu, veri bilimi, makine öğrenimi ve yapay zeka teknolojilerinde uzmanlığa sahip profesyoneller.
-
Dış taraflar: Yapay zeka yönetişiminin en iyi uygulamalarına ilişkin bağımsız bakış açıları ve uzmanlık sağlayan harici danışmanlar, akademisyenler veya sektör uzmanları. Diğer dış taraflar, müşteriler, ortaklar ve “dışarıdan” perspektiften girdi sağlayabilecek savunuculuk grupları gibi paydaş temsilcilerini içerebilir.
CISO Nasıl Yapay Zeka Komitesi Şampiyonu Olabilir?
CISO’ların yapay zeka komitesinde en önemli varlık olmak ve başarısını sağlamak için rehber olarak kullanabileceği üç temel ilkeyi burada bulabilirsiniz.
1. Kapsamlı bir değerlendirmeyle başlayın.
Güvenlikteki eski söz yapay zeka için de geçerlidir; bilmediğiniz şeyi koruyamazsınız. Kuruluşunuz genelinde yapay zeka kullanımını nasıl güvence altına alacağınıza ilişkin bir strateji oluşturmaya başlamadan önce, öncelikle yapay zekanın halihazırda kimin, neyin ve nasıl benimsendiğini anlayın. Yapay zeka boşluk analizi, öncelikle genel GenAI uygulamaları, üçüncü taraf büyük dil modelleri (LLM’ler) ve yazılım olarak kuruluş genelinde kullanılan tüm gölge yapay zeka uygulamalarını ve modellerini (önceden bilginiz veya onayınız olmadan) tanımlamanıza olanak tanır. hizmet (SaaS) ve dahili olarak geliştirilen modeller. Bu envanter aynı zamanda ne tür bir ürünün kullanıldığını anlamanız için kullanım kalıpları hakkında da fikir verecektir. Yapay zeka kullanımı Çalışanlar için organik olarak popüler olduğundan gelecekteki güvenlik çabalarınızı en çok ihtiyaç duyulan yere odaklarsınız. Bu arada, bu tür içgörülerin iş paydaşları için de çok değerli olduğunu unutmayın; bu nedenle bunları akıllıca kullanın. CISO olarak, komitedeki en değerli bilgilerin, yani kuruluş çapındaki GenAI kullanım verilerinin, yani ROI’nin elinizde olduğunu unutmayın. Verilerle donanmış olarak kuruluş genelinde akıllı, güvenli ve gerçekçi GenAI politikalarının oluşturulmasında liderliği ele alın.
2. Aşamalı bir benimseme yaklaşımını uygulayın.
CISO’lar her zaman üretkenlik ve güvenlik arasında denge kurmakta zorlanırlar. Peki, olumlu ticari faydalar sağlamak isteyen CISO’lar aynı anda nasıl gaza ve frene basabilir? Aşamalı bir benimseme yaklaşımının uygulanması, güvenliğin benimsemeye eşlik etmesine ve benimsemenin gerçek zamanlı güvenlik sonuçlarını değerlendirmesine olanak tanır. Kademeli benimsemeyle CISO’lar paralel güvenlik kontrollerini benimseyebilir ve başarılarını ölçebilir. Örneğin, kuruluşunuzun verilerini bağlamadan Kurumsal sohbet seçeneğiyle başlayın veya verilerinizi öğrenmeyen LLM’leri deneyin. Başarılı bir aşamalı uygulamaya geçiş varsayıldığında, CISO’lar el frenine uzanmak yerine bir ayağını gazda ve ellerini direksiyon simidinde tutabilirler.
3. EVET olun! adam – ama korkuluklarla.
Korkuluklar, güvenliğin işleri yavaşlatmadan güvenli gelişim için kontrolleri devreye sokmasını sağlayan yaygın bir güvenlik uygulamasıdır. CISO’lar aynı ilkeleri yeni GenAI sınırına nasıl uyarlayabilir? Bugün gördüğümüz en yaygın kullanım durumu bağlamsal veya anlık korkuluklardır. LLM’ler, zararlı veya yasa dışı olabilecek veya şirket içi politikaları (veya üçünü birden) ihlal eden metinler üretme kapasitesine sahiptir. Bu tür zararlı tehditlere karşı koruma sağlamak için CISO’lar, riskli veya kötü niyetli ya da uyumluluk standartlarını ihlal eden istemleri tanımlayacak ve ardından uyaracak içerik tabanlı korumalar kurmalıdır. Son teknoloji ürünü yapay zeka odaklı güvenlik çözümleri, müşterilerin güvenli istemlere ilişkin kendi benzersiz parametrelerini oluşturmasına ve tanımlamasına ve bu korkulukların dışına çıkan istemlere karşı uyarıda bulunup bunları engellemesine de olanak tanıyabilir.
Kuruluşun emniyet ve güvenlik politikalarının hazırlanmasından genellikle hukuk departmanı sorumlu olsa da, günün sonunda uygulama sorumluluğunun CISO’nun omuzlarına düştüğünü unutmayın. Hukukun gerçekten izlenebilecek politika oluşturduğundan emin olun, aksi takdirde başarısızlık beklenebilir. Bu prensibi genel olarak uygulayın; uygulamak ve ölçmek için gerçekçi bir yönteminiz olmayan politikaları onaylamayın.
Saldırganları dışarıda tutmak için çit çekme günleri çoktan geride kaldı. CISO’lar ve güvenlik uygulayıcıları artık kurumsal yönetim liderliğinin bir parçası olarak kabul ediliyor ve yalnızca güvenliği değil, iş başarısını da artırmanın hem sorumluluğuna hem de fırsatına sahipler. Yapay zeka komitesinden takip etmek yerine liderlik etmek için yararlanmak, CISO’ların güvenlik gerçekliğini etkili bir şekilde daha iyiye doğru değiştirebilmelerinin ve iş üzerinde olumlu etki sağlamalarının başka bir yoludur. Verilerle donanmış CISO’lar, BT, geliştiriciler ve yöneticiler de dahil olmak üzere çalışanlara GenAI’nin avantajlarından güvenli bir şekilde yararlanmaya yönelik en iyi strateji konusunda liderlik etme konusunda eşsiz bir fırsata sahiptir.