Üretken yapay zeka dünyayı kasıp kavurdu ancak siber güvenlik bağlamında uygulanabilirliği ve tehdit aktörleri tarafından ne ölçüde ele alınıp zarar vermek amacıyla kullanılabileceği konusunda hâlâ bazı kafa karışıklıkları var. Ancak aynı zamanda algıların güvenlik iş gücüne göre farklılık gösterdiği ve yapay zekanın iş rolüne bağlı olarak farklı şekilde algılandığı da ortaya çıktı. Örneğin aktif savunmayla görevli olanlar üst düzey yöneticilere göre daha az tedirgin görünüyor.
Ağustos 2023’te 205 BT güvenliği karar vericisiyle yaptığımız ankete göre, genel olarak siber güvenlik profesyonellerinin yalnızca %46’sı yapay zekanın siber güvenlik üzerindeki etkisini kavradıklarına inanıyor. Neredeyse üçte biri teknolojiyi anlamadıklarını açıkça belirtti. Bilgi Güvenliği Analistleri en kendinden emin olanlar oldu ve onları sistem analistleri ve CTO izledi. Endişe verici bir şekilde, CIO’lar sorgulanan farklı iş rolleri arasında en az anlayışa sahip görünüyor ve %42’si bunu kabul ediyor.
Liderlik eksik
Üst düzeydeki bu tür bir korku, konu yapay zekaya yönelik olduğunda işletmenin ne kadar proaktif olduğunu etkileyebilir. Bu, eyleme geçirilebilir güvenlik politikalarına ne kadar acil bir şekilde dönüştürüleceğini veya kullanıcı eğitimine veya yapay zeka destekli araçlara yapılan değerlendirme ve yatırıma öncelik verilmesini etkileyebilir. Bu nedenlerden dolayı, teknolojinin nerede ve nasıl etkili bir şekilde kullanılabileceğini, teşvik konusunda beceri geliştirmeye ihtiyaç olup olmadığını ve potansiyel risklerin nasıl kontrol altına alınabileceğini belirlemek için sektörün teknolojiye aşina olması zorunludur.
Yapay zeka ile ilgili bilinmeyenler hiç şüphesiz akılları karıştırıyor; ankette ankete katılanların %61’i yapay zeka kullanımındaki artıştan endişeli ancak CIO’lar yine bu karşılaştırmada geride kaldı ve %55’i bunun endişe kaynağı olduğunu söyledi. Çoğunluk (%60) yapay zekanın halihazırda kuruluşların maruz kaldığı siber güvenlik saldırılarının sayısını artırdığına inanıyor.
Teknolojinin hızlı yükselişinden endişe duymasına rağmen, katılımcıların %73’ü yapay zekanın güvenlik operasyonları ve olaylara müdahale için giderek daha önemli bir araç haline geldiğini kabul ediyor. Fikir birliği, muhtemelen yapay zekanın verileri geniş ölçekte analiz edebilmesi, tehditleri gerçek zamanlı olarak tanımlayabilmesi ve bulgulara yanıt olarak olası eylem planları önerebilmesi nedeniyle olay müdahalesinin daha hızlı ve daha doğru olacağı yönündeydi.
Potansiyelin farkına varılması
Üçte ikiden fazlası (%67) ayrıca yapay zekanın rutin görevleri otomatikleştirebilmesi ve siber güvenlik profesyonellerinin işlerinin daha karmaşık ve stratejik yönlerine odaklanmasına olanak tanıması nedeniyle yapay zeka kullanmanın siber güvenlik operasyonlarının verimliliğini artırdığına inanıyor. Makine öğrenimi araçlarının günümüzde potansiyel tehditleri belirlemek ve herhangi bir saldırıya hızlı bir şekilde yanıt vermek için zaten yaygın olarak kullanıldığı göz önüne alındığında, bu adil bir çıkarımdır. Örneğin birçok güvenlik şirketi, ağ trafiğindeki kalıpları belirlemek ve şüpheli etkinlikleri işaretlemek için makine öğrenimi algoritmalarını kullanıyor.
Bu araçlar, olası tehditleri hızla araştırabilen ve uygun eylemi gerçekleştirebilen eğitimli güvenlik profesyonellerinin uzmanlığıyla birleştirildiğinde özellikle etkilidir. Aslında yapay zeka, belirli ortamlar için neyin normal olduğunu öğrenmede giderek daha iyi hale geldiğinden, tehdit avcılığı bağlamında faydalı olması muhtemeldir ve bu, artık kötü amaçlı yazılımları bireysel ortamlardaki kurallara uyacak şekilde uyarlaması gereken saldırganlar için işi daha zor hale getiriyor. tespitten kaçınmak.
Ancak burada şunu da belirtmekte fayda var ki, ankete katılanların dörtte biri yapay zekanın güvenliğe katkısı konusunda kesinlikle kararsızdı, çünkü yapay zekanın siber güvenlik operasyonlarının verimliliğini artırdığı konusunda ne hemfikirdiler ya da karşı çıktılar. Bu, birçok kişinin, kullanılan araçlar ne olursa olsun, sonuçları yorumlama ve en iyi eylem planını seçme konusunda uzman, deneyimli personelin yerini hiçbir şeyin alamayacağına inanmaya devam ettiğini ortaya koyuyor.
Yönetilmeyen yapay zekanın riskleri
Açık olan şu ki, sektör başarılarına dayanmaya gücü yetmiyor. Onaylanmamış üretken yapay zeka halihazırda çalışanlar tarafından kullanılıyor ve bu da kuruluş için önemli riskler oluşturuyor. Şubat ayında yapılan bir başka anket, ankete katılanların yüzde 68’inin iş yerinde patronlarına haber vermeden yapay zeka kullandığını ortaya çıkardı. Dahası, ‘Gerçek GenAI Verilerine Maruz Kalma Riskini Ortaya Çıkarma’ araştırma raporu, çalışanların %15’inin ChatGPT’ye veri eklediğini, %6’sının bunu hassas şirket verileriyle yaptığını kabul ettiğini ve %4’ünün bunu haftalık olarak yaptığını ortaya çıkardı. Kaynak kodu, dahili iş bilgileri ve kişisel olarak tanımlanabilir bilgilerin (PII) tümü yükleniyor; en kötü suçlular Ar-Ge, Satış ve Pazarlama ve Finans oluyor; bu veriler o sırada yüksek açığa çıkma riskiyle karşı karşıya ve muhtemelen şirket tarafından aktif olarak kullanılıyor. yanıtlarını diğer kullanıcılara bildirme teknolojisi.
Aynı şekilde, Jeneratif Yapay Zeka ticari çözümlerinin yanlış yapılandırılması durumunda hassas verileri açığa çıkarma potansiyeli olup olmadığını da henüz bilmiyoruz. Microsoft 365’e entegre edilen Microsoft Copilot mükemmel bir örnektir. Bu, kullanıcılarınızın erişebildiği tüm verilere erişebilecek bir araçtır; dolayısıyla erişim kontrolleriniz doğru değilse ve bazı şeyleri doğru şekilde etiketlemediyseniz, yapay zeka bunu bilemeyecek ve potansiyel olarak onu kullanamayacaktır. Sorduğunuz bir sorgudan sonuç elde etmek için hassas bilgiler. Benzer şekilde, kullanımı etik bir bakış açısıyla yönetmek ve doğruluğu sağlamak için önyargıları kontrol etmek ve halüsinasyonları tespit etmek için politikaların uygulamaya konulması gerekecektir.
Bir başka endişe konusu da, tehdit aktörlerinin derin sahtekarlıklar ve ultra gerçekçi kimlik avı ve sosyal mühendislik saldırı kampanyaları için yapay zekayı geniş ölçekte kullanma becerisidir. Anket sonuçlarında kuruluşların bu tür riskleri azaltmak için çalışanların farkındalığı konusunda daha iyi performans göstermeleri gerektiğinin farkında olduklarına dair bir fikir ortaya çıkmıyor.
Yapay zekanın ne kadar etki yaratacağı henüz bilinmiyor ancak üst düzeylerdeki mevcut şaşkınlık duygusunun ele alınması gerekiyor. Sektör, teknolojiyi nasıl kontrol edeceğini ve iş genelinde benimsenmesini öğrenmediği sürece bizden kaçabilir ve hassas verileri geniş ölçekte açığa çıkarabilir. Hızlanma ve yapay zeka destekli araçları kullanma konusundaki başarısızlık da aynı şekilde değerli zamanın kaybedilmesine yol açacaktır çünkü tehdit aktörleri bu potansiyeli kullanmakta yavaş olmayacaktır. Bu tür senaryolar, sektörün bugün işin ciddiyetini kavramasını zorunlu kılmaktadır.
