Yapay zeka taklit çağında kimliğin yeniden düşünülmesi


Onlarca yıldır, basit insan içgüdülerine bağlı işlere güven. Eskiden tanıdık bir yüz gördüğümüzde veya güvenilir bir ses duyduğumuzda, içgüdüsel olarak gerçek kişiyle uğraştığımıza inandık. Bu varsayım artık tehlikeli.

Son 18 ay içinde, derin hasatlar yenilikten silaha geçti. Sakar internet şakaları olarak başlayan şey olgun bir siber suçlu araç seti haline geldi. Finans ekipleri, hiç giriş yapmayan “yöneticiler” ile video görüşmelerinden sonra milyonlarca kablolama yapıldı. Florida’daki Dışişleri Bakanı dış bakanlarla temasa geçti. Ferrari’nin CEO’su bile bir sahtekarlık girişiminde taklit edildi. Bunlar kenar durumları değildir; Onlar ne olacağına bir bakış.

Maliyet sadece parada değil, güven aşınmasıyla da ölçülür. Artık gördüklerimize veya duyduğumuza inanamadığımızda, dijital güvenin temeli parçalanmaya başlar.

Neden şimdi?

Değişen şey niyet değil; Dolandırıcılar her zaman yaratıcıdır. Değişen şey erişilebilirliktir. Üretken AI (Genai) aldatmayı demokratikleştirmiştir. Bir zamanlar uzman laboratuvarlar ve ağır bilgi işlem gücü gerektiren şey artık bir uygulama ve bir dizüstü bilgisayarla yapılabilir. Bir web seminerinden veya sosyal medyada bir avuç selfie’den kazınan tek bir ses klibi, güvenilir bir ses veya yüz yaratmak için yeterlidir.

Zaten serpinti görüyoruz. Gartner Research, siber güvenlik liderlerinin% 43’ünün en az bir derinlik özellikli ses çağrısı yaşadığını ve% 37’sinin video görüşmesinde derin dişlerle karşılaştığını buldu. Kalite gelişiyor, hacim hızlanıyor ve giriş bariyeri çöktü.

Teknoloji tek başına bizi kurtaramaz

Tedarikçiler hareketsiz durmadı. Ses tanıma sağlayıcıları, bir arayanın sentetik olma olasılığını puanlamak için sinir ağlarını kullanarak derin peynir algılamasını platformlarına yerleştiriyor. Yüz tanıma sistemleri, manipülasyon belirtilerini tespit etmek için canlandırma kontrolleri, meta veri muayenesi ve cihaz telemetrisinde katmanlardır. Bunlar gerekli gelişmelerdir, ancak bunlar yeterli değildir.

Tespit her zaman reaktiftir. Geçen ayki sahtelere karşı doğruluk, bu haftanın korunmasını garanti etmez. Ve sonuçlar olasılıksaldır: Sistemler, kesinlik puanları değil, riski puanları. Bu, kuruluşları ölçekte zor kararlar alıyor: kime güvenecek, kime meydan okunacak, asla mükemmel olamayacak sinyallere dayanıyor.

Gerçek şu ki, hiçbir tespit aracı savunmanın ağırlığını kendi başına taşıyamaz. Derin kesici problem, algoritmalarla ilgili olduğu kadar insanlar ve süreçlerle ilgilidir.

İnsan Zayıf Noktası

Teknoloji savaşın sadece yarısı. Bugüne kadarki en pahalı derin peynir olayları atlamalı makineleri atlamamıştır; İnsanları kandırdılar. Genellikle baskı altında olan çalışanlardan hızlı davranmaları istenir: “Fonları transfer”, “MFA’mı sıfırlayın”, “Bu planlanmamış video görüşmesine katılın.” Güvenilir bir yüz veya tanıdık ses ekleyin ve tereddüt buharlaşır.

CISO’lar ve güvenlik ve risk yönetimi liderlerinin pragmatik olmaları gereken yer burasıdır. Çalışanlar asla tek bir telefon görüşmesi veya görüntülü sohbetin felaket bir eylemi tetikleyebileceği bir konuma yerleştirilmemelidir. Bir istek acil hissediyorsa, para veya erişim içeriyorsa, ek kanıtlarla desteklenmelidir.

Bu işleri yavaşlatmakla ilgili değil. Dayanıklılık oluşturmakla ilgili. Bir soru sormak sadece gerçek kişinin bileceği, bağımsız kanallar aracılığıyla hassas talepleri artırması veya onaylamadan önce kimlik avına dayanıklı çok faktörlü kimlik doğrulamasını zorunlu kılmak, bunlar sahte bir sahtekarlık olmasını engelleyen korkuluklardır. Bazen en basit teknikler en etkilidir.

Güven Savaşı

Çıkarımlar kurumsal kayıpların ötesine uzanır. Deepforkes artık dezenformasyon kampanyalarını körüklüyor, siyasi yanlışlıkları yayıyor ve kamu kurumlarına olan güveni aşındırıyor. Bazı durumlarda, gerçek görüntüler “sahte haber” olarak reddedilir. Özgünlük bile şüphe altındadır.

Hükümetler cevap vermeye başlıyor. Danimarka ve İngiltere, cinsel açıdan açık derin yaprakların yaratılmasını ve paylaşılmasını suçlamak için yeni yasalar sunmuş veya düşünmektedir. Amerika Birleşik Devletleri’nde, yeni mevzuat, rıza dışı derin kaplama medyasını açıkça yasadışı hale getiriyor. Bunlar önemli adımlardır, ancak yasa tek başına üretken AI hızına ayak uyduramaz.

İşletmeler için sorumluluk hemen ve kaçınılmazdır. Cisos mükemmel bir düzenleyici çözüm bekleyemez. Aldatmanın her etkileşimin bir parçası olacağını ve organizasyonlarını buna göre tasarlamaları gerekir.

Aldatma ile tasarım yapmak

Peki kuruluşlar nasıl hareket etmeli? Cevap, katmanlı teknik önlemleri sertleştirilmiş iş süreçleri ve sağlıklı şüphecilik kültürü ile birleştirmektir. Cisos:

  • Derin kesici desen algılama araçlarını kullanın, ancak onlara tek başına güvenmeyin.
  • Para transferleri, kimlik kurtarma ve yönetici onayları gibi kritik iş akışlarının asla tek bir güven noktasına bağlı olmadığından emin olun.
  • Bir şey hissediyorsa, ekranda tanıdık bir yüze bile meydan okumak için çalışanları eğitim ve güven ile donatın.

Biyometrik sistemleri örnek olarak alın. Katmanlı bir yaklaşım: Sunum saldırısı tespiti (bir kameraya gösterilen eserleri yakalama), enjeksiyon saldırısı algılama (sentetik video akışlarını tespit etme) ve cihazlardan veya kullanıcı davranışlarından bağlam sinyalleri gerçek esneklik oluşturur. Uygulamada, tespit edilen derin kerin kendisi olmayabilir, ancak kullanımı ile gelen olağandışı kalıplar

Günün sonunda, CISOS ve Güvenlik ve Risk Yönetimi liderleri kimlik hakkında düşündüklerini değiştirmeleri gerekir. Artık görme veya sesten kabul edilebilecek bir şey değil; kanıtlanmalıdır.

Daha büyük resim

Görmenin artık inanmadığı bir dönemdeyiz. Dijital Vakfın temel taşı olan kimlik, onu istediği gibi üretebilen rakipler tarafından yeniden tanımlanıyor. Teknik ön korumaları esnek iş süreçleriyle katlayarak hızlı bir şekilde uyum sağlayan kuruluşlar tehdidi köreltecektir. Sadece sahtekarlık kayıplarını değil, hem duvarlarının içinde hem de dışında güvende bir çöküşü riske atmayanlar.

Deepforkes bir akıllı araç veya tedarik kararı ile çözülmez. Zihniyette bir değişim talep ediyorlar: Önünüzdeki yüzün veya sesin sahte olabileceğini ve güvenliğinizi buna göre tasarlayabileceğini varsayın.

Saldırganlar hızlı hareket ediyor. Soru, savunucuların daha hızlı hareket edip edemeyeceğidir.

Gartner analistleri, bu hafta Londra’da (22-24 Eylül) gerçekleşen Gartner Güvenlik ve Risk Yönetimi Zirvesi’ne dijital kimlik ve güveni araştırıyorlar.

Akif Khan Gartner’da bir VP analisti



Source link