[By André Ferraz, CEO and Co-Founder of Incognia, the innovator in location identity solutions]
Üretken yapay zeka (GenAI), özellikle kullanıcıların çevrimiçi güvenliği ve gizliliğine yönelik oluşturduğu riskler nedeniyle sıcak bir tartışma konusudur. Başkan Biden, Kongre'ye yapay zekayı eğiten veriler için gizlilik odaklı tekniklerin geliştirilmesini ve kullanımını hızlandırmak amacıyla iki partili veri gizliliği yasasını geçirme çağrısında bulunurken, aşırı düzenlemenin deneyleri bastırabileceğini ve yeni ve yaratıcı çözümlerin geliştirilmesini engelleyebileceğini hatırlamak önemlidir. bu dünyayı değiştirebilir.
Örneğin, telekomünikasyonun ilk günlerinde, düzenleyici kurumların sektör üzerinde güçlü bir kontrolü vardı ve sınırlı rekabet yoluyla tekellerin oluşmasına neden oldu. Serbestleştirmenin, internetin, cep telefonlarının ve geniş bant hizmetlerinin benimsenmesini hızlandıran teknolojilerin geliştirilmesi de dahil olmak üzere yenilik dalgalarına yol açması, ABD hükümetinin 1980'lerde anti-tröst tedbirleri almasına kadar gerçekleşmedi.
Bu, GenAI'nın düzenlenmemesi gerektiği anlamına gelmiyor; sadece AI ile ilişkili varsayımsal kıyamet senaryoları ile teknolojinin günümüzün gerçek dünyadaki etkisi arasında ayrım yapmak önemlidir. Büyük dil modelleri (LLM'ler) ve GenAI ile ilgili endişe, kötü aktörler tarafından zararlı içerik oluşturmak, yanlış bilgi yaymak ve kötü niyetli veya sahtekarlık faaliyetlerini otomatikleştirmek ve ölçeklendirmek için kötüye kullanılma potansiyelidir. Getirilen herhangi bir düzenleme veya yeni teknoloji, bu belirli zorlukların üstesinden gelmeye odaklanmalıdır.
Yanlış Şeyler Hakkında Endişelenmek
Genellikle uzak gelecekte gerçekleşebilecek veya gerçekleşmeyebilecek olaylara odaklanılıyor; dünya çapındaki hükümetler ve vatandaşlar, yapay zekanın kontrol edilemez hale gelerek öngörülemeyen sonuçlara yol açma potansiyeline ilişkin endişelerini dile getiriyor. Varoluşsal risklere yönelik bu takıntı, dikkatleri yapay zekanın bugün ortaya çıkardığı acil ve somut zorluklardan, yani GenAI'nin dolandırıcılık önleme stratejileri ve kullanıcı gizliliği üzerindeki derin etkilerinden uzaklaştırıyor. Çeşitli uzun vadeli olasılıkları öngörmek ve ele almak önemli olsa da, GenAI'nin şu anda günlük yaşamdaki gerçek dünyadaki etkisine odaklanmak da aynı derecede hayati önem taşıyor.
Yapay Zeka Odaklı Avantajlar
Yapay zeka, endüstrilerde devrim yaratma ve hayatımızın çeşitli yönlerini iyileştirme kapasitesini zaten gösterdi. Yapay zekanın erken hastalık tespitine yardımcı olduğu sağlık hizmetlerinden yol güvenliğini artıran otonom araçlara kadar yapay zekanın katkıları umut verici. Ayrıca yapay zeka, görevleri kolaylaştıran ve çevrimiçi içeriğimizi kişiselleştiren öneri algoritmalarına erişilebilirliği artıran sesli asistanlar aracılığıyla halihazırda dijital hayatımızın ayrılmaz bir parçası haline geldi.
Kullanım senaryosu bağlamlarında aşırı düzenleme, topluma fayda sağlayabilecek yeni ve yaratıcı çözümlerin geliştirilmesini engelleyebilir. Riskler gerçekten mevcut olsa da yapay zekanın iyilik potansiyelinin çok büyük olduğunu ve odak noktamızın bu potansiyeli sorumlu bir şekilde kullanmak olduğunu kabul ederek bir denge kurmamız gerekiyor.
Kötü Aktörleri Durdurmak
GenAI ortamındaki en acil ve acil endişelerden biri, teknolojinin kötü niyetli aktörler tarafından kötüye kullanılmasıdır ve hızla ilerleyen yapay zekanın oluşturduğu baş döndürücü tehdit göz ardı edilemez. Günümüzde finans kurumları ve çevrimiçi pazar yerleri de dahil olmak üzere çok sayıda sektör, güçlü kimlik doğrulama protokolleri için büyük ölçüde belge tarama ve yüz tanıma teknolojilerine güveniyor. Ancak gerçek şu ki, deepfake'lerin çoğalması ve GenAI yetenekleri, bu geleneksel yöntemleri dolandırıcıların istismarına karşı giderek daha savunmasız hale getirdi.
Bir zamanlar güvenilir bir kimlik doğrulama aracı olarak kabul edilen yüz tanıma, artık manipülasyona açıktır. Sosyal medya platformlarında ve çeşitli çevrimiçi veritabanlarında kolayca bulunabilen dijital ayak izlerimiz, dolandırıcıların gelişmiş maskeler üretmesine ve yüz tanıma sistemlerini kolaylıkla atlatmasına yardımcı oluyor. Daha önce kimliğe bürünmeye karşı bir koruma olarak kabul edilen canlılık tespit mekanizmaları bile GenAI'daki gelişmeler nedeniyle tehlikeye girdi.
Kimlik doğrulama için kamuya açık bilgilere güvenmenin, dolandırıcılık faaliyetlerini engellemede yetersiz olduğu ortaya çıkıyor. Bu yöntemler yüzeysel olarak uyumluluk gerekliliklerini yerine getirse de dolandırıcılıkla etkili bir şekilde mücadele etme konusunda yetersiz kalıyor.
Veri ihlallerinin çoğalması, kişisel olarak tanımlanabilir bilgileri (PII) esasen kamuya açık hale getirdi ve geleneksel kimlik doğrulama tekniklerinin etkinliğini daha da zayıflattı. Belge doğrulama, yüz tanıma ve PII kimlik doğrulaması, GenAI'nin gelişen yetenekleri karşısında savunmasızdır.
Bu zorluğun üstesinden gelmek, düzenleyici tedbirlerin ötesine geçen ve daha çok yeni teknolojilerin tanıtılmasına odaklanan çok yönlü bir yaklaşımı gerektirir. Örneğin örüntü tanıma, anormal ve potansiyel olarak zararlı davranışların belirlenmesinde çok önemli bir rol oynar. GenAI modellerini kötü niyetli niyetle ilişkili davranış kalıplarını tanıyacak şekilde eğiterek potansiyel tehditleri hızlı bir şekilde tanımlayabilir ve bunlara yanıt verebilir.
Gerçek zamanlı algılama, kötü aktörleri veya zararlı oluşturulan içerik ve etkinlikleri tespit etme, durdurma ve bunlarla mücadele etmede bir diğer önemli bileşendir. Yapay zeka sistemleri, etkileşimler ve işlemler sırasında kullanıcı davranışlarını izleyebilir, şüpheli etkinlikleri işaretleyebilir ve anında müdahaleye izin vererek olası zararları önleyebilir veya azaltabilir. Ek olarak, kullanıcı davranışı profili oluşturma, kötü niyetli aktörlerin, anormalliklerin ve potansiyel tehditlerin belirlenmesine yönelik değerli bilgiler sağlayabilir. AI sistemleri, tipik kullanıcı davranışlarının ayrıntılı profillerini oluşturarak normal davranış için bir temel oluşturur ve dolandırıcılık niyetini veya zararlı eylemleri gösterebilecek sapmaları hızla işaretler.
GenAI Dinamik Bir Alandır
GenAI, endüstrileri yeniden şekillendirmek, yenilikleri teşvik etmek ve hayatımızın çeşitli yönlerini iyileştirmek için büyük bir potansiyele sahiptir. Ancak büyük güç, büyük sorumluluğu da beraberinde getirir ve yapay zeka da bir istisna değildir. Sorumlu ve etkili düzenleme esas olmakla birlikte, ilerlemeyi ve yeniliği engelleyebilecek aşırı düzenlemeden kaçınmak da önemlidir.
GenAI'nin ortaya çıkardığı zorluk yalnızca geçici değil; dolandırıcılığın önlenmesinin gelecekteki manzarasını temsil ediyor. Müşterinizi Tanıyın (KYC) ve Kimlik Doğrulama (IDV) prosedürleri için yalnızca bu geleneksel yaklaşımlara dayanan kuruluşların stratejilerini acilen yeniden değerlendirmesi gerekir.
Ayrıca dolandırıcılık önleme alanındaki işletmeler, kullanıcılardan kendilerini korumalarını beklememelidir. Yapay zekanın gerçek tehlikeleriyle mücadele etmek için hedefli bir yaklaşıma ihtiyaç var; kullanıcıları ve verilerini korumak için GenAI'nın kötüye kullanımını önleyen çözümlerden yararlanılması. Bu incelikli strateji, çeşitli yapay zeka uygulamalarının çeşitli risklerini ve faydalarını göz önünde bulundurur ve düzenleme konusunda herkese uyan tek bir yaklaşım benimsemek yerine, gelişen teknolojinin çok yönlü doğasını dikkate alabilir. Yapay zeka düzenlemesinin geleceği, etik uygulamaları korumak ile yapay zeka ortamında yaratıcılığı ve ilerlemeyi teşvik etmek arasında bir denge kurmalıdır.
Şirketler, GenAI'nin kötüye kullanımını belirleyen ilk risk sinyali olan proaktif bir yaklaşımla kullanıcılarını daha benzersiz bir şekilde tanımlamalarına olanak tanıyan veri noktalarını bulmak için GenAI'yı kullanan dolandırıcılık önleme çözümlerine yatırım yapmalıdır.
Reklam