CBA, mağdurun rızasıyla NSW Polisine işlem açıklamalarındaki kötüye kullanımın yönlendirilmesine pilot olarak ayarlanmıştır.
Banka, makine öğrenimi modelinin NSW müşterilerine gönderilen işlemlerde taciz edici açıklamalar tespit etmesi durumunda, bunu polise bildirmek için alıcının onayını arayacağını söyledi.
CBA’nın algılama modeli, 2021’den beri müşterilerinin aldığı işlemlerin açıklamalarını zaten tarıyor; Bankanın AI Labs ekibi, 2020’de 8000’den fazla müşterinin banka hesaplarına düşük değerli para yatırma yoluyla taciz edildiğinin ortaya çıkmasının ardından bu özelliği geliştirdi.
Banka yaptığı açıklamada, modellerinin yılda yaklaşık 1500 fail tarafından gönderilen saldırgan dil içeren 400.000’e yakın CommBank uygulaması ve NetBank işlemi tespit ettiğini söyledi.
İşaretlenen işlemler, CBA’nın mesajları bloke edebilen, failleri üç ay boyunca dijital bankacılık hizmetlerinden uzaklaştırabilen veya bankanın kabul edilebilir kullanım politikasını tekrar tekrar ihlal etmesi durumunda kalıcı olarak askıya alabilen mali suistimal önleme ekibi Sonraki Bölüm tarafından manuel olarak incelenir.
CBA, Next Chapter’ın pilot olarak taciz içeren mesajların alıcılarına bankanın Eylül ortasından itibaren onlar adına bir polis raporu sunmasını isteyip istemediklerini soracağını söyledi.
CBA grubu müşteri savunucusu Angela Macmillan, “Teknolojinin kolaylaştırdığı taciz ciddi bir sorun olmaya devam ediyor ve NSW Polisi ile bu işbirliği, yalnızca mağdurları desteklemek için değil, aynı zamanda tacizi önlemek için de harekete geçmemizi sağlıyor” dedi.
Diğer “dört büyük” banka da taciz için düşük değerli işlem açıklamalarının kullanımını tespit etmek ve engellemek için gelişmiş analitik ve algoritmalara yöneldi, ancak Macmillan bunun, endüstrinin polis müdahalesi için daha modern ve sorunsuz talepleri ilk kez etkinleştirdiğini söyledi.
Macmillan, “Bu, bankacılık sektörü ile kolluk kuvvetleri arasında türünün ilk örneği bir girişim ve bunun, aile içi ve mali suistimallere karşı mücadelede daha etkili bir işbirliğinin yolunu açacağını umuyoruz.” dedi.
Projeye katılımı nedeniyle 2022 AI in Finance Ödülünü kazanan CBA kıdemli veri bilimcisi Dr Anna Leontjeva, şunları söyledi: Dijital Ulus Avustralya O faillerin düşük değerli işlemler göndermeye başvurmalarının nedeni, “diğer tüm platformlarda engellenmeleri ve mesajlarını göndermenin bir yolunu bulmaya çalışmalarıdır.”
Sonraki Bölüm aynı zamanda kurbanların banka hesaplarının PayID ile bağlantısını keser, böylece failler artık e-posta adreslerini, cep telefon numaralarını veya ABN’yi kendilerine kötü amaçlı işlemler göndermek için kullanamazlar.
CBA yapay zeka laboratuvarları, 2021’de belirli anahtar kelimelere ve kelime öbeklerine dayanan eski bir filtre sistemi bir dizi kötü amaçlı mesajı kaçırdığında makine öğrenimine yöneldi.
Banka, faillerin “harfler yerine semboller” kullanarak ve “sözcükleri farklı” yazarak filtreyi aştığını söyledi.
CBA yapay zeka laboratuvarları, arXiv’de yayınlanan bir araştırma makalesi yayınladığında, modelinin kötü amaçlı düşük değerli işlem açıklamalarını nasıl tespit ettiğine ışık tutuyor [pdf] bu yıl mart ayında
İşlem düzeyinde banka, dolar tutarı ve sıklığı gibi “belirtilere” ve ayrıca “işlem açıklamasının uzunluğu” gibi değişkenlere baktığı serbest metin alanının bazı “basit metin” analizlerine bakıyor. üst/alt/karma durum bayrakları, kelime sayısı, işlem açıklamasındaki en uzun kelimenin uzunluğu, [and] mesaj özel karakterler/sayılar içeriyor mu”.
Banka ayrıca açıklamalarda “duygu, zehirlilik ve hassasiyet” tespit etmek için eğitilmiş üç dil modeli kullanıyor.
Oradan, bulgularını bir “ilişki” düzeyine – bir istismarcı ile potansiyel bir kurban arasında – toplar.
İstismarcının birden fazla kurbanı varsa, “iki [or more] yüksek riskin farklı ilişkileri”.
Banka ayrıca potansiyel mağdurun cevap verip vermediğini de kontrol eder.
Tüm bunlar, ilişkilerin “yüksek düzeyde taciz içeren veya etmeyen” olup olmadığını nihai olarak sınıflandıran rastgele bir orman modeline beslenir.