Yaklaşık 40 yıl önce, bir banka şubesi müdürü muhtemelen her müşterinin adını biliyordu ve kişiselleştirilmiş tavsiye ve rehberlik sunabildi. Ancak Lloyds Banking Group’un baş verileri ve analiz memuru Ranil Boteju’nun bugünün dünyasında bu modelin ölçeklenemeyeceğine dikkat çekiyor.
“Finansal planlama dünyasında, İngiltere’deki çoğu insan bir finansal planlayıcı görmeyi göze alamaz” diyor.
Ayrıca, tavsiye arayan herkese yardım etmek için yetersiz sayıda eğitimli finansal danışman da var, bu nedenle finansal kurumlar müşterileri doğrudan desteklemek için nasıl üretken yapay zeka (GENAI) dağıtabileceklerine bakıyorlar.
Ancak hiperskalerlerden gelen büyük dil modelleri (LLMS) ve Genai oldukça siyah kutular gibidir ve AI terimleriyle halüsinasyonlar olarak bilinen yanlış yanıtlar sunabilir. Bunların hiçbiri Finansal Davranış Kurumu (FCA) tarafından düzenlenen bir sektörde kabul edilemez.
Boteju’yu heyecanlandıran şey, bir banka yöneticisinin 40 yaşındaki modelini, yapay zekayı kullanarak, Bankaya AI’nın neye ihtiyaç duyabileceğini anlayabildiğine ve onlara doğru rehberliği değerlendirilebilecek ve FCA yönergelerini karşılayacak şekilde verebileceğine dair bir güven sağlayacak şekilde mevcut talebi karşılamak için ölçeklendirme yeteneğidir.
“Çok daha geniş ve daha büyük bir nüfusa yüksek kaliteli finansal rehberliğe erişim sağlamak açısından İngiltere için büyük bir ‘kilit açma’ olurdu” diyor.
Boteju’nun belirttiği gibi, bankalar yıllardır AI kullanıyor. “Kredi riski değerlendirmeleri ve 15 yıldan fazla süredir sahtekarlık taraması gibi şeyler için her türlü makine öğrenimi algoritmasını kullanıyoruz” diyor. “En az 10 yıldır sohbet botları da kullanıyoruz.”
Bu nedenle, AI finansal hizmetlerde çok iyi kullanılan bir yetenektir. Bununla birlikte, yenilikler üretken AI ve Ajan AI’dır. Boteju, “Üretken AI 2022’nin sonlarında Chatgpt ile sahnede patladı. Neredeyse iki buçuk yıldır.” Diyor Boteju.
Bankalar AI ile deneyime sahip olsa da, üretken AI ve büyük dil modellerinin nasıl kullanılacağını anlamaları gerekiyordu. Kendi deneyiminden bahsetmişken, Boteju şöyle diyor: “Model performansı ve doğru algoritmayı kullanıp kullanmadığımızı düşünüyoruz.”
Ayrıca şeffaflık, etik, korkuluklar ve AI modellerinin nasıl konuşlandırıldığı da vardır. Boteju şöyle diyor: “Bunlar hem büyük dil modelleri hem de geleneksel yapay zeka için yaygındır. Ancak üretken yapay zekanın finansal hizmetlerde belirli zorlukları vardır, çünkü düzenlenmiş bir endüstriyiz.”
Üretken AI genellikle halüsinasyonlara yol açabileceğinden, bankaların büyük eylem modellerini doğrudan müşterilere nasıl maruz bıraktıkları konusunda çok dikkatli olmaları gerektiğini söylüyor. “Büyük dil modellerinin çıktılarının doğru, doğru ve şeffaf olmasını sağlamak için çok çaba sarf ediyoruz ve önyargı yok.”
Düzenlenmiş bir endüstride, AI modellerinin halüsinasyon yapmamasını sağlamak hayati önem taşır. “Bu muhtemelen gerçekten bilincimiz olması gereken en önemli şeylerden biri” diyor.
Uzman AI modellerine duyulan ihtiyaç
Boteju’nun belirttiği gibi, Google Gemini gibi bir model her şey üzerinde eğitildi. “Bir soru sorarsanız, çıktı her şey hakkındaki bilgisine dayanacaktır. Çok fazla veri üzerinde eğitildi.”
Ancak bu verilerin tümü finansal hizmetlerle ilgili değildir. AI modelini finansal hizmetlere özgü verilerle sınırlandırarak, model teorik olarak daha az halüsinasyon yapmalıdır.
Boteju, “Bir dil modeli veya İngiltere ile ilgili finansal hizmetler verileri üzerinde özel olarak eğitilmiş bir grup model kullanmak istediğimizi oldukça güçlü hissettik” diyor.
Bu, Lloyds Banking Group’un İskoç başlangıç Aveni’ye yaklaşmasına ve finansal hizmetlere özgü bir büyük dil modeli olan Finllm’in gelişimini desteklemesine yol açtı. 2024 yılında şirket, Lloyds ve Nationwide’ın katılımıyla PUMA özel sermayesinden 11 milyon sterlin yatırım sağladı.
Aveni ile yapılan çalışmayı tartışan Boteju, Lloyds Banking Group’un belirli bir modele bağlı olmak istemediğini, bu nedenle vakıf modellerine açık bir yaklaşım almaya karar verdiğini söyledi. AI egemenlik perspektifinden bakıldığında, “Büyük hiper ölçekli modellerle sınırlı olmak istemiyoruz. Teşvik etmek istediğimiz harika bir açık kaynak model ekosistemi var ve İngiltere’de İngiltere merkezli bir finllm yaratabileceğimiz çok cazip bulduğumuz bir şey yaratabiliyoruz.”
Banka, Lloyds Banking Group’ta Grup Denetim ve Davranış Soruşturmaları (GA & CI) tarafından geliştirilen bir denetim chatbot sanal asistanı olan denetim ekibinde FinLLM’yi test ediyor. Chatbot, üretici AI’yı grubun dahili dokümantasyon sistemi Atlas ile entegre ederek bilgi alımını daha hızlı, daha akıllı ve daha sezgisel hale getiriyor.
Boteju, bankanın, topladığı tüm denetim verilerine dayanarak, FINLLM ve denetim bilgisini kullanarak chatbot’u etkili bir şekilde eğittiğini söyledi.
Lloyds Banking Group’un hataları “yargıç olarak ajan” olarak azaltmak için aldığı yaklaşımı açıklıyor. “Belirli bir sonuç elde eden belirli bir modeliniz veya ajanınız olabilir” diyor. “Sonra bu sonuçları gözden geçiren ve etkili bir şekilde puanlayan farklı modeller ve farklı ajanlar geliştireceğiz.”
Banka, AI ajanlarını diğer AI modellerinin çıktısını değerlendirmek için yargıç olarak kullanma yaklaşımını geliştirmek için Aveni ile yakın bir şekilde çalışmaktadır.
Her sonuç bir dizi farklı modelle bağımsız olarak değerlendirilir. AI modellerinden çıktıların gözden geçirilmesi, Lloyd’ların FCA yönergeleri ve bankanın iç düzenlemeleri ile uyumlu olduklarından emin olmalarını sağlar.
Boteju’ya göre, AI modellerinin çıktılarını kontrol etmek, müşterinin kötü tavsiye verilmediğini iki kez kontrol etmenin gerçekten iyi bir yoludur: “Bu korkulukları rafine etme sürecindeyiz ve sahip olmamız zorunludur. [this process] yerinde. “
Boteju, döngüde bir insan bulundurmanın “yargıç olarak ajan” yaklaşımından bağımsız olarak önemli kalacağına dikkat çekiyor. “Gelecekte döngüde insanlar için hala bir yer var” diyor.
Ajanik AI’daki farklı AI modellerinin gücü
Finllm gibi bir AI modeli bankacılığın ins ve çıkışlarını anlamak için ayarlanmış olsa da, Boteju diğer modellerin insan davranışını anlamada çok daha iyi olduğunu söylüyor. Bu, bankanın, müşterinin gerçekte ne dediğini anlamak için CHATGPT 5 veya Google Gemini gibi bir hiperscaler’den AI modellerinden birini kullanabileceği anlamına gelir.
“Daha sonra söylediklerini bileşen parçalarına ayırmak için farklı modeller kullanacağız” diyor. Daha sonra farklı modeller, müşteri sorgusunun her farklı kısmını ele almakla görevlendirilir. “Bunu düşünme şeklimizin, farklı güçlü yönlere sahip farklı modellerin olması ve yapmak istediğimiz şey her görev için en iyi modeli kullanmaktır.”
Bu yaklaşım, bankanın ajan AI’nın konuşlandırıldığını görmesidir. Boteju, ajan yapay zeka ile, sorunların farklı ajanların her parçaya tepki verdiği daha küçük ve daha küçük parçalara ayrıldığını söylüyor. Burada, bir yargıç olarak bir ajana sahip olmak neredeyse bir gözlemci olarak hareket eden ikinci sıradaki bir meslektaş gibidir.