İngiltere Merkez Bankası yapay zekanın ‘kayıtsızlığına’ karşı uyardı


İngiltere Merkez Bankası, özel sektör finans kuruluşları ve yapay zeka (AI) uzmanlarının teknolojinin sektöre faydaları konusunda bilgi sağlayabileceği ve riski yönetebileceği bir konsorsiyum kuruyor.

Hong Kong’da düzenlenen uluslararası bir finans konferansında İngiltere Merkez Bankası’nın finansal istikrardan sorumlu başkan yardımcısı Sarah Breeden, düzenlemenin yapay zekanın önünde kalması gerektiğini söyledi.

Bunun “yalnızca yapay zekanın potansiyel faydalarını değil, aynı zamanda firmaların finansal istikrar risklerine yol açabilecek riskleri yönetmek için benimsediği farklı yaklaşımları daha derinlemesine anlamamıza yardımcı olacağını” söyledi.

Düzenleyici daha sonra en iyi uygulamaları yaymaya çalışacak ve düzenleyici yönergelere ve korkuluklara ne zaman ihtiyaç duyulacağına karar verecektir. Breeden, “Yapay zekanın gücü ve kullanımı hızla artıyor ve rehavete kapılmamalıyız” dedi. “Ekonominin diğer sektörlerindeki teknolojik yeniliklerle ilgili geçmiş deneyimlerimizden, kullanım sistemik ölçeğe ulaştığında riskleri geriye dönük olarak ele almanın zor olduğunu biliyoruz.”

İngiltere Merkez Bankası ve FCA, Birleşik Krallık’taki finansal hizmet firmalarının yapay zeka ve makine öğrenimini nasıl kullandığını izliyor. Breeden’in aktardığı son anketin sonuçları 120 firmayı kapsıyordu. Dörtte üçünün operasyonlarında zaten bir çeşit yapay zeka kullandığını buldu.

Bunun, yanıt veren tüm büyük Birleşik Krallık ve uluslararası bankaları, sigortacıları ve varlık yöneticilerini kapsadığını ve 2022’de aynı ankete göre %53’lük bir artışı temsil ettiğini söyledi.

Breeden, tüm kullanım durumlarının %17’sinin OpenAI’nin GPT4’ü gibi büyük dil modelleri de dahil olmak üzere temel modelleri kullandığını söyledi. Yapay zekanın en yaygın erken kullanım durumlarından bazılarının “finansal istikrar açısından oldukça düşük riskli” olduğunu ekledi. Örneğin, Bank of England araştırması, katılımcıların %41’inin iç süreçleri optimize etmek için yapay zekayı kullandığını, %26’sının ise müşteri desteğini geliştirmek için yapay zekayı kullandığını ortaya çıkardı.

Alımın bir sonraki aşaması

Ancak Breeden, birçok firmanın artık siber saldırı (%37), dolandırıcılık (%33) ve kara para aklama (%20) gibi dış riskleri azaltmak için yapay zekayı kullandığını söyledi.

Breeden’e göre finansal istikrar açısından önemli bir gelişme, yeni kullanım durumlarının ortaya çıkmasıdır. Örneğin ankete katılanların yüzde 16’sının kredi riski değerlendirmesi için yapay zeka kullandığını ve yüzde 19’unun bunu önümüzdeki üç yıl içinde yapmayı planladığını ortaya çıkardığını söyledi. Toplamda %11’lik bir kesim bunu algoritmik ticaret için kullanıyor ve %9’luk bir kesim de bunu önümüzdeki üç yıl içinde yapmayı planlıyor.

Breeden, “Yapay zekanın finans sektöründe ve ekonominin geri kalanında üretkenlik ve büyümeye önemli potansiyel faydalar getirmesi bekleniyor” dedi. “Ancak finans sektörünün bu faydalardan yararlanabilmesi için, finansal düzenleyiciler olarak bizlerin, finansal istikrara yönelik bunlarla birlikte gelen riskleri yönetecek şekilde tasarlanmış politika çerçevelerine sahip olmamız gerekiyor. Ekonomik istikrar büyümenin ve refahın temelini oluşturur. Yapay zekanın onu baltalamasına izin vermek kendi kendini yenilgiye uğratmak olur.

“Bir yandan güçlü yeni bir teknolojinin finansal istikrarı tehdit etmesine izin vermek, diğer yandan da bunun kullanımını engellemek ve büyüme ve inovasyondan mahrum kalmak arasında bir seçim yapmak durumunda kalmak istemiyoruz; çünkü bunu yapmıyoruz. Güvenli bir şekilde benimsenmesini sağlayacak politika çerçevelerine sahip değiliz” dedi.

Breeden, finansal hizmetlerde üretken yapay zeka konusunda “dikkatli olunması” gereken iki konuya dikkat çekti.

Mikro düzeyde, bireysel firmaların güvenliğini ve sağlamlığını sağlayarak, modeller daha da güçlü hale geldikçe ve benimsenme arttıkça, düzenleyicilerin teknolojiden bağımsız düzenleyici çerçevelerin yapay zekadan kaynaklanan finansal istikrar risklerini azaltmak için yeterli olduğundan emin olmaya devam etmeleri gerektiğini söyledi.

Breeden, “Özellikle finansal firmaların yöneticilerinin, yapay zeka modellerinin ayaklarının altında özerk bir şekilde gelişirken ne yaptığını anlayabilmelerini ve yönetebilmelerini sağlamaya odaklanmamız gerekiyor” dedi.

“Finansal sistemin paylaşılan yapay zeka teknolojisine ve altyapı sistemlerine daha fazla bağımlı hale gelmesi durumunda düzenleyici çerçevelerimizi gözden geçirmeliyiz” diye ekledi.



Source link