Hazine Komitesi raporuna göre, Birleşik Krallık halkı ve ülkenin finans sistemi, finans sektöründeki düzenleyicilerin yapay zekanın (AI) getirdiği riskleri yönetmek için “yeterince çaba göstermemesi” nedeniyle “potansiyel ciddi zarara maruz kalıyor”.
Rapora göre Komite başkanı Meg Hillier, finans sektörünün yapay zeka ile ilgili büyük bir olaya hazırlıklı olduğuna inanmıyor.
Bankacılık sektöründen biri, bankalarda çalışan kişilerin, hizmetlerin az sayıda tedarikçiden yoğunlaşması gibi riskleri anlamadıkları ve “batması mümkün olmayan bir savaş gemisinde olduklarını düşündükleri” konusunda uyardı.
Milletvekilleri, risklerin İngiltere Merkez Bankası ve Mali İdare Otoritesi (FCA) tarafından benimsenen ve komitenin “bekle ve gör yaklaşımı” olarak tanımladığı pozisyonların bir sonucu olarak ortaya çıktığını bildirdi.
Milletvekillerinden oluşan komite, “Tüketicileri korumaktan ve Birleşik Krallık ekonomisinde istikrarı sürdürmekten sorumlu olan büyük kamu finans kurumları, finansal hizmetler sektöründe yapay zekanın artan kullanımının ortaya çıkardığı riskleri yönetmek için yeterince çaba göstermiyor” dedi.
Hillier şunları söyledi: “Gördüğüm kanıtlara dayanarak, finansal sistemimizin yapay zeka ile ilgili büyük bir olaya hazırlıklı olduğundan emin değilim ve bu endişe verici. Kamu finans kurumlarımızın bizi bu riske karşı korumak için daha proaktif bir yaklaşım sergilediğini görmek istiyorum.”
Büyük kamu finans kurumları, finansal hizmetler sektöründe yapay zekanın artan kullanımının ortaya çıkardığı riskleri yönetmek için yeterince çaba göstermiyor
Hazine Komitesi
Hazine Komitesi, İngiltere’deki finansal hizmet firmalarının yüzde 75’inin yapay zeka kullandığını söyledi. Yapay zekanın “tüketicilere önemli faydalar sağlayabileceğini” kabul etti ancak teknolojinin güvenli bir şekilde benimsenmesini sağlamak için harekete geçilmesi gerektiği konusunda uyardı.
Stres testi
Komite, İngiltere Merkez Bankası ve FCA’nın, işletmelerin olası bir “yapay zeka kaynaklı piyasa şokuna” hazırlıklılığını artırmak için yapay zekaya özel stres testi yapmasını önerdi. Ayrıca FCA’ya, tüketici koruma kurallarının nasıl uygulanacağı ve finans firmalarında kimlerin hesap verebilir olması gerektiği de dahil olmak üzere yıl sonuna kadar “Yapay Zeka hakkında pratik kılavuz” yayınlaması çağrısında bulundu.
Komite ayrıca hükümete, FCA ve İngiltere Merkez Bankası’na Birleşik Krallık finansal hizmetler sektörüne kritik hizmetler sağlayan finansal olmayan firmalar üzerinde soruşturma ve uygulama yetkisi veren Kritik Üçüncü Taraflar Rejimi programında yapay zeka ve bulut sağlayıcılarını belirleme çağrısında bulundu.
Kuruluşunun üzerinden bir yılı aşkın süre geçmesine rağmen henüz rejime bağlı hiçbir örgüt belirlenmedi.
Birleşik Krallık bankacılık sektöründen isminin gizli kalmasını isteyen bir BT uzmanı, “Yapay zeka ve bulut hizmetlerinin yalnızca birkaç tedarikçiden toplanmasının” büyük bir risk oluşturduğunu söyledi.
“Yoğunlaşma riski daha da kötüleşiyor. Yalnızca iki veya üç bulut hizmeti ve bir avuç büyük yapay zeka sağlayıcısı var ve tüm bankalar bunları kullanıyor. Dolayısıyla, bir şeyler ters giderse tüm finansal sistem tepetaklak olur.”
Şunları ekledi: “Sektördeki insanlardan, yazılımın kendi kendini yazdığını, kendi kendine konuşlandırıldığını, entegre edildiğini ve kendini test ettiğini söyleyen hikayeler duyuyorum. İnsanların artık neler olduğu hakkında hiçbir fikri yok.
“Sorun şu ki, bankalardaki insanlar riski anlamıyorlar ve batamayacak bir savaş gemisinde olduklarını düşünüyorlar” diye ekleyerek, bunun Titanik’e daha çok benzeyebileceği uyarısında bulundu.