Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
İngiliz Milletvekilleri Hükümete Yapay Zeka Dolandırıcılıklarına Karşı Korumayı Artırma Çağrısında Bulundu
Akşaya Asokan (asokan_akshaya) •
23 Ocak 2024
Ulusal Siber Güvenlik Merkezi, Birleşik Krallık’ta üretken yapay zeka destekli fidye yazılımlarının ve ulus devlet saldırılarının bu yıldan sonra artmasının “neredeyse kesinlikle” muhtemel olduğu konusunda uyardı. İngiliz milletvekilleri de hükümete yapay zeka dolandırıcılıklarını önlemek için önlemler almaya çağrıda bulundu.
Ayrıca bakınız: BT ve Güvenlikte Yapay Zekanın Geleceği Nedir?
Yapay zekanın oluşturduğu siber riski değerlendiren bir raporda NCSC, ülkeye yönelik yapay zeka siber tehditlerinin olasılıklarını değerlendirdi ve üretken yapay zeka ve büyük dil modellerindeki gelişmelerin “kesinlikle hacmi artıracağı” ve aynı zamanda “etkisini artıracağı” sonucuna vardı. hackler – teknolojinin daha karmaşık kötü amaçlı uygulamalarının “yüksek olasılıkla kaliteli eğitim verilerine, önemli uzmanlığa (hem yapay zeka hem de siber alanda) ve kaynaklara erişimi olan tehdit aktörleriyle sınırlı olması muhtemeldir.” Raporda ayrıca gelişmiş kullanımların 2025’ten önce görülmesinin muhtemel olmadığı belirtiliyor.
Ulusal Suç Teşkilatı’nın tehditlerden sorumlu genel müdürü James Babbage, “Fidye yazılımı ulusal güvenlik tehdidi olmaya devam ediyor” dedi. “Yapay zekadaki ilerlemeler nedeniyle bu tehditlerin önümüzdeki yıllarda artması muhtemel.”
Ajanslar, tehdit aktörlerinin sosyal mühendislik ve güvenlik kaçakçılığını geliştirmek için yapay zekayı kullanacaklarını, bilgisayar korsanlarının ise teknolojiyi sıfır günden daha hızlı yararlanmak ve büyük miktarda veriyi daha hızlı sızdırmak için kullanabileceğini söyledi.
Teknolojinin siber suçlara giriş engelini azaltacağı ve acemi bir aktörün bile daha sonra yer altı forumlarında satılabilecek saldırı yetenekleri oluşturmasına olanak tanıyacağı öngörüsünde bulundular. Bu alandaki dikkate değer bir gelişme, yeraltı forumlarında üretken hizmet olarak yapay zeka saldırı araçlarının bulunmasıdır.
Daha önce tehdit araştırmacıları, kötü amaçlı kod veya kimlik avı e-postaları oluşturmak için tasarlanmış AI sohbet robotları olan WormGPT ve FraudGPT’nin Telegram ve diğer karanlık web forumlarında 200 ila 1.700 ABD Doları arasında değişen miktarlarda satışa sunulduğunu ortaya çıkarmıştı (bkz.: Suçlular Kötü Amaçlı Üretken Yapay Zeka Aracına Akın Ediyor).
Ajanslardan gelen uyarılar, İngiliz milletvekillerinin dolandırıcıların yapay zeka ses klonlama ve derin sahtekarlıkları kullanarak savunmasız vatandaşları hedef alabileceği ve milyonlarca sterlin değerinde kayıp yaratabilecek suçlar işleyebileceğinden korktuğu bir dönemde geldi.
Pazartesi günü İngiltere parlamentosunda yapılan duruşmada milletvekilleri hükümete tüketicileri yapay zeka dolandırıcılıklarından korumak için yeterli önlemleri almaya çağırdı. Buna, sohbet robotları gibi yapay zeka uygulamalarına yönelik etiketleme de dahildir.
Muhafazakar Parlamento Üyesi Dean Russell, “Tıpkı antivirüs yazılımının bilgisayar kullanıcılarını kötü amaçlı yazılım risklerine karşı uyarması gibi, bu da halkın yapay zeka riskleri konusunda uyarılmasına olanak tanıyan sıradan bir sistem haline gelebilir” dedi.
Bu endişelere yanıt veren parlamentonun bilim ve teknolojiden sorumlu müsteşarı Saqib Bhatti, yakın zamanda kabul edilen Çevrimiçi Güvenlik Yasasının, sosyal medya şirketlerine tanıtımları önlemek için azaltıcı önlemler alma konusunda ek görevler getirmesi nedeniyle çevrimiçi dolandırıcılığın tespitinde çok önemli bir rol oynayacağını söyledi. Yapay zeka destekli dolandırıcılığın
Yasa aynı zamanda yapay zeka tarafından oluşturulan deepfake’lerle mücadele etmeyi de amaçlıyor (bkz: Birleşik Krallık’taki Ofcom Çevrimiçi Güvenlik Yasa Tasarısını Uygulamaya Hazırlanıyor).
Bhatti, hükümetin dolandırıcıların istismar ettiği güvenlik açıklarını ortadan kaldırmak için endüstriyle, sahte altyapıyı kapatmak için istihbarat teşkilatlarıyla birlikte çalıştığını ve “en zararlı suçluları belirleyip adalete teslim etmek için” kolluk kuvvetleriyle birlikte çalıştığını söyledi.
Yapay zeka sistemlerinin güvenliğinin sağlanmasına ilişkin Kasım ayında yayımlanan kılavuzda NCSC, 22 küresel siber kurumla birlikte harici API’lerin kusurlara karşı denetlenmesini, yapay zeka sisteminin güvenilmeyen modeller yüklemesinin önlenmesini ve potansiyel siber kötüye kullanımı önlemek için verilerin harici kaynaklara aktarımının sınırlandırılmasını önerdi. AI (bkz: ABD ve Birleşik Krallık Siber Kuruluşları Küresel Yapay Zeka Güvenlik Rehberine Öncülük Ediyor).