Siber güvenlik firması Aplite’nin kurucusu ve genel müdürü Sina Yazdanmehr ve BT danışmanı Lucian Ciobotaru, bilgisayar korsanlarının bazı sağlık uygulamaları tarafından oluşturulan ve paylaşılan verileri manipüle etmek için yapay zekayı potansiyel olarak kullanabileceğini, bu da verilerin doğruluğunu ve bütünlüğünü azaltabileceğini söyledi. İkili yakın zamanda Google Health Connect’i içeren bir araştırma projesine öncülük etti.
Proje için Yazdanmehr ve Ciobotaru, Google Health Connect’ten veri toplayan ve bunları kötü amaçlı yapay zeka tabanlı bir uygulamaya gönderen kötü amaçlı yazılım oluşturdu. Yapay zeka, bir diyabet yönetimi uygulaması kullanıcısı için yanlış kan şekeri bilgisi okumaları gibi, bireylerin tıbbi durumlarına göre uyarlanmış sahte veriler hazırladı.
Google Health Connect, kullanıcıların fitness ve sağlık uygulamalarındaki verileri birleştirir ve paylaşılan sağlık uygulaması bilgilerini Google Fit kontrol panellerinde görüntüler.
Araştırmacılar, Information Security Media Group ile ortak bir röportajda, manipülasyonun, kötü amaçlı AI uygulamasının, kullanıcıların sağlık ve fitness uygulamalarının çıktılarını, kullanıcı farkına varmadan yanlış tedaviler ve öneriler önermeye yönlendirmesine izin verdiğini söyledi.
Araştırmacılar, Aplite projesinin Google Health Connect verilerini içermesine rağmen, bu tür yapay zeka destekli veri manipülasyonunun herhangi bir tıbbi uygulama veya cihaz için potansiyel bir endişe kaynağı olduğunu söyledi.
Ciobotaru, “Uygulamalara, hatta uygulamalara bağlı cihazlara körü körüne güvenmenin büyük bir risk olduğunu düşünüyorum çünkü bir doktor olarak, hastanın her gün gördüğü bir şeyle çelişmek çok zordur.” dedi.
Yapay zekadan kaynaklanan tıbbi yanlış bilgilerin yol açtığı aksiliklerin önlenmesine yardımcı olmak için, hastalar ve sağlık hizmeti sağlayıcılarının yanı sıra teknoloji geliştiricilerinin de sağlıkla ilgili kararların alınmasında kullanılacak veri kaynaklarını doğrulaması kritik önem taşıyor.
Yazdanmehr, “Her zaman verinin kaynağını kontrol edin ve aldığınız ve tükettiğiniz verilerin güvenilir bir kaynak ve uygulamadan geldiğinden emin olun.” dedi.
Sonuç olarak, “Bu ortamı güvenli ve emniyetli hale getirmeliyiz ki herkes onu sorunsuz bir şekilde kullanabilsin.”
Google Health, ISMG’nin Yazdanmehr ve Ciobotaru’nun bulgularına ilişkin yorum yapma talebine hemen yanıt vermedi.
Bilgi Güvenliği Medya Grubu ile yapılan bu sesli röportajda (fotoğrafların altındaki ses bağlantısına bakın), Yazdanmehr ve Ciobotaru ayrıca şunları da tartıştı:
- Araştırma bulgularının ayrıntılı sonuçları;
- Kötü niyetli yapay zekanın hasta güvenliği ve refahı açısından potansiyel olarak oluşturduğu riskler;
- Sağlık uygulamalarını ve cihazlarını etkileyen yapay zekanın kötü niyetli kullanımı riski nasıl azaltılır?
Aplite’ın kurucusu Yazdanmehr, on yıldan fazla deneyime sahip bir BT güvenlik danışmanı ve araştırmacısıdır. Uygulamalı değerlendirmelerden stratejik güvenlik girişimlerine kadar çok çeşitli projelere liderlik etti ve Fortune 500 şirketleri de dahil olmak üzere çeşitli sektörlere danışmanlık sağladı.
Ciobutaru, penetrasyon testi ve güvenlik açığı yönetimine odaklanan bir Aplite BT güvenlik danışmanıdır. Sağlık altyapısını daha güvenli hale getirme hedefiyle siber güvenlik uzmanı olmayı seçen bir tıp mezunudur.