Bu Help Net Security röportajında Team8 Health Yönetici Ortağı Assaf Mischari, GenAI sağlık hizmetleri yenilikleriyle ilişkili riskleri ve bunların hasta mahremiyeti üzerindeki etkilerini tartışıyor.
GenAI bağlamında sağlık hizmetlerinde karşılaşılan temel siber güvenlik zorlukları nelerdir ve bunlar etkili bir şekilde nasıl ele alınabilir?
Sağlık sektörü, gelişen teknolojilerin ardından diğer sektörlerin karşılaştığı zorlukların birçoğuyla karşı karşıyadır ve dikkate alınması ve ele alınması gereken ince farklılıklara sahiptir.
Örneğin gizli kalmasını istediğimiz temel veri noktaları arasındaki farklar. PII’yi PHI ile karşılaştırmak, PII’nin daha geniş bir kapsama sahip olduğunu ve daha az düzenlendiğini, daha kapsamlı kuruluşlar tarafından ele alındığını ve erişildiğini ve (bu noktada) para kazanmanın daha kolay olduğunu göstermektedir. Ancak PHI içerik açısından daha zengindir ve kimlik avı ve tıbbi sahtekarlık için daha etkili bir şekilde kullanılabilir.
Sağlık sağlayıcıları da modern altyapı ve siber güvenlik önlemleri konusunda geride kalıyor. Bu kombinasyon PHI’nın saldırganların hedeflemesini kolaylaştırır.
Yapay zeka modellerinin nasıl geliştirildiğine baktığımızda ırk, etnik köken ve cinsiyet söz konusu olduğunda birçok tarihsel ve toplumsal önyargının yansıtılabileceğini görüyoruz. Sağlık hizmetlerinde algoritmik adalet kritik öneme sahiptir çünkü yapay zeka modellerinin kararları hastanın sağlığını, tedavi önerilerini ve genel refahını doğrudan etkileyebilir. Sağlık hizmetlerinde önyargılı veya adil olmayan modeller, yanlış teşhise ve uygunsuz tedaviye yol açarak algoritmik önyargının sonuçlarını daha ağır hale getirebilir.
GenAI’nin özellikle verimlilik ve karar alma konusunda sağlık hizmetleri operasyonlarını ve hasta bakımını nasıl dönüştürdüğünü düşünüyorsunuz?
GenAI’nin sağlık profesyonelleri üzerinde derin bir etkisi olacak. Sağlık profesyonellerinin “lisanslarının en üst düzeyinde” çalışmasını engelleyen idari yüklerin, bu araçların benimsenmesiyle hafiflediğini göreceğiz.
Örneğin yapay zeka destekli araçlar, elektronik sağlık kayıtlarının (EHR) veri girişini, çıkarılmasını ve analizini otomatikleştirebilir. NLP teknikleri, yapılandırılmamış klinik notlardan ilgili bilgileri çıkarabilir ve EHR’deki yapılandırılmış alanları doldurabilir. Tahmine dayalı analitik sayesinde sağlık uzmanları hasta akışını, personel ihtiyaçlarını ve kaynak kullanımını öngörerek proaktif karar alma ve kaynak tahsisine olanak sağlayabilir. Randevu planlama ve hatırlatmalar, önceden yetkilendirme ve taleplerin işlenmesi ve iş akışı optimizasyonunun tümü dijital dönüşüm için hazırdır.
GenAI sonuçta teşhis için tercih edilen yöntem olacaktır çünkü AI algoritmaları tıbbi kayıtlar, görüntüleme taramaları ve laboratuvar sonuçları dahil olmak üzere çok büyük miktarda hasta verisini analiz edebilir. Makine öğrenimi algoritmaları, verilerdeki insanların tespit etmesi zor olabilecek ince kalıpları ve korelasyonları tanımlayabilir ve yapay zeka modelleri, girdi verilerine dayanarak tutarlı ve objektif teşhisler sunarak insanların önyargı potansiyelini azaltabilir.
Bu noktada, konu bir hastayla görüşürken veri toplamak ve saf veriler üzerinde analiz yapmak olduğunda insanların hâlâ bağlam avantajına sahip olduğunu kabul etmek önemlidir. Bu muhtemelen teşhisin geleceğinin işbirlikçi olacağına dair bir ipucu verecektir.
Sağlık hizmeti verilerinin hassasiyeti göz önüne alındığında, GenAI yeniliklerinin hasta mahremiyetini tehlikeye atmamasını sağlamak için ne gibi önlemler alınmalıdır?
PHI büyük ölçüde yapılandırılmamış olsa da, yeniliğe izin verirken riski azaltmak için birçok önlem kullanılabilir; örneğin, verilerin anonimleştirilmesi ve hem PII hem de PHI’nın kimliksizleştirilmesi gerekli olacaktır.
Kişisel olarak tanımlanabilir bilgileri (PII) GenAI eğitimi için kullanılmadan önce sağlık verilerinden kaldıran anonimleştirme ve kimliksizleştirme (veri maskeleme, tokenizasyon veya şifreleme) teknikleri, HIPAA ve GDPR gibi gizlilik düzenlemelerine uygunluğun sağlanmasına yardımcı olacak ve daha fazla benimsenmeye yol açacaktır. ve sağlık hizmetlerinde GenAI araçlarına duyulan güven.
Ham hasta verilerine doğrudan erişmeden veya bunları paylaşmadan GenAI modellerinin eğitimine olanak tanıyan geliştirilmiş gizliliği koruyan teknikler kullanılmalıdır. Örneğin, birleşik öğrenme, diferansiyel gizlilik ve homomorfik şifrelemenin tümü güvenlik avantajları sunar.
Güvenli veri depolama ve erişim kontrollerinin tartışılamaz olduğunu söylemeye gerek yok. Sağlık hizmeti verilerinin, sıkı erişim kontrolleri ve çok faktörlü kimlik doğrulama (MFA) gibi katı kimlik doğrulama yöntemleriyle güvenli, şifrelenmiş veritabanlarında saklanması gereklidir.
GenAI’nin sağlık hizmetlerindeki etik sonuçlarını, özellikle de veri yanlılığı ve adil tedavi sonuçlarının sağlanması konusunda tartışabilir misiniz?
Tarihsel olarak, sağlık verileri ırk, etnik köken ve cinsiyet söz konusu olduğunda birçok yerleşik önyargıya sahiptir ancak GenAI’daki önyargı, eğitim veri kümesindeki, özellik seçiminde, veri toplamada, etiketleme sürecinde ve hatta model mimarisinin kendisindeki önyargılardan kaynaklanabilir.
GenAI modellerinin karar verme süreci şeffaf olmalı ve sağlık hizmeti sağlayıcıları ve hastalar için açıklanabilir olmalıdır. Yorumlanabilirlikten yoksun kara kutu modelleri, güveni ve hesap verebilirliği engelleyebilir, önyargıların veya hataların tanımlanmasını ve ele alınmasını zorlaştırabilir. Açıklanabilir yapay zeka teknikleri geliştirmek ve GenAI tarafından oluşturulan öneriler için net açıklamalar sağlamak, güveni artırabilir ve bilinçli karar almayı mümkün kılabilir.
GenAI’nin sağlık hizmetlerindeki hızlı ilerlemesine uyum sağlamak için mevcut düzenleyici çerçevelerin nasıl gelişmesi gerektiğini düşünüyorsunuz?
Sağlık sektörü büyük bir adım attı ama bu ilk değil. Yıllar önce cihazlar ve ilaçlar için klinik denemeler başlatarak benzer bir büyüklükte sıçrama yaşadık. Satıcılar tarafından toplanan verilere bağlı olmayan, standartlaştırılmış “ML klinik siteleri” için daha sağlam bir altyapıya ihtiyacımız olabilir. Örneğin, önyargı açısından incelenen veri kümeleri ile şeffaflık ve açıklanabilirlik testleri içeren kontrollü bir korumalı alan, makine öğrenimi modellerinin oluşturulmasını hızlandıracak ve genel kaliteyi artıracaktır.
Sağlık kuruluşları GenAI teknolojilerini kullanarak halkın güvenini oluşturmak ve sürdürmek için hangi adımları atmalıdır?
Bana göre sağlık kuruluşlarının GenAI kullanımları ve bu teknolojiyi benimsemenin hastalar için yaratabileceği çeşitli sonuçlar konusunda şeffaf olmaları gerekiyor. Hasta güvenliğine ve mahremiyetine öncelik vermek ve AI endişelerini sürekli olarak izlemek, iyileştirmek ve ele almak bir zorunluluktur.