Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Şirketler Risk Yönetimini Taahhüt Ederek Bakımı Daha Uygun Fiyatlı Hale Getiriyor
Rashmi Ramesh (raşmiramesh_) •
14 Aralık 2023
Perşembe günü iki düzineden fazla sağlık kuruluşu, Amerikalıların sağlık sonuçlarını iyileştirirken güvenliklerini korumak ve hastaları önyargıya karşı korumak amacıyla yapay zekanın sorumlu bir şekilde konuşlandırılmasını taahhüt eden bir Beyaz Saray taahhüdünü imzaladı.
Ayrıca bakınız: BT ve Güvenlikte Yapay Zekanın Geleceği Nedir?
Beyaz Saray, 28 sağlık hizmeti sağlayıcısının gönüllü taahhüdünün, Biden yönetiminin teknolojinin sağlık hizmetini geliştirme vaadinden yararlanırken potansiyel tehlikelerine karşı önleyici adımlar atma çabasında “kritik bir adım” olduğunu söyledi.
Bir Beyaz Saray yetkilisi, “Yönetim, sağlıkla ilgili alanlarda sorumlu yapay zekayı ilerletmek için sahip olduğu her türlü kolu kullanıyor” dedi.
Sağlık hizmeti taahhüdü, önde gelen yapay zeka ve teknoloji şirketlerinin modelleri sorumlu bir şekilde geliştirmeye yönelik daha önceki taahhütlerine dayanıyor ve yapay zeka modeli siber güvenliğine yatırım yapma, kötüye kullanım veya ulusal güvenlik kaygılarına karşı kırmızı ekip oluşturma ve üçüncü taraflardan gelen güvenlik açığı raporlarını kabul etme sözü veriyor.
Sağlık ve İnsani Hizmetler Bakanlığı halihazırda, Biden’ın yapay zekaya ilişkin Ekim ayındaki idari emrinin zorunlu kıldığı şekilde yapay zekayı sorumlu bir şekilde dağıtmak için çerçeveler, politikalar ve potansiyel düzenleyici eylemler geliştirme sürecindedir (bkz: Biden’ın Yapay Zeka Konulu Kararnamesi: Sağlık Hizmetlerinde Neler Var?).
Beyaz Saray, uygun testler, risk azaltma ve insan gözetimi olmadan, klinik kararlar için kullanılan yapay zeka destekli araçların “en iyi ihtimalle maliyetli, en kötü ihtimalle tehlikeli hatalar yapabileceğini” söyledi.
Pazar araştırması, sağlık hizmeti üreten yapay zeka pazarının önümüzdeki on yılda yıllık 30 milyar dolardan fazla değere sahip olacağını öngörüyor.
Yapay zekanın sağlık hizmetlerinde yaygın şekilde benimsenmesi, bilgisayar kaynaklı hatalar konusundaki endişeler nedeniyle hâlâ çetin bir mücadeleyle karşı karşıya kalabilir; çünkü 10 Amerikalıdan 6’sı, kendi sağlık hizmeti sağlayıcılarının hastalıkları teşhis etmek veya tedavi önermek için yapay zekaya güvenmesi durumunda rahatsız olacaklarını söylüyor.
Perşembe günkü gönüllü taahhüdün bir parçası olarak sağlık şirketleri, büyük ölçüde yapay zeka tarafından oluşturulan ve insanlar tarafından incelenmeyen veya düzenlenmeyen içerik aldıklarında kullanıcıları bilgilendireceklerini söyledi. Temel modeller tarafından desteklenen uygulamaları kullanırken, uygulamaların potansiyel zararlarını izlemeye ve gidermeye yardımcı olacak bir risk yönetimi çerçevesine uyacaklarını söylediler.
Eczane ve sağlıklı yaşam zinciri CVS Health, sigortacı Premera Blue Cross ve hastane zinciri Allina Health’in de aralarında bulunduğu şirketler, sağlık sonuçlarını iyileştirmek ve bakıma erişimi daha uygun fiyatlı ve eşitlikçi hale getirmenin yanı sıra klinisyenlerin tükenmişliğini azaltmak için de yapay zekayı kullanacaklarını söyledi.
Katkıda bulunanların listesi, daha dün doktor-hasta konuşmalarını veya klinik belgeleri özetlemek ve talep işlemeyi otomatikleştirmek amacıyla sağlık hizmetlerine özel bir dizi yapay zeka modelinin tanıtımını yapan Google’ı içermiyor. Yanlışlık raporlarının ardından Senatör Mark Warner Ağustos ayında Google’ın şeffaflığı artırması, hasta mahremiyetini koruması ve etik korumalar sağlaması yönünde çağrıda bulunarak, Google’ın çabaları resmi olarak dikkat çekti.
Virginia Demokratı şunları yazdı: “Kanıtlanmamış teknolojinin zamanından önce devreye alınmasının tıp uzmanlarımıza ve kurumlarımıza olan güvenin erozyona uğramasına, sağlık sonuçlarında mevcut ırksal eşitsizliklerin kötüleşmesine ve teşhis ve bakım sağlama hataları riskinin artmasına yol açabileceğinden endişeleniyorum.” .
Yapay zeka yalnızca eğitim verileri kadar iyidir: Tedavi etmeyi düşündüğü popülasyonu doğru bir şekilde temsil eden veriler üzerinde eğitilmezse, teşhisleri cinsiyet ve ırk açısından ayrımcı olabilir. 2019’da yapılan bir araştırma, yüksek riskli hastaları belirlemek için hastanelerde uygulanan bir algoritmanın, Siyah hastaların yüksek riskli olarak işaretlenmeden önce beyaz meslektaşlarından çok daha hasta olmasını gerektirdiğini ortaya çıkardı. Araştırmanın yazarları önyargıyı, sağlık sektörünün siyahi hastalara daha az para harcadığını gösteren tarihsel verilere bağladı ve bu da algoritmanın, siyahi hastaların daha sağlıklı olduğu yönünde hatalı bir sonuca varmasına yol açtı.
Amerikan Hastaneler Birliği tarafından yakın zamanda yapılan bir anket, sağlık hizmetleri yöneticilerinin, 2028 yılına kadar federal bir düzenleyici kurumun, yardımlı teşhis ve kişiselleştirilmiş bakım için yapay zekanın tıbbi ortamlarda kullanımının güvenli olduğunu belirlemesinin ihtimalinin hiç olmamasından daha yüksek olduğuna inandığını gösteriyor.
Dernek, klinik karar araçlarının, yapay zekanın sağlık hizmetlerinde en umut verici uygulamalarından biri olduğunu, görüntülerin teşhis amaçlı taranmasının yanı sıra, yıllardır halihazırda devam eden bir kullanım senaryosu olduğunu söyledi.
Danışmanlık firması McKinsey, Temmuz ayında otomasyon ve analitik üreten yapay zekanın sağlık hizmetlerine yapılan harcamaları 200 milyar ila 360 milyar dolar arasında ortadan kaldırabileceğini yazdı.