Yapay Zeka ve Makine Öğrenimi, Sağlık Hizmetleri, Sektöre Özel
Kabuk Muhafaza Yazıtı ‘Reddet’, CEO’nun Öldürülmesindeki Potansiyel Sebebe İşaret Ediyor
Marianne Kolbasuk McGee (SağlıkBilgi Güvenliği) •
5 Aralık 2024
Kolluk kuvvetleri, UnitedHealthCare CEO’su Brian Thompson’ın öldürülmesinde potansiyel nedenler arıyor ve olay yerinde bulunan mermi kovanları olası bir nedene işaret ediyor: UnitedHealthCare’in tıbbi bakımın bir kısmını kapsamadığı yönündeki iddialara duyulan öfke.
Ayrıca bakınız: Görev teslimi, vatandaş hizmetleri ve eğitimde veri kullanımını en üst düzeye çıkarma
Sigortacı, tazminat kararlarında yapay zeka ve makine öğrenimi teknolojisini kullandığı için eleştirilere maruz kalıyor ve New York Times ve diğer bazı haber kaynakları Perşembe günü, müfettişlerin “geciktirme” ve “reddetme” sözcüklerini incelediğini bildirdi. Thompson’ın Çarşamba günü UnitedHealthCare’in bir yatırımcı toplantısına ev sahipliği yaptığı Hilton otelinin önünde vurulmasının ardından toplanan kovanların üzerinde yazılıydı.
Şirketin iddia edilen kapsam kararı uygulamaları ve genel olarak sağlık sigortası sektörüyle ilgili – derin bir düşmanlık olmasa da – hayal kırıklığı, mevcut veya geçmiş üyelerin sosyal medyada ve haberlerin geri bildirim bölümlerinde kaleme aldığı yorumların yüzlerce olmasa da düzinelercesine yansıdı. Thompson’ın ölümüyle ilgili hikayeler.
Hepsinden önemlisi UnitedHealthcare, yapay zeka ve makine öğrenimi kullanımının şirketi iddiaları “sistematik olarak” reddetmeye ittiği iddiasıyla önerilen federal toplu dava davasıyla karşı karşıya.
Kasım 2023’te açılan ve Nisan ayında UnitedHealthCare’in Tıbbi Avantaj Planları’nın ölen sekiz yaşlı üyesinin mülkleri tarafından değiştirilen böyle bir dava şikayeti, UHC’nin “yasadışı bir şekilde kendilerine borçlu olan yaşlı hastaların bakımını reddetmek için gerçek tıp profesyonellerinin yerine yapay zekayı kullandığını” iddia ediyor. Medicare Avantaj Planları, UHC’nin bildiği bir yapay zeka modeline dayalı olarak tedaviyi yürüten doktorların tıbbi açıdan gerekli bakım konusundaki tespitlerini geçersiz kılmaktadır.[s] %90 hata oranına sahiptir” (bkz.: Dava: Sağlık Sigortacısının Yapay Zeka Aracı Talepleri Yasa Dışı Olarak Reddediyor).
Davada, UHC’nin yapay zeka kullanımının “sahtekarlık planı” olduğu ve şirkete söz verilen bakım için ödeme yapmak zorunda kalmadan politika primleri ve federal finansman şeklinde açık bir mali kazanç sağladığı, yaşlıların ülke çapındaki bakım tesislerinden vaktinden önce atıldığı ya da gerekli tıbbi bakımı almaya devam etmek için aile birikimlerini tüketmek zorunda kalıyorlar, bunun nedeni de yapay zeka modelinin gerçek canlı doktorların tespitleriyle ‘katılmıyor’.”
UHC, Bilgi Güvenliği Medya Grubu’nun davaya veya şirketin haber karar alma uygulamalarına ilişkin diğer iddialara ilişkin yorum talebine derhal yanıt vermedi.
‘Etik İkilem’
Columbia Üniversitesi’nde avukat ve biyoetik alanında yardımcı doçent olan David N. Hoffman, UnitedHealthcare CEO’sunun ölümünün toplumu, yapay zeka sistemlerini ve onların olgunlaşması, kabul görmesi ve kabul görmesi için gereken çalışmayı içeren “temel etik ikilemine” geri getirdiğini söyledi. güven.
“Karar desteği sağlamak için tasarlanan ve uygulanan sistemlerin kasıtlı veya kasıtsız olarak karar değiştirme araçlarına dönüştürüldüğünü defalarca görüyoruz” dedi.
Yapay zeka çıktısının insan gözetiminin çeşitli nedenlerden dolayı başarısız olabileceğini söyledi. “Bunlardan ilki, insanların üzerinde iş ürünü üretme konusunda oluşan zaman baskısı. İkincisi, yapay zeka sisteminin kendi iş ürününü oluşturmak için kullandığı temel bilgiye dair insan anlayışının eksikliği” dedi.
Örnek olarak Hoffman, Apple’ın Apple Intelligence ürününü tanıtmak için şu anda kullandığı bir reklamı gösteriyor.
“Sahne, bir çalışanın bir toplantıda önceden gözden geçirmediği açıkça anlaşılan bir prospektüsü özetlemesinin istenmesiyle açılıyor. Sandalyesini geriye doğru yuvarladığı, bir özet oluşturmak için yapay zeka yazılımına tıkladığı ve ardından hiç bir şey yapmadan görüldüğü görülüyor. Özeti gerçek perspektif belgesiyle karşılaştırarak özeti kendi raporu olarak sunar” dedi.
“Bu, bir yazılım satıcısının açıkça ancak bilmeden, yapay zeka karar desteğinin karar ikamesi haline gelme riskini kabul etmesinin göze çarpan bir örneğidir.”
Hoffman, UnitedHealthcare’in yaşlı hastaların mülklerinden karşı karşıya kaldığı davanın, “karar ikamesi ve şeffaflık eksikliği” ile ilgili benzer endişelere dikkat çektiğini söyledi.
Federal düzenleyiciler ayrıca iddiaları potansiyel olarak reddetmek için yapay zekanın sağlık planlarında kullanımını da inceliyor.
Geçtiğimiz hafta, Sağlık ve İnsani Hizmetler Bakanlığı, Medicare Advantage sigorta planlarında yapay zeka kullanımının sağlıkla ilgili hizmetlere adaletsiz erişime yol açmamasını sağlamaya yardımcı olmak amacıyla “korkuluklar” için önerilen bir kural yayınladı (bkz: Fed, Medicare Avantaj Planları için Korkuluklar Önerdi).
UnitedHealthcare’in ana şirketi UnitedHealth Group da federal mahkemede açılan düzinelerce başka davayla karşı karşıya; bunların çoğu Şubat ayında UHG’nin Change Healthcare BT hizmetleri birimine düzenlenen ve sağlık ekosistemini aylarca bozan siber saldırıyla ilgili.