Sağlık Sigortacısının Yapay Zeka Aracı İddiaları ‘Yasadışı Şekilde’ Reddediyor

Salı günü Minnesota federal mahkemesinde açılan davada, sigorta devinin plan üyelerine tıbbi açıdan ihtiyaç duyulan sigorta kapsamını reddetmek için naviHealth veya nH Predict AI Modeli adlı bir araç kullandığı iddia ediliyor.

Davada, nH Predict algoritmasının, Medicare Advantage hastalarının akut sonrası bakım ortamlarındaki kapsama kriterlerini, iyileşmeye yönelik “katı ve gerçekçi olmayan tahminlerle” belirlediği iddia ediliyor.

UnitedHealth Group, UnitedHealthcare ve NaviHealth yan kuruluşlarıyla birlikte, her ikisinin de akut sonrası bakımın reddedildiği iddia edilen iki eski Medicare Advantage Planı üyesi Gene Lokken ve Dale Henry Tetzloff’un mülkleri tarafından açılan davada adı geçen davalılar arasında yer alıyor. sigortacı tarafından teminat altına alınır.

Dava, şirketin nH Predict AI Modelini kullanmasının UnitedHealthcare tıbbi inceleme çalışanlarını, bireysel bir hastanın ihtiyaçlarını dikkate almadan bakım hizmetlerini zamanından önce durdurmaya yönlendirdiğini iddia ediyor. Davada, aracın, üyelerin akut sonrası haberlerini reddetmek için kullanılmasının “sistematik, yasa dışı, kötü niyetli ve baskıcı” olduğu iddia ediliyor.

UnitedHealth, normalde şirket tarafından Medicare Advantage poliçesi sahiplerinin tıbbi olarak ihtiyaç duyduğu akut sonrası bakımı karşılamak için harcayacağı önemli miktarda paradan tasarruf etmek amacıyla talepleri reddetmek için nH Predict aracını kullanıyor; bunun yanı sıra “kişiselleştirilmiş, manuel Davada, sigortalıların her birinin taleplerinin gözden geçirilmesi gerektiği belirtiliyor.

Davada, çoğu sağlık çalışanının sigorta kapsamının reddedilmesi nedeniyle temyiz sürecinden vazgeçtiği için sigortacının “haksız retlerden sorumlu tutulmayacaklarını bildikleri için sigortayı agresif bir şekilde reddetmek için” nH Predict aracını kullandığı iddia ediliyor.

Davacılar, UnitedHealthcare ve yan kuruluşlarına karşı eyalet ve federal “sigorta kötü niyet” ihlalleri, sözleşme ihlali ve diğer çeşitli iddialardan oluşan uzun bir liste ileri sürüyorlar.

Dava, fiili, yasal, cezai ve diğer parasal tazminatların yanı sıra UnitedHealth’in uygunsuz ve yasa dışı olduğu iddia edilen talep işleme uygulamalarına son vermesi için bir ihtiyati tedbir kararı verilmesini talep ediyor.

UnitedHealth Grubu Bildirisi

UnitedHealth Group, Bilgi Güvenliği Medya Grubu’na yaptığı açıklamada davanın iddialarına itiraz etti. Şirket, “NaviHealth tahmin aracı kapsam belirlemeleri yapmak için kullanılmaz” dedi.

“Araç, sağlayıcıları, aileleri ve diğer bakıcıları, hastanın hem tesiste hem de eve döndükten sonra ne tür yardım ve bakıma ihtiyaç duyabileceği konusunda bilgilendirmemize yardımcı olacak bir rehber olarak kullanılıyor” dedi.

“Kapsam kararları, Medicare ve Medicaid Hizmetleri Merkezlerinin kapsam kriterlerine ve üyenin planının şartlarına dayanmaktadır. Bu davanın hiçbir değeri yoktur ve kendimizi güçlü bir şekilde savunacağız.”

Büyüyen İnceleme

UnitedHealthcare ve diğer sigorta şirketlerinin Medicare Avantaj Planı kapsamı belirlemelerinde yapay zeka araçlarının ve diğer tartışmalı uygulamaların kullanımı da Kongre tarafından yakın zamanda incelemeye alındı.

Mayıs ayında yapılan bir duruşmada, Senato İç Güvenlik ve Hükümet İşleri Komitesi’nin soruşturmalarla ilgili alt komitesi, UnitedHealthcare’in naviHealth gibi yapay zeka araçlarının kullanımı da dahil olmak üzere Medicare Advantage sağlık planlarının sağlık sigortası kapsamı reddini ve gecikmelerini inceledi.

Bazı uzmanlar, yapay zekanın sağlık hizmetlerinde kullanımının yaygınlaşmasının büyük bir umut vaat ettiğini ancak aynı zamanda önemli bir risk de sunduğunu söylüyor.

Düzenleme avukatı Rachel Rose, “Sağlık hizmetleri ve sigortacılar için en büyük üç kara mayını, olumsuz hasta sonuçları, ayrımcılık ve hukuki sorumluluktur – ister tıbbi uygulama hatası davası, ister Yanlış İddialar Yasası davası veya toplu dava yoluyla olsun,” dedi.

“Ayrımcı, veri gizliliğine sahip ve olumsuz hasta sonuçlarına (hem klinik hem de finansal) sahip olan manipüle edilmiş veya çarpık algoritmalar, hem düzenleyicilerin hem de hukuk avukatlarının odak noktası olacaktır.”

Rose, ister teşhis olsun, ister kapsamın belirlenmesi ya da başka bir klinik karar olsun, “algoritmaya giren bilgi çarpıksa sonuç da çarpık olacaktır” dedi. Yapay zekanın insan gözetiminin kritik olduğunu söyledi.

Beyaz Saray ve Federal Ticaret Komisyonu gibi bazı devlet kurumları da yapay zekanın kullanımında “insan kontrol faktörü”ne sahip olmanın önemini vurguladı (bkz: Biden’ın Yapay Zeka Konulu Kararnamesi: Sağlık Hizmetlerinde Neler Var?).

“Sonuç olarak ne insanlar ne de üretken yapay zeka yakın zamanda ortadan kaybolmayacak. Bu nedenle, süreç ve yapay zeka kullanımı boyunca koruma önlemlerinin alınması ve birlikte çalışılması kritik önem taşıyor.”

Bazı uzmanlar, sağlık sigortacılarının bazı sağlık planı üyelerine belirli teminatları reddetmek için yapay zeka araçlarını kullandığı iddiası hakkındaki tartışmanın, yapay zeka için dikkatle hazırlanmış düzenleyici çerçeveye özel bir ihtiyaç olduğunu gösterdiğini söylüyor.

Mandelbaum Barrett PC hukuk firmasının ortağı ve baş siber güvenlik hukuk sorumlusu avukat Steven Teppler, “Yapay zeka da dahil olmak üzere herhangi bir araç, faydalı, uygunsuz ve yasa dışı amaçlara kullanılabilir” dedi.

“Sağlık hizmetlerinde bu araçların kendi kendini düzenlemesi, finansal arenada olduğundan daha büyük bir risk teşkil ediyor; kripto para birimi arenasında olanları bir düşünün” dedi. “Şikâyette iddia edilen şeyin, eğer doğruysa, olasılığını en aza indirmek için düzenlemelerin dayattığı bir dereceye kadar korkuluklara ihtiyaç var.”