Amerika Birleşik Devletleri’nde, Gıda ve İlaç İdaresi (FDA), sağlık ürünlerinin güvenli ve etkili olmasını sağlamaktan sorumludur. Benzer şekilde, Sağlık Bilgi Teknolojileri Ulusal Koordinatörlüğü Ofisi (ONC), hükümetin sağlıkla ilgili BT çalışmalarına öncülük eder ve sağlık sektöründe standartlara dayalı bilgi alışverişini teşvik eder.
Yeni teknolojiler gibi Yapay zeka ve makine öğrenimi Sağlık hizmetlerinde daha büyük rol oynayan bu kuruluşlar, önerilen kılavuzları yayınlıyor ve bu teknolojilerin hasta güvenliğini ve tedavi etkinliğini nasıl etkileyeceğine ilişkin kamuoyunu geri bildirimde bulunmaya davet ediyor.
Sağlık Hizmetinde Yapay Zeka Şeffaflığı
Bilim ve sağlık hizmetlerinde bir şeyin neden çalıştığını ve nasıl çalıştığını bilmek istiyoruz. Bilim açıklanabilirlik ve anlayışla ilgilidir. Bunu akılda tutarak, bakım sağlarken kullandığımız araçların şeffaf olmasını beklemek mantıklı olacaktır. Hem nasıl yaratıldıkları, ne tavsiye ettikleri açısından anlaşılabilmeleri hayati önem taşıyor.
FDA bir tartışma belgesi yayınladı ve sağlık yapay zekasına uygulayacağı düzenleyici çerçeveyi bilgilendirmek için sektörden geri bildirim topluyor. Tartışma belgesi üç ana alana odaklanmaktadır:
İnsan liderliğindeki yönetim, hesap verebilirlik ve şeffaflık. FDA, hesap verebilirliğe yardımcı olmak ve modelin yasal ve etik kurallara bağlı kalmasını sağlamak için yapay zeka modeli geliştirme ve dağıtımının her aşamasına insanların dahil edilmesinin değerini vurguluyor.
Verilerin kalitesi, güvenilirliği ve temsil edilebilirliği. Bir yapay zeka modeli yalnızca onu eğitmek için kullanılan veriler kadar iyi olduğundan, bu eğitim verilerinin kalitesi ve uygunluğu hayati öneme sahiptir. Tutarlı girdiler tutarlı sonuçlar üretmeli ve örnek veriler amaçlanan hasta popülasyonuna yeterince benzer olmalıdır.
Model geliştirme, performans, izleme ve doğrulama. Sağlık hizmetleriyle ilgili karar vermede bir yapay zeka modeli kullanmanın doğasında olan riski değerlendirirken göz önünde bulundurulması gereken iki temel faktör vardır: model etkisi (bir karar vermede modelin tavsiyesine ne kadar ağırlık verilir) ve kararın sonucu (bir kararın potansiyel sonuçlarının ne kadar önemli olduğu). yanlış bir karar olabilir).
FDA ayrıca yapay zekanın sağlık hizmetlerinde birçok spesifik kullanımını daha ayrıntılı olarak ele aldı, ancak yukarıda özetlenen üç odak alanı, bu alandaki yapay zeka araçlarının dikkate alınması ve değerlendirilmesi için temel bir çerçeve sağlıyor.
DSİ’ler için Yeni ONC Kuralları
ONC, sağlık sektörünün çalışma şekli için hayati önem taşıyan elektronik sağlık kayıtlarının (EHR’ler) sertifikalandırılmasından sorumludur. Yeni önerilen bir kural ONC HTI-1 olarak bilinir Ajansın EHR’lere ve sağlık hizmetleri veri yönetimine yaklaşımını modernleştirmek için tasarlanmış bir dizi hüküm içermektedir. AI/ML’yi açıkça ele almasa da sağlık kuruluşlarının, karar destek müdahaleleri (DSI’ler) etrafındaki kurallarda yapılan düzenlemelerin bu yeni teknolojiler için önemli etkileri olduğunu anlaması önemlidir.
Önerilen kurallar DSI’ları şu şekilde tanımlamaktadır: “Eğitim veya örnek verilerden ilişkiler türeten ve daha sonra tahmin, sınıflandırma, öneri, değerlendirme veya analizle ilgili ancak bunlarla sınırlı olmamak üzere çıktı veya çıktılar üretmek için kullanılan algoritmalara veya modellere dayalı karar almayı desteklemeyi amaçlayan teknoloji. ” Yeni kurallar, bu şekilde kullanılan modellerin “adil, uygun, geçerli, etkili ve güvenli” olmasını sağlamak için özel olarak ortaya konmuştur. veya kısaca FAVES. Bu, veri şeffaflığı gerekliliklerinin arttırılması ve sertifikalı sağlık BT geliştiricilerinin DSI modelleriyle ilgili riskleri nasıl yönettiklerine ilişkin kamuya açıklama yapılması yoluyla gerçekleştirilecektir.
ONC aynı zamanda eşitlik ve adaletin sağlanması, model yanlılığının önlenmesi, eğitimin adil, geniş örneklemli ve modelin hitap ettiği hedef kitleye uygun olması konusunda da oldukça kaygılıdır. Modelin girdi verileriyle ilgili de endişeler var; bir modelin öneride bulunmak için hangi girdileri kullandığı konusunda açık ve şeffaf olmak. Bu ONC endişeleri, FDA’nın “güvenlik ve etkililik” odağıyla yakından örtüşüyor ve bu kavramların sağlık teknolojisindeki önemini vurguluyor.
Sağlık Şirketlerinin AI/ML Araçlarını Kullanma Konusunda Bilmesi Gerekenler
ONC ve FDA tarafından yayınlanan önerilen kurallar ve tartışma belgeleri, yapay zekanın sağlık hizmetlerinde kullanılması söz konusu olduğunda güvenlik ve etkinliğin çok önemli olduğunu açıkça ortaya koymalıdır. Bu hedeflere, kullanılan araçların şeffaf, güvenilir ve açıklanabilir olmasını sağlayarak ulaşılabilir.
Modellerin ve araçların önyargısız, güvenli ve etkili bakım sağlamaya yardımcı olacak şekilde geliştirilmesini ve kullanılmasını sağlamak için çalışmalar yapılırken, sektör liderlerinin aynı zamanda işin sağlam güvenlik uygulamalarıyla korunmasını sağlamaya da net bir şekilde odaklanması gerekiyor. . Şundan açıkça anlaşılıyor FDA’nın kuralı 524B ve güvenlik olmadan güvenli ve etkili sistemlere sahip olamayacağımızı belirten tıbbi cihazlarla ilgili son kılavuzlar. Güvenlik, kalitenin kritik bir bileşenidir.
Devamını oku Google Cloud’dan İş Ortağı Perspektifleri