Yapay Zeka ve Makine Öğrenimi , Sağlık Hizmetleri , Sektöre Özgü
Senatör Mark Warner, Google CEO’sundan Yapay Zeka Güveni, Gizliliği ve Etik Uygulamalarını Ele Almasını İstedi
Marianne Kolbasuk McGee (SağlıkBilgisi) •
8 Ağustos 2023
D-Va’dan Senatör Mark Warner, hasta gizliliği ve potansiyel bilgi yanlışlıkları gibi endişeleri dile getirerek Salı günü Google CEO’su Sundar Pichai’yi teknoloji devinin geliştirme ve kullanım çevresinde gizlilik, güven ve etik “korkulukları” nasıl uyguladığı hakkında sorgulayan bir mektup gönderdi. üretken AI ürünü Med-PaLM 2’nin sağlık hizmetleri ortamlarında.
Ayrıca bakınız: İsteğe Bağlı | Modern Bir Veri Koruma Platformu Oluşturmanın Dört Adımı
Google, Nisan ayında tıbbi soruları yanıtlamak için tasarlanmış büyük bir dil modeli olan Med-PaLM 2’yi sınırlı test için Google Cloud müşterilerinin “seçilmiş bir grubuna” sunmaya başladığını söyledi.
Senato Seçilmiş İstihbarat Komitesi başkanı Warner’a göre, bu müşteriler arasında Mayo Clinic Care Network’ün bir üyesi olan Arlington, Virginia merkezli VHC Health de var. Warner, Pichai’ye Med-PaLM 2’nin sağlık hizmetleri ortamlarında nasıl test edildiği konusunda daha fazla “netlik” istediğini söyledi.
“Yapay zeka şüphesiz hasta bakımını ve sağlık sonuçlarını iyileştirmek için muazzam bir potansiyele sahip olsa da, kanıtlanmamış teknolojinin zamanından önce konuşlandırılmasının tıp uzmanlarımıza ve kurumlarımıza olan güvenin aşınmasına, sağlık sonuçlarında mevcut ırksal eşitsizliklerin şiddetlenmesine yol açabileceğinden endişeleniyorum. Warner, teşhis ve bakım verme hataları riskini artırdı” diye yazdı.
Milletvekili, 2019’da Google’ın, hastaların hassas sağlık verilerini onların bilgisi veya rızası olmadan kullanarak tanısal AI modellerini eğitmek için bir avuç büyük hastane sistemiyle “gizli ortaklıklar” yoluyla “sağlık gizliliği yasalarını atlattığı” iddiasıyla ilgili endişelerini dile getirdi (bkz:: Gizlilik Analizi: Google Milyonlarca Hasta Verisine Erişiyor).
“Klinik ortamdaki hataların ölüm kalım sonuçları, son yıllarda sağlık kurumlarına olan güvenin azalması ve sağlık bilgilerinin hassasiyeti göz önüne alındığında, pazar payı oluşturma yarışı hemen göze çarpıyor ve özellikle sağlık sektöründe endişe verici. ” Warner Salı günü Google’a yazdı.
Bir Düzine Soru
Warner, Pichai’yi Google’ın Med-PaLM 2’nin tıbbi ortamlarda geliştirilmesi ve kullanımına ilişkin uygulamalarıyla ilgili bir düzine soruyu yanıtlamaya çağırıyor.
Google’ın yanlış teşhis ve diğer tıbbi hataları önlemek için LLM eğitim verilerinin doğruluğunu ve güncelliğini nasıl sağladığı, hastaların korunan sağlık bilgilerinin gizliliğini nasıl koruduğu ve Med-PaLM’nin kötüye veya uygunsuz kullanımını önlemek için etik “korkuluklar” uyguladığı konuları sorguluyorlar. 2.
Warner, “Bu teknolojiyi geliştirmek ve sağlık hizmetleri topluluğunun AI’nın konuşlandırılmasını ve kullanılmasını yöneten uygun standartlar geliştirmesini sağlamak için daha fazla çalışmaya ihtiyaç olduğu açıktır.”
Bir Google sözcüsü, Information Security Media Group’a yaptığı açıklamada, Warner’ın mektubunda Med-Palm 2’yi “sohbet robotu” olarak tanımlamasına itiraz etti.
”Med-PaLM 2 bir sohbet robotu değildir; büyük dil modelimiz PaLM 2’nin ince ayarlı bir versiyonudur ve tıbbi bilgiyi kodlamak için tasarlanmıştır” dedi.
“Yapay zekanın sağlık hizmetlerini ve tıbbı dönüştürme potansiyeline sahip olduğuna inanıyoruz ve özünde güvenlik, hakkaniyet, kanıt ve mahremiyet ile keşfetmeye kararlıyız. Nisan ayında belirtildiği gibi, Med-PaLM 2’yi seçkin bir grup sağlık kuruluşunun kullanımına sunuyoruz. sınırlı test için, kullanım durumlarını keşfetmek ve geri bildirim paylaşmak için – güvenli ve yardımcı teknoloji oluşturmada kritik bir adım. Bu müşteriler, verileri üzerinde kontrol sahibi olmaya devam ediyor.”
Mayo Clinic, Information Security Media Group’un Warner’ın endişeleri hakkında yorum yapma talebine hemen yanıt vermedi.
Geçen ay Google, Biden yönetiminin AI ürünlerinin geliştirilmesinin güvenli, emniyetli ve güvenilir olmasını sağlamayı gönüllü olarak taahhüt ettiğini söylediği yedi teknoloji şirketi arasında yer aldı (bkz:: 7 Teknoloji Firması, Yapay Zekayı Güvenli Hale Getirmek İçin Beyaz Saray’a Söz Verdi).
Bu taahhüdü yerine getiren diğer büyük teknoloji firmaları arasında Amazon, Anthropic, Inflection, Meta, Microsoft ve OpenAI yer alıyor.
Temmuz ayında, Sağlık ve İnsani Hizmetler Bakanlığı’nın Sağlık Sektörü Siber Güvenlik Koordinasyon Merkezi, siber güvenlik savunma amaçları ve tehdit aktörlerinin kötü niyetli saldırıları da dahil olmak üzere sağlık hizmetlerinde AI kullanımına ışık tutan bir tehdit özeti yayınladı.
HHS HC3, “İleriye doğru, bir kedi-fare oyunu bekleyin,” diye yazdı. “Yapay zeka yetenekleri saldırı çabalarını geliştirdikçe, aynı şeyi savunma için de yapacaklar; en son yeteneklerden haberdar olmak çok önemli olacak.”