Healthcare Information and Management Systems Society'nin siber güvenlik ve mahremiyetten sorumlu kıdemli müdürü Lee Kim, ABD sağlık sektörünün, Avrupa Birliği Yapay Zeka Yasası da dahil olmak üzere yapay zekayı içeren hükümet düzenleyici ve yasal gelişmeleri yakından izlemesi gerektiğini söyledi.
“Bazı teknolojiler son derece risklidir ve eğer bunlar yasaklanırsa, bu sistemlerde bazı sınırlamalar olur” dedi.
Orlando, Florida'daki HIMSS 2024 konferansı sırasında Information Security Media Group ile yaptığı röportajda Kim, “Bu çok önemli çünkü yapay zeka ile güvenlik arasında bir bağlantı olduğunu görmeye başlıyoruz” dedi.
“Örneğin, askeri bağlamda, yapay zekanın veya diğer sistemlerin bu anlamda otomatikleştirilmesini anlamak istediğimizi bile düşünmüyorum, ancak yapay zeka her şeyin içine yerleştiriliyor. Ve bu, göz kulak olmamız gereken bir şey.”
Kim, birçok üretken ve diğer yapay zeka teknolojisinin “bilgili bir tahminde bulunma” eğiliminde olduğunu söyledi. “Fakat olan şu ki, özellikle sosyal medya, Tik Tok ve diğerleri çağında, çıktıları her zaman gözden geçirmek zorundasınız. Şunu sormalısınız: 'Bir şeyi gözden geçirip bir hatayı görebileceğimiz ayırt etme becerilerimiz hâlâ var mı? , bir ihmal mi?' Bazen hiç de doğru olmayan bir şeyi halüsinasyona uğratabilir” dedi. “Bu yüzden sahte bilgilere ve bu konuda ne yapmamız gerektiğine dikkat etmemiz gerekiyor.”
Kim, yapay zekayı uygulayan veya düşünen tüm sağlık kuruluşlarının, yapay zekanın kurumdaki potansiyel sonuçlarını dikkatlice incelemek için hukuk, klinik, muhasebe ve diğerleri dahil olmak üzere kilit paydaşları temsil eden bir komite kurması gerektiğini söyledi.
Information Security Media Group ile yapılan bu sesli röportajda (fotoğrafın altındaki ses bağlantısına bakın), Kim ayrıca şunları da tartıştı:
- Yapay zekayı ve doğruluğunu test etmeye yönelik öneriler;
- Sağlık hizmetlerinde yapay zekayı ilgilendiren gizlilik ve güvenlik hususları;
- Sağlık sektörü, Change Healthcare olayı gibi büyük bir sektör siber saldırısını içeren potansiyel “başarısızlıklar dizisine” karşı nasıl korunabilir?
Kim, ABD İç Güvenlik Bakanlığı'nın analitik değişim programında ekip lideri olarak görev yaptı ve Ulusal Siber Güvenlik Eğitim ve Öğretim Merkezi Ulusal Ziyaret Komitesi üyesi olarak görev yaptı. HIMSS'e katılmadan önce BT, sağlık teknolojisi, fikri mülkiyet ve gizlilik ve güvenlik alanlarında avukatlık yaptı. Ayrıca daha önce sağlık teknolojisi alanında da çalışmıştır.