NIB Group, NDIS sağlayıcısı tüm sakatlık planı yönetimini satın almasının ardından karmaşık bir veri taşıma programını desteklemek için bir dizi AI destekli iş akışını oluşturdu.
ASX listesinde bulunan sağlık sigortası, e-postalar ve çağrı notları gibi yapılandırılmamış metinlerden yapılandırılmış bilgileri otomatik olarak çıkarmak ve bunları yeni sistem alanlarına eşlemek için Snowflake Cortex’te bulunan büyük dil modeli (LLM) işlevlerini kullandı.
Proje, NIB grubunun Snowflake Cortex’in Meta’nın Lama 70B ile entegrasyonunu kullanarak istemler oluşturduğunu gördü.
NIB Group’ta bir veri ürün yöneticisi olan Pip Staway, San Francisco’daki SnowFlake Zirvesi’nde konuşan ekibinin etkili bir şekilde “ne kadar otomasyon görmek istediğini söyledi [they] Tüm bu farklı veri türlerini yeni bir konsolide sisteme ulaşmak için kullanabilir.
Altı aylık iş kesimi
NIB Group ilk olarak 2018’de Snowflake’i kullanmaya başladı, ancak son zamanlarda her şeyi eski veri platformundan geçirdi ve Snowflake’in veri ambarı platformuna tamamen taşındı.
Karmaşık bir göçle karşı karşıya olan grup, AI için tamamen kar tanesi ekosisteminde geliştirilebilecek iki temel kullanım durumu belirledi.
Bunlardan biri, günlük 30.000’e kadar e -postayı tek iş parçacığı halinde kolaylaştırmak ve sınıflandırmaktı; Bir diğeri, Legacy Records’tan 16.000’den fazla serbest metin alanı güncellemekti.
E-posta iş akışlarıyla başa çıkmak için NIB, gelen iletileri işlemek için kurulmuş birden fazla gelen kutusu vardı, ancak müşteriler genellikle şirket adını arar ve “geri çekilmez” adresler de dahil olmak üzere hangi adrese e-posta gönderir.
Sidaway, “Yüksek öncelikli e-postaları belirleyip tanımlayamayacağımızı ve bu içeriğe dayanarak sınıflandırıp sınıflandıramayacağımızı görmek istedik” dedi.
“İşin kullanım süresini ve çoğaltılmasını azaltabilmemiz için bunu tek bir iş parçacığına da çökmek istedik.
“Onları kategorize etmek için e -postaları etiketlemek istedik, bu yüzden [they were] Onlara yardım etmek için en iyi insanlara gidiyor. ”
Bir AI prototipi oluşturmak için Stidaway, ekibinin “aldığımız yanıtları görmek için farklı modeller denediğini söyledi. Bu yüzden, daha küçük modellerin gerçekten tutarlı bir çıktı sağlamadığını bulduk.”
Bu nedenle, ekip NIB Grubunun proje için bütçesine giren 70 milyar parametre modeli seçti.
“Tüm kategorileri verdik, böylece ne sınıflandırmak istediğimize ilişkin bağlamı temel alarak biliyordu ve sonra söyledik. [it] Çıktıyı nasıl istedik, ekledi.
100 kayıt ile ilk test başarılı oldu. Ancak, 10.000 kayıtlara ölçeklendiğinde, model çıkış biçimlendirme hataları nedeniyle sıklıkla başarısız oldu.
Sidaway’e göre, bu, LLM’ye geçerli bir JSON döndürmemesine ve bunun yerine sözdizimi hataları nedeniyle ayrıştırma işlemini başarısız olan boş dizeleri veya hatalı formlu çıktı döndürmesiyle ilişkilendirildi.
Bu, LLM’nin boş veya hatalı biçimlendirilmiş çıktıyı geri döndürdüğü vakaları işlemek için geri dönüş mantığı ve daha savunmacı istemler kullanılarak düzeltildi.
Test aşaması da insan gözetimi ihtiyacını güçlendirdi.
“Sadece AI’nin kontrol etmeden delirmesine izin vermeyin,” dedi Sidaway izleyicilere. “E -postalarımızda, e -postaların arkasındaki gerçek koda baktığınızda, orada çok sayıda HTML etiketi var. Bu nedenle, akıcı bir uygulama oluşturduk.
“Bu, e -postanın ne olduğuna ve ona uygulanan etiketin doğru olup olmadığını görmek için gerçekten bakmamızı sağladı.”
Programdan elde edilen sonuçlar, NIB grubunun e -postalarının yüzde 20’sini birleşik iş parçacıklarına çökertmesini sağladı, çoğaltmayı azalttı ve müşteri izlenebilirliğini artırdı.
Sidaway, ekibin de yüksek öncelikli e-postaların yaklaşık yüzde 60’ını başarılı bir şekilde etiketlediğini, bu da onları tanımlamalarını ve yanıtlamalarını kolaylaştırdığını da sözlerine ekledi.
Bununla birlikte, en önemlisi, ekip, üçüncü tarafların bir müşteri adına hareket etme yetkisine sahip olduğu kayıtları belirlemeye yardımcı olmak için 10.000 alanı güncellemek için AI kullandı.
“AI kullanmasaydık, birisi manuel olarak içeri girip sistemler arasında kesmek zorunda kalacaktı ve bu yüzden bunun yaklaşık altı aylık iş olacağını tahmin ediyoruz” dedi.
İleriye baktığımızda, grup şimdi daha iyi AI yanıtları için aerodinamik veri keşfi ve semantik modeller için korteks analisti kullanmayı, Select Star’dan veri soyunu kullanarak semantik modelleri bilgilendirmek ve çıktı doğruluğunu artırmak için araştırıyor.
Eleanor Dickinson, San Francisco’daki SnowFlake zirvesine kar tanesi konuğu olarak gitti.