Forrester, büyük dil modelleri (LLM’ler) için operasyonel destek kullanım durumlarının hızla gelişeceğini öngörüyor.
Eylem bileşenleriyle LLM entegrasyonu, finans ve muhasebe, müşteri kabulü veya saha hizmeti uygulaması gibi destek süreçleri için değerli iş arkadaşları haline gelen tamamen özerk işyeri asistanları (AWA’lar) yaratır ve zorluk, girdi ve çıktı şekillendirmenin derecesine bağlıdır.
Benimseme zaman dilimleri dört kriterin bir fonksiyonudur: üretimde, üretime yakın, son kullanıcı şirketi tarafından doğrulanmış ve tedarikçi tarafından aktif olarak desteklenmiş.
Denetim verimliliğini artırın
Yüksek Lisans’ların operasyonel kullanımına bir örnek, dış denetim ücretlerini azaltmak için finans ve muhasebe alanındadır. Her finans müdürü (CFO), dış denetçinin faturalandırılabilir saatlerini azaltmak ister. Yüksek Lisans’lar denetçi sorularını yanıtlayabilir ve bilgi toplamak için gereken saatleri ve dahili personeli azaltabilir.
Trullion CEO’su Isaac Heller, denetim gibi somut alanların LLM’ler için ilk öncelik olacağına inanıyor. Karmaşık faiz oranlarını ve kira yükümlülüklerini hesaplamak için dahili belgelerden müşteri kira verilerini alan ve bir Yüksek Lisans’tan kamuya açık verileri kullanan bir Trullion müşterisinden bahsediyor. Bu birleşme, SEC raporlaması ve mali açıklamalar için kiralanan bir varlığın değerinin tahmin edilmesine olanak tanıdı.
Uzun vadede LLM’ler finansal ve planlama senaryoları üretebilecek ve stratejik bir fark yaratabilecektir. Örneğin, Yüksek Lisans’tan 10 tam zamanlı çalışanın (FTE) pazarlamadan üretime geçmesinin dördüncü çeyrek gelir tablosu üzerindeki etkisini tahmin etmesi istenebilir.
Çalışan self servis
Yüksek Lisans’ların bir diğer potansiyel operasyonel kullanımı, çalışanların self servisini yönlendiren insan kaynakları (İK) politikalarıdır. Günümüzün çalışan self-servis sohbet robotları hazır aramalara bağımlıdır ve bu da yüksek oranda başarısız sorgularla sonuçlanır. Yüksek Lisans’lar bunların yerini alacak ve ebeveyn izni için kalan PTO (ücretli izin) gün sayısı gibi soruları yanıtlayacak.
Sağlayıcılar birden fazla Yüksek Lisans kullanmayı planlıyor ve bazıları halüsinasyon oranlarını %3’ün altına düşürdü. AWA’lar, uygulama programlama arayüzlerini (API’ler) ve çalışma modellerini temel sistemlere çalışan verileriyle koordine edecek. Örneğin, doğrulama için dar model desteğine sahip bir LLM, İK politikanızı alabilir.
Dahili sistemlerden çalışanın durumu ve geçmişine ilişkin bir bilgi istemi, bir çalışanı yarı zamanlı çalışmadan tam zamanlı çalışmaya geçirmek için yardım isteyebilir. İşlem sonrası eylemler, robotik süreç otomasyonu (RPA) botlarını veya API’leri diğer sistemlere yönlendiren bir eylemler menüsü önermek için AWA’ya bırakılır.
Teknisyenler için yardım
Saha hizmetinde, Yüksek Lisans’lar çeşitli saha onarımı kullanım durumlarına rehberlik edebilir. LLM’ler, eğitim maliyetlerini azaltan önemli bir yetenek olan uygun beceri seviyesindeki teknisyenler için onarım rehberliği oluşturabilir. Pek çok onarım senaryosu için bir teknisyen, görüntüler veya tanılama verileriyle Yüksek Lisans’a başvurabilir ve uzman bir teknisyene veya acemiye uygun bir yanıt isteyebilir.
Opus IVS’nin başkan yardımcısı Jim Fish şunları söylüyor: “Bugün, çok adımlı bir süreçte birçok Yüksek Lisans Programı kullanıyoruz. Nihai cevabı iyileştirmek için sonuçları başka bir çok adımlı süreçle bileşik olarak besliyoruz.”
Opus’un bu LLM’yi beta olarak kullanan ve çeşitli geri bildirimler sağlayan 21.000 saha teknisyeni var. Bazı halüsinasyonlar gördüler ama çoğunlukla olumlu girdilerdi.
Daha odaklı müşteri iletişimi
LLM’ler ayrıca potansiyel müşteri listelerini inceleyebilir, daha iyi müşteri bağlamıyla müşteri deneyimini (CX) artırabilir veya daha net ve daha kişisel müşteri iletişimi sağlayabilir. Potansiyel müşteri listeleri her zaman vasıfsız potansiyel müşteriler içerir. Bir Yüksek Lisans, değerli bir satış çabası başlamadan önce bunları ortadan kaldırabilir.
Örneğin, Neto adlı bir startup, bir güneş enerjisi şirketinin bariz çıkmazları ortadan kaldırmak için kullandığı Ani adında LLM destekli bir AWA yarattı. Ormanlık coğrafyalar, kiracılar veya düşük kredi puanları da kötü müşteri adaylarını masadan kaldırır. Bir AWA için gereken birleşik bileşenlerin iyi bir örneğidir. Neto’nun çözümü, iletişimi yönetmek için Twilio’yu ve yapay zeka odaklı süreç yürütmeyi ve lojistiği yönetmek için konuşmaya dayalı bir yapay zeka platformu olan Amelia’yı birleştiriyor.
Neto’nun baş teknoloji sorumlusu ve kurucu ortağı Akhil Tolani’ye göre, Yüksek Lisans’lar tek başına iş için asla yeterince güvenli olmayacak. “İstatistikler kullanılacak bir sonraki en iyi kelimeyi seçecek ancak genel bir güven puanı hesaplayamıyor. Bu nedenle tutarsızlık ve halüsinasyonlar her zaman mümkündür” diyor.
Müşteri hizmetleri çağrılarının yazıya geçirilmesi
LLM’ler için başka bir kullanım durumu, çağrı sonrası not almayı ortadan kaldırmak için müşteri dönüşümlerini özetlemektir. Örneğin, AT&T çağrı merkezindeki müşteri hizmetleri çalışanları yakın zamanda müşteri aramaları sırasında kendi notlarını almayı bıraktı. Bunun yerine yapay zeka, yöneticilerinin inceleyebileceği bir transkript oluşturdu ve operatörlerin müşterilere ne söylemesi gerektiğini önerdi.
Hizmet olarak müşteri deneyimi teknolojisi sağlayıcısı Genesys’in dijital, yapay zeka ve yolculuk analitiğinden sorumlu kıdemli başkan yardımcısı ve genel müdürü Brett Weigl şunları söylüyor: “LLM’lerin potansiyelini görüyoruz ve bunu yapmak pratik hale geldiğinde , bunları bir müşteri ile bir temsilci arasındaki aramaları özetlemek için kullandık. Çoğu durumda özet yaklaşık altı satırlık bir metinden oluşur ve temsilcinin bu notları girmemesi ROI sağlar. [return on investment].”
Belge netliğini iyileştirin
LLM’ler ayrıca müşteri iletişimlerinin netliğini, tonunu ve anlaşılmasını geliştirmek için de kullanılabilir. Örneğin sigorta talepleri, şikayetler ve müşteri kabulü, doğru ton ve okuma seviyesiyle net yazmanın avantajlarından yararlanabilir. Sigorta ölüm talepleri genellikle rutin bir “çamurluk bükücü” ile aynı tondadır. Birçok tedarikçi bu sorunu çözmeye çalışıyor.
Messagepoint’in Destekli Yazma özelliği, bir LLM’ye bağlantı aracılığıyla yapılandırılmış istemleri destekler. Önerilen yeniden yazmalar veya özetlemeler döndürülür. LLM’ye hiçbir müşteri verisi gönderilmez ve talimatlar, LLM’nin kurumsal içerik ve bilgilerden öğrenmesine ve bunlardan ödün vermesine karşı koruma sağlar.
Mesaj noktasının ürün yönetiminden sorumlu başkan yardımcısı Patrick Kehoe şunları söylüyor: “LLM’lerin bugün geldiği nokta göz önüne alındığında, döngüdeki insan adımı çok önemli. Çok fazla gecikme olup olmadığını görmek için yaklaşımı test edeceğiz. Birleşik Krallık’ın Mali Davranış Otoritesi Tüketici Vergisi gibi Avrupa girişimleri müşterilerle daha şeffaf ve net iletişim istiyor. Bu yardımcı olabilir.”
Riskler ve ödüller
LLM’lerden yararlanan AWA’ların teknik riskleri olacaktır. Bunları değerlendirirken Forrester, BT karar vericilerinin her şey için Yüksek Lisans kullanma baskısından kaçınmalarını ve gelişmiş yardım için dar model sağlayıcılara bakmalarını öneriyor.
İşletmeler Yüksek Lisans’larını ait olmadıkları yerlere itme riskiyle karşı karşıyadır. Yaygın ve yüksek hacimli bir belgeye göre uyarlanmış dar bir model yeterli olabilir. Örneğin, fatura işleme için, daha basit bir çıkarma modeli kanıtlanmışken ve daha az bilgisayar gücü ve lisans ücreti gerektiriyorken neden bilgi çıkarmak için Yüksek Lisans kullanasınız ki? Fil silahıyla fare avlamayın. Forrester, BT karar vericilerinin ellerindeki modeli veya eğer yapabiliyorlarsa daha basit bir modeli kullanmalarını öneriyor.
Yüksek Lisans derecelerine bakıldığında sağlayıcı sıkıntısı yok ancak Forrester, güçlü desteğin yıllardır özel modeller geliştiren tedarikçilerden gelebileceğini belirtiyor. Kamuya açık modeller önemli bir rol oynuyor ancak dijital süreç otomasyonu (DPA) veya RPA’ya sahip AWA’lar tarafından desteklenen ticari modeller, kritik girdi ve çıktı şekillendirme görevlerinin üstesinden gelecektir.
Forrester’ın Temmuz 2023 raporuna göre Yapay zeka nabız araştırmasıİşletmeleri üretken bir yapay zeka (GenAI) stratejisine sahip olan yapay zeka karar vericilerinin %16’sı, kuruluşlarının mevcut açık kaynaklı LLM’lerden yararlandığını, %42’si ise tedarikçilerin mevcut ticari temel LLM’lerinden yararlandığını söylüyor. Örneğin, yapay zeka odaklı süreç yürütme özelliğine sahip etkileşimli yapay zeka platformu Amelia, özel bir bulut çözümü olarak sizin için genel bir Yüksek Lisans Programına ev sahipliği yapacak, gerekli bakım ve eğitimi destekleyecek ve ön işleme konusunda yardımcı olacaktır.
Forrester, DPA ile denemeler yapmak için mevcut AWA tedarikçilerinin kullanılmasını önerir. RPA ve kurumsal uygulama tedarikçileri LLM’leri entegre ediyor. Örneğin, RPA tedarikçileri tüm çalışanların bir dijital asistana sahip olmasını istiyor ve bu da piyasayı oluşturan görev otomasyonunu genişletiyor. LLM’ler ihtiyaç duydukları itici güç olabilir.
Bu makale, Forrester’ın başkan yardımcısı baş analisti Craig Le Clair’in “Operasyonel süreçler kısa vadede yüksek lisans için en uygun nokta olacak” başlıklı Forrester raporuna dayanmaktadır.