Pek çok güvenlik ve operasyon ekibi artık ajansal yapay zekanın üretime dahil olup olmadığını sormak için daha az zaman harcıyor ve onu geniş ölçekte güvenli bir şekilde nasıl çalıştıracakları üzerinde çalışmaya daha fazla zaman harcıyor. Yeni bir Dynatrace araştırma raporu, büyük kuruluşların ajansal yapay zekayı pilotlardan canlı ortamlara nasıl taşıdığını ve bu çabaların nerede durduğunu inceliyor.
Rapor, BT operasyonları, siber güvenlik, veri işleme ve müşteri desteği dahil olmak üzere temel operasyonel işlevlere hâlihazırda yerleştirilmiş olan ajansal yapay zekayı gösteriyor. Ankete katılanların %70’i, BT operasyonlarında ve sistem izlemede yapay zeka aracılarını kullandıklarını ve neredeyse yarısı hem dahili hem de harici kullanım senaryolarında ajansal yapay zekayı çalıştırdıklarını söylüyor.
Bütçeler bu ivmeyi yansıtıyor. Ankete katılanların çoğu, ajans yapay zekaya yapılan harcamaların önümüzdeki yıl artmasını bekliyor; birçok kuruluş halihazırda yıllık 2 ila 5 milyon dolar arasında yatırım yapıyor. Finansman seviyeleri, güvenilirlik ve operasyonel performansa bağlı kullanım senaryolarıyla yakından takip edilir.
Pilotlardan sınırlı üretime
İlerleme gözlense de, ajansal yapay zekanın benimsenmesi dengesiz olmaya devam ediyor. Ankete katılan kuruluşların yarısı, sınırlı kullanım durumları için üretimde faaliyet gösteren yapay zeka projelerini bildirirken, diğer %44’ü projelerin belirli departmanlarda geniş çapta benimsendiğini söylüyor. Çoğu ekip iki ile on arasında aktif ajansal yapay zeka projesi yürütüyor.
BT operasyonları, siber güvenlik ve veri işleme, üretime hazır olma konusunda öncülük eder. Bu alanlardaki projelerin yaklaşık yarısı ya canlı durumda ya da faaliyete geçme sürecinde.
Projeleri ileriye taşıma kriterleri teknik performansa odaklanır. Güvenlik ve veri gizliliği en üst sırada yer alırken bunu yapay zeka çıktılarının doğruluğu ve güvenilirliği takip ediyor. İzleme ve kontrol mekanizmaları da merkezi bir rol oynuyor; birçok ekip, gözlemlenebilirliği daha geniş bir kullanıma sunmanın ön koşulu olarak görüyor.
Gözlemlenebilirlik boşlukları ilerlemeyi yavaşlatıyor
Teknik engeller hâlâ yaygın. Çoğu, engelleyici olarak güvenlik, gizlilik veya uyumluluk endişelerini belirtiyor. Benzer bir paylaşım, aracıların geniş ölçekte yönetilmesi ve izlenmesinde zorluk yaşandığını bildiriyor. Temsilci davranışına ilişkin sınırlı görünürlük ve otonom eylemlerin alt yöndeki etkilerini takip etme zorlukları, bölgeler ve endüstriler genelinde sıklıkla ortaya çıkıyor.
Sistemler birbirine bağlı hale geldikçe bu sorunlar daha da belirgin hale geliyor. Aracı yapay zeka sistemleri genellikle birden fazla araç, model ve veri kaynağı arasında koordinasyon sağlar; bu da kararlara ve yürütme yollarına ilişkin gerçek zamanlı içgörü ihtiyacını artırır. Bu görünürlük olmadan ekipler beklenmedik davranışları teşhis etmekte veya teknik sinyalleri iş sonuçlarıyla ilişkilendirmekte zorlanır.
Rapor, temel bir kontrol katmanı olarak gözlemlenebilirliğin altını çiziyor. Ankete katılanların neredeyse %70’i, ajansal yapay zeka uygulaması sırasında gözlemlenebilirlik araçlarını zaten kullanıyor ve yarıdan fazlası geliştirme ve operasyonel aşamalarında bunlara güveniyor. Yaygın kullanımlar arasında eğitim veri kalitesinin izlenmesi, anormalliklerin gerçek zamanlı olarak tespit edilmesi, çıktıların doğrulanması ve uyumluluğun sağlanması yer alır.
İnsanlar döngünün bir parçası olmaya devam ediyor
Artan özerklik seviyelerine rağmen, insan gözetimi standart bir uygulama olmaya devam ediyor. Ajansal yapay zeka kararlarının üçte ikisinden fazlası şu anda bir kişi tarafından doğrulanıyor. Veri kalitesi kontrolleri, çıktıların insan tarafından incelenmesi ve sapma sıralamasının izlenmesi en yaygın kullanılan doğrulama yöntemleridir.
Kuruluşların yalnızca küçük bir kısmı denetim olmaksızın tamamen özerk aracılar oluşturur. Çoğu ekip, göreve ve risk profiline bağlı olarak otonom ve insan denetimli aracıların bir karışımını geliştirir. İş odaklı uygulamalar, altyapı odaklı kullanım durumlarına göre daha yüksek düzeyde insan katılımını içerme eğilimindedir.
Başarıyı güvenilirlikle ölçmek
Kuruluşlar ajansal yapay zeka sonuçlarını değerlendirirken güvenilirlik ve dayanıklılık ön plana çıkıyor. Ankete katılanların %60’ı teknik performansın en önemli başarı ölçütü olduğunu söylüyor. Operasyonel verimlilik, geliştirici üretkenliği ve müşteri memnuniyeti de üst sıralarda yer alıyor.
İzleme yöntemleri hala karışıktır. Yaklaşık yarısı günlüklere, ölçümlere ve izlemelere güveniyor ve neredeyse yarısı hâlâ temsilciler arası iletişim akışlarını manuel olarak inceliyor. Çoğu ekip otomatik ve manuel yaklaşımları birleştirmeye devam etse de, otomatik anormallik tespiti ve gösterge tabloları sıklıkla karşımıza çıkıyor.
Katılımcılar başarıyı, stres altında performansı koruyan ve hatalardan hızla kurtulan sistemler açısından tanımlıyor. Hataların birbirine bağlı aracılar arasında yayılma hızı göz önüne alındığında, erken tespit ve hızlı yanıt temel hedefler olmayı sürdürüyor.
Daha sıkı kontrollerle ölçeklendirme
Rapor, yönetişim ve kontrol etrafında ajansal yapay zekanın benimsenmesinin bir sonraki aşamasını çerçeveliyor. Ekipler, otonom eylemleri yönlendiren paylaşılan gerçek sinyallere, standartlaştırılmış ölçümlere ve tutarlı korkuluklara ihtiyaç olduğuna işaret ediyor. Gözlemlenebilirlik, bu unsurları yapay zeka yaşam döngüsü boyunca birbirine bağlayan mekanizma olarak işlev görür.
Dynatrace Baş Teknoloji Stratejisti Alois Reitbauer, “Kuruluşlar yapay zekanın değerini sorguladıkları için değil, otonom sistemleri güvenli bir şekilde ölçeklendirmek, bu sistemlerin gerçek dünya koşullarında güvenilir ve amaçlandığı gibi davranacağına dair güven gerektirdiği için benimsemeyi yavaşlatıyor” dedi.
Ajansal yapay zeka dağıtımları operasyonel saldırı yüzeyini genişletir ve izleme, doğrulama ve gözetime olan bağımlılığı artırır. Daha fazla proje üretime ulaştıkça güven, uyum içinde çalışan araçlar, süreç ve insan muhakemesi tarafından desteklenen operasyonel bir gereklilik haline gelir.