BT liderlerine, organizasyonlarında üretken AI (GENAI) kullanımından kaynaklanan yasal anlaşmazlıklar ve düzenleyici uyumsuzluklarda artışa hazırlanmaları tavsiye edilmektedir.
Genai Tools’un yayınlanmasında yer alan 360 BT liderinin bir Gartner araştırması,% 70’inden fazlasının düzenleyici uyumun kuruluşlarının yaygın Genai Verimlilik Asistanı dağıtımında ilk üç zorlukta olduğunu gösterdi.
Genai hızla kurumsal yazılımın temel bir bileşeni haline geliyor. Gartner kısa süre önce 36 aydan daha kısa bir sürede, Genai yeteneğinin yazılım ürünleri için temel bir gereklilik olacağını belirtti. Gartner, “Her yazılım piyasası zaten ilk hareket avantajını aştı ve 2026 yılına kadar Genai ile yazılım için daha fazla para harcanacak” dedi.
Ancak, Genai’nin kullanımındaki artış, kuruluşların güvenli kalma ve düzenlemelere uyma yeteneği üzerinde derin bir etkiye sahip olmaktır. Analist, katılımcıların sadece% 23’ünün kuruluşlarının kurumsal uygulamalarında GENAI araçlarını sunarken güvenlik ve yönetişim bileşenlerini yönetme yeteneğinden çok emin olduklarını bildirdi.
Gartner Kıdemli Analisti Lydia Clougherty Jones, “Küresel AI düzenlemeleri büyük ölçüde değişiyor, her ülkenin AI liderliği, yenilik ve çevikliğin risk azaltma öncelikleriyle uygun uyumunu değerlendirmesini yansıtan” dedi. “Bu, tutarsız ve genellikle tutarsız uyumluluk yükümlülüklerine yol açıyor, AI yatırımının gösterilebilir ve tekrarlanabilir işletme değeri ile hizalanmasını ve muhtemelen diğer yükümlülüklere kadar işletmeleri açıyor.”
Anket ayrıca jeopolitik iklimden etkinin sürekli arttığını gösterdi. ABD dışı BT liderlerinin yarısından fazlası (% 57), jeopolitik iklimin en azından genai stratejilerini ve dağıtımlarını orta derecede etkilediğini, katılımcıların% 19’unun önemli bir etkisi olduğunu bildirmiştir. Bununla birlikte, bu katılımcıların yaklaşık% 60’ı, ABD dışı genai araç alternatiflerini benimsemediklerini veya istemediklerini bildirmiştir.
Genai’yi konuşlandırırken Gartner, BT liderlerinin kendi kendine düzeltme mühendislik modellerine mühendislik yaparak AI tarafından üretilen çıktıların ılımlılığını güçlendirmesini ve GENAI araçlarının hemen yanıt vermesini önleyerek, cevap veremedikleri bir soru sorulduğunda.
Gartner’ın ılımlılık konusundaki tavsiyesi, yasal, etik, güvenlik ve kullanıcı etki perspektiflerinden “Chatbot çıktısı” riskini değerlendiren kullanım durumu inceleme prosedürlerini de kapsamaktadır. BT liderlerini, organizasyonun yerleşik risk toleransına karşı performansı ölçerek AI tarafından oluşturulan konuşma etrafında kontrol testi kullanmaya çağırdı.
Kapsamlı test, Genai dağıtımının başka bir parçasıdır. Gartner, BT liderlerinin ön test protokolleri tasarlamak için karar mühendisleri, veri bilimcileri ve hukuk müşavirinin disiplinler arası bir füzyon ekibi oluşturarak ve istenmeyen konuşma çıktılarına karşı model çıktısını test edip doğrulamak için model testlerini artırmayı hedeflemeleri gerektiğine inanıyor. BT liderlerini, model eğitim verilerinde ve model çıktısında istenmeyen temalarda istenmeyen terimleri azaltma çabalarını belgelemeye çağırdı.
Bankacılık ve Finans gibi bazı düzenlenmiş endüstrilerde kullanılan tekniklerden biri, her biri farklı Genai araçlarına ve AI dil modellerine dayanan birden fazla AI ajanı kullanmaktır. Yanıtlar daha sonra bir hakim görevi gören bir AI sistemi tarafından değerlendirilir ve bu da cevabın en makul olduğu nihai kararı verir. Lloyds Banking Group’un baş verileri ve analiz memuru Ranil Boteju, bu yaklaşımı “yargıç olarak ajan” olarak tanımlıyor.
Gartner ayrıca Genai Tools’un “Rapor Kötüye Kullanım Düğmeleri” ve “AI Uyarı Etiketleri” gibi içerik denetleme tekniklerini içermesi gerektiğini önermektedir.