Üretken yapay zeka (GenAI) araçlarının yönetimi, geliştirici ekipler arasında kullanımı kontrol edilemeyen bir yangın gibi yayılmaya devam ettikçe kültür ve prosedürlerde büyük değişiklikler gerektirecektir.
Wipro FullStride Cloud’un başkan yardımcısı ve baş teknoloji sorumlusu Kiran Minnasandram’a göre bu, yalnızca yeni araçların benimsenmesiyle ilgili değil, aynı zamanda geliştiricilerin teknolojiyle etkileşimde bulunma, sorunları çözme ve yazılım mühendisliğinde yeni paradigmalar oluşturma biçimlerini dönüştürmekle de ilgili.
Halüsinasyonlar, teknik şişkinlik, veri zehirlenmesi, girdi manipülasyonu veya anında enjeksiyondan fikri mülkiyet (IP) ihlallerine ve GenAI hırsızlığına kadar uzanan GenAI ile ilişkili riskleri uygun şekilde yönetmek için “kapsamlı bir kültürel ve prosedürel metamorfoza” ihtiyaç olduğunu söylüyor. kendileri modeller.
Minnasandram, “Modelin geçerliliği konusunda endişelenmeniz gerekiyor” diyor. “Model kayması veya model halüsinasyonları konusunda endişelenmeniz gerekiyor. Her model verilere dayanır ve veriler doğası gereği önyargılıdır. Küçük bir önyargı yüzdesi olsa bile ve bunu gittikçe daha fazla veriye yansıtmaya başlarsanız, önyargı yalnızca artacaktır.
Bu nedenle kuruluşlar, modellerle ilgilenecekleri veri miktarı konusunda “çok dikkatli” olmalıdır, çünkü verilere yanlılık girecektir. Kuruluşlar sınırlı veri kümelerinden çıkarımda bulunduklarında sonuçlar söz konusu nitelik ve nicelikle sınırlıdır. İstenilen veriler hassas ve özel olabilir ve kendi açık veri kümelerinizde bulunmayan veriler kolaylıkla model halüsinasyonuna neden olabilir.
Minnasandram, “Bu nedenle iyi azaltma stratejilerine ihtiyacınız var, ancak bunların hepsi duruma göre yapılıyor” diyor. “Çok dikkatli olmamız gerekiyor. Mesela hassas bir veriyse, veri kalitesini kaybetmeden onu nasıl anonimleştirirsiniz?”
Oluşturulan içeriğin de korkuluklara ihtiyacı olabilir. Kaynak kodu oluşturma, makine tamamlaması için bazı kodlar yazma olsa bile, bu kod tamamlanmamıştır. Bunun için uygun korkulukların o içeriğin kalitesini ölçmeyi gerektirebileceğini söylüyor.
Sorumluluk çerçeveleri
Kurumsal değer, bireysel kullanımın yanı sıra belirli bir ortamdaki teknoloji ve teknik özellikleri de kapsayan sorumluluk çerçevelerini gerektirecektir. Wipro kendi geliştirmiştir ve dahili olarak ve müşterilere yanıt vermeyi sürdürürken bunun nasıl alınması ve uygulanması gerektiğine bakmaktadır.
Buna, kod incelemesi, güvenlik ve denetim, mevzuat uyumluluğu ve daha fazlası ile ilgili risklere maruz kalma durumlarını tam olarak anlamak ve korkuluklar geliştirmek için çalışmak da dahildir.
Minnasandram, iyi haberin, CI/CD işlem hatlarına entegrasyon için kod ve derleyici optimizasyonu da dahil olmak üzere daha fazla kod kalitesi ve performans iyileştirme aracının ortaya çıkması olduğunu söylüyor.
Ancak mesele sadece GenAI’yi bir kenara bırakmak olamaz. Kodun yeniden düzenlenmesi gibi görevlere ve tahmine dayalı kodlama veya işbirlikçi kodlama gibi (bir makinenin “geliştiriciyle birlikte oturduğu” ve ilk kodu kaldırma işlemini yaptığı) daha gelişmiş tekniklere olan talep artıyor.
İş akışı otomasyon şirketi Pegasystems’in baş teknoloji sorumlusu (CTO) Don Schuerman, temel zorlukların kod eksikliğinden değil, kötü yönetilen GenAI’nin teknoloji yüklerini artırmasından kaynaklanan “teknik borç dağından” kaynaklandığını söylüyor.
Bu nedenle GenAI’nin “kodu çalıştırma” dışındaki görevler için daha iyi kullanıldığını düşünüyor.
“Kodun çözmeye çalıştığı iş sorununa geri adım atmak için GenAI’yı kullanmak çok daha iyi: Bir süreci verimlilik için nasıl optimize ederiz? Mevzuat kurallarına bağlı kalarak müşterilerimizi desteklemenin en hızlı yolu nedir?” diyor. “Halihazırda bozuk olduğunu bildiğimiz süreçleri otomatikleştirmek için kod yazmak yerine geleceğin en uygun iş akışlarını tasarlayın.”
İşyeri baskıları
Her düzeyde deneyimli ve becerikli bir gözetime sahip olsanız, kodu yazdıktan sonra düzenleme ve kontrol etseniz bile, işyerindeki baskılar hatalara neden olabilir ve bazı şeylerin gözden kaçması anlamına gelebilir, diye kabul ediyor.
Kullanıcıların “araçların güvenli sürümlerine” sahip olduğundan emin olun ve ardından “işin önüne geçmek” için GenAI’yi daha fazla kullanın. BT ekipleri düşük kodlu araçlarla kendilerini genellikle gölge BT hatalarını temizlerken buluyorlardı ve aynı durum GenAI için de geçerli olabilir; aynı zamanda uyumluluk ve güvenlik önlemlerini garanti eden korkuluklar içinde hız ve yenilik sağlamak için onu özel olarak dağıtmak daha yararlı olabilir. sürdürülebilirlik, diye belirtiyor Schuerman.
Özel bir büyük dil modeli (LLM) oluşturma ve sürdürme yükü olmadan GenAI’nin bilgiye nasıl eriştiğini kontrol etmeye yardımcı olmak için alma-artırılmış nesil (RAG) gibi yöntemleri benimseyin ve belirli bir kurumsal bilgi kümesine dayalı olarak soruları yanıtlayan bilgi “dostları” yaratın içerik. RAG, alıntıları ve izlenebilirliği sağlarken halüsinasyonların önlenmesine de yardımcı olabilir.
Ölçeklenebilir, model odaklı platformlar tarafından yürütülebilecek modelleri (iş akışları, veri yapıları, ekranlar) oluşturmak için GenAI’yi kullanın. Schuerman, riskin GenAI’yi kullanarak “herkesi geliştiricilere dönüştürmek”, daha fazla şişkinlik ve teknik borç yaratmaktan kaynaklandığını söylüyor.
Bunu, sektördeki en iyi uygulamalara dayanan, optimum müşteri ve çalışan deneyimini temsil eden iş akışları, veri modelleri, kullanıcı deneyimleri vb. oluşturmakla sınırlayın. Bunu yaparsanız, ortaya çıkan uygulamaları ölçeklendirmek için tasarlanmış kurumsal düzeyde iş akışı ve karar verme platformlarında çalıştırabilirsiniz.
Schuerman şöyle diyor: “Ve eğer değişiklik yapmanız gerekiyorsa, neler olduğunu anlamak için bir grup oluşturulmuş koda girmezsiniz; yalnızca uygulamanızdaki iş akışı adımlarını veya veri noktalarını yansıtan iş dostu modelleri güncellersiniz” diyor.
Veri platformu sağlayıcısı Cloudera’nın saha CTO’su Chris Royles, insanları istemlerini daha iyi, daha alakalı bilgilerle zenginleştirmeleri konusunda eğitmenin de önemli olduğunu söylüyor. Bu, sınırlı, kapsamlı bir şekilde incelenmiş veri kümeleri koleksiyonunun sağlanması ve üretken araca yalnızca bu veri kümelerinde açıkça bulunabilen verileri kullanması ve başkalarını kullanmaması talimatı verilmesi anlamına gelebilir.
Bu olmadan, GenAI ile yeni uygulamalar ve hizmetler geliştirirken kendi en iyi uygulamalarınızı, standartlarınızı ve tutarlı ilkelerinizi sağlamanın zor olabileceğini söylüyor.
Royles, “Kuruluşların yapay zekayı kendi ürünlerine nasıl dahil edecekleri konusunda oldukça net düşünmeleri gerekiyor” diyor. “Ve GenAI ile üçüncü taraf uygulamaları çağırmak için kimlik bilgilerini kullanıyorsunuz. Bu gerçek bir endişe ve kimlik bilgilerinin korunması da bir endişe kaynağı.”
Her zaman GenAI’nin yaptıklarını geçersiz kılmak istersiniz, diyor.
Daha fazla erişilebilirlik veya daha kısa test döngüleriyle geliştirme ekiplerinin kapsamını giderek genişletin. Oluşturulan uygulamalar, doğru şifreleme çerçevelerinin kullanılıp kullanılmadığı ve kimlik bilgilerinin uygun ve doğru şekilde korunup korunmadığı gibi doğrulama özellikleri açısından test edilebilir olmalıdır.
Royles, GenAI’nin karmaşık sözleşmeleri sorgulamak veya uygulamayı oluşturmanın veya kullanmanın aslında yasal olup olmadığı gibi geliştirmeyle ilgili diğer görevler için kullanılabileceğini ekliyor. Bu da, var olmayan hukuki deliller veya emsaller nedeniyle halüsinasyon riski nedeniyle dikkatli bir şekilde yönetilmelidir.
Azaltma kısmen, insanları yönlendirmelerini daha iyi, daha alakalı bilgilerle zenginleştirme konusunda eğiterek başarılabilir. Örneğin, sınırlı, kapsamlı bir şekilde incelenmiş veri kümeleri koleksiyonunun sağlanması ve araca yalnızca bu veri kümelerinde açıkça bulunabilen verileri kullanması ve başkalarını kullanmaması yönünde talimat verilmesi, diye belirtiyor.
Yasaklar işe yaramayacak
Danışmanlık CloudSmiths’in CTO’su Tom Fowler, geliştiricilerin GenAI kullanmasını yasaklamanın işe yaramayacağını kabul ediyor. İnsanlar genellikle, şirket politikalarına aykırı olsun ya da olmasın, hayatlarını kolaylaştırdığını ya da daha iyi hale getirdiğini düşündükleri teknolojiyi kullanmayı tercih edeceklerdir.
Bununla birlikte kuruluşlar, yetersiz denetim veya çok fazla teknik borcu olan bir ekibin, geliştirme becerilerindeki bir boşluğu kapatmak için GenAI’yı kullanmaya çalıştığı durumlarda gerçek bir risk oluşturan sıradanlığa giden kaygan zeminden veya “çöp ortası”ndan kaçınmaya kendilerini alıştırmalıdır. Fowler, “Kuruluşların bunun farkında olması ve buna karşı önlem alması gerekiyor” diyor. “LLM’lerin hangi konularda iyi, hangi konularda kötü olduğunu anlamaya çalışmalısınız.”
Yetenekler hızlı bir şekilde gelişirken, Yüksek Lisanslar insanların kod yazıp üretime geçirmelerine yardımcı olma konusunda hâlâ “kötü”. Geliştirici ekipleri tarafından kullanımına bir tür kısıtlama getirilmesi gerekebilir ve kuruluşların, sağlam deneyime ve güçlü kod inceleme uygulamalarına sahip iyi mühendisler de dahil olmak üzere yazılım mühendisliğine yönelik gereksinimleri olmaya devam edecektir.
Fowler, “Bana göre, birçok küçük sorunu çözmenize yardımcı olması için GenAI’yı kullanabilirsiniz” diyor. “Çok küçük bir görevi çok çok hızlı bir şekilde çözebilirsiniz, ancak onlar büyük miktardaki karmaşıklığı (devralınmış sistemler, büyük sorunları çözebilecek şekilde tasarlanmış mühendislik sistemleri) taşıyabilecek kapasiteye sahip değiller. Bu şekilde insanlar iyidir. İçgörüye ihtiyacınız var, mantığa ihtiyacınız var, bu büyük resmi kafanızda tutabilme yeteneğine ihtiyacınız var.”
Kendisi de bu durumun, aslında para tasarrufu için oyalanmak yerine geliştirici ekiplerinizin becerilerini geliştirmeye bakacağınız anlamına gelebileceğini kabul ediyor.
İyi bir mühendis, yapmaya çalıştığı şeyi işlevsel olarak birçok küçük probleme ayrıştırabilir ve bu bireysel parçalara GenAI kullanılabilir. GenAI’dan büyük ve karmaşık bir sorunla ilgili yardım istendiğinde ya da uçtan uca bir şey yapması istendiğinde “saçmalıklarla karşılaşabilirsiniz”.
Fowler, “Ya biraz masaj yapmadan işe yaramayacak bir kod alırsınız ya da sadece kötü ‘tavsiye’ alırsınız” diyor. “Bu, ekibinizi ölçeklendirmenize ve daha azıyla daha fazlasını yapmanıza yardımcı olmakla ilgili [partly as a result]. İster sıfırdan ister ince ayarlarla oluşturulmuş olsun, birden fazla yöntemin ve alana özgü modellerin ortaya çıkışı, geleceğin %100’ü olacak.”
Telif hakkıyla ilgili hususlar
Fowler, büyük oyuncuların veri, sızıntı ve benzeri konularda koruma sağlayan kurumsal teklifler sunmaya başladıklarını ve bunun “harika” olduğunu, ancak telif hakkı ve kodla ilgili diğer fikri mülkiyet risklerine şu ana kadar nispeten az önem verildiğini söylüyor.
Oracle, Java API’sini kullanma konusunda Google’a dava açtığında neler olduğuna bakın. Kuruluşlar gelecekte olası kötü sürprizleri önlemek için benzerliklere ve emsallere bakmak isteyebilir.
“Başka bir şeyle tam olarak aynı olmadığını söyleyebilecek kadar ne kadarının ayarlandığı ve değiştirildiği konusunda neyin sorun olmadığına dair emsaller olacak – ancak henüz bilmiyoruz” diye belirtiyor.
GenAI’nin genel ve geniş kullanımları sayesinde veriler Google’daki veya Stack Overflow’taki bir şeyden kolayca gelebilir ve tüm bunların ortasında bir yerde, başka birinin IP’si algoritma yoluyla kopyalanabilir. Tekliflerine LLM tabanlı bir araç ekleyen kuruluşların bu konuda korkuluklara ihtiyacı olabilir.
Fowler, “Bütün bunlar söylendiğinde, bunun çoğu kuruluşu caydıracak büyük bir risk olduğuna inanmıyorum” diyor.