Genai ile Kodlama: İşletmeler süreci nasıl yönetebilir?


Geliştiriciler genellikle üretken yapay zekayı (genai) benimser, çünkü daha hızlı kodlamalarına yardımcı olur, ancak araçlar kuruluşları riskler için hesaplanmamış hale getirme potansiyeline sahiptir – özellikle de kullanım yetkisiz veya en iyi uygulama göz ardı edilirse.

Test Otomasyon Tedarikçisi Tricentis’te AI ve Makine Öğrenme Başkan Yardımcısı (ML) David Colwell, “Genai ile aynı geliştirici ekibi için hem şaşırtıcı sonuçlar hem de şaşırtıcı derecede aptalca sonuçlar görüyoruz ve bu bize süreç ve takım tarafında yapacak işlerimiz olduğunu söylüyor” diyor. “Kişisel görüşüm, AI’nın Dunning-Kruger Etkisi Enkarne olabileceğidir.”

Dunning-Kruger etkisi doğal bir bilişsel önyargıdır; Belirli bir konu hakkında ne kadar az beceri veya bilginiz varsa, o bölgedeki yetkinliği fazla tahmin etme olasılığınız o kadar artar.

Ortalama bir beceriye sahip bazı ekip üyeleri bir kod parçasını gözden geçirebilir ve iyi göründüğünü düşünebilir. Colwell, gerçek uzmanlar da aynı koda bakabilir ve güvenlik açıkları, kötü paketler ve diğer sorunlarla dolu bir yapı görebilir.

Bununla nasıl başa çıktığınız ve daha önce görmediğiniz birden fazla yeni hata türü riskinden kaçındığınız zor olabilir. Araç kullanılabilir, ancak önce güçlü güvenlik politikasına, yönetişimi sağlayan güçlü ve zorunlu uygulamalara ve süreçlere ihtiyacınız vardır. Ve Genai kod oluşturabildiğinden, kuruluşlar kod üretim oranına ayak uyduracak kadar test etmek için mücadele edebilirler.

Tricentis tarafından yapılan 2025 anketinde, 2.700 liderin yaklaşık% 63’ü – çoğunlukla yöneticiler, yöneticiler ve BT profesyonelleri – anketli nakliye test edilmemiş kodları kabul etti ve% 90’ı, yazılım sürümü kararları alması için Güvenli Güvenli olduğunu gösterdi.

Yüzeysel olarak etkileyici sonuçlara karşı savunmalar

Daha az bilgili ekip üyeleri, Genai Tools’dan belirli bir görev için bir uygulama oluşturmasını isteyebilir. Sonuçta, içerebileceği sorunlar hakkında hiçbir fikriniz yoksa yüzeysel olarak etkileyici olabilir.

Birincisi, yapay zeka temelli olsun ya da olmasın, yazılım geliştirme süreçle güvenli olmalıdır. Kod taahhüt ederseniz, güvenlik taramaları, doğrulama kontrolleri, dinamik taramalar ve geri kalanı geçirmelidir. Ancak, “içinde aptallık olan kod” kodundaki hataları tamamen ortadan kaldıramazsınız.

Bunun bir örneği, yaş kısıtlı bir uygulamanın veya web sitesinin bir kullanıcısının 18 yaşın altında olması, ancak kodun belirli giriş noktalarında erişimi reddetememesi veya kullanıcı yanlışlıkla yanlış düğmeyi tıklatıyorsa veya başka türlü yanlış bir yanıt sunuyorsa olabilir. Bu tür basit hatalar her seferinde kontrol edilmelidir, çünkü bunlar sıktır. Tüm kodlar oluşturulmasına rağmen inceleme ve doğrulama işlemlerini geçmelidir. Her şeyin gözetime ihtiyacı var.

Tabii ki, takımların ne yaptığına dair kapsamlı belgeler çok önemlidir. Ve bir dereceye kadar, yapay zeka ile çalışan test, ağ izleme ve biriktirme yönetimi araçları, kod sorunlarını algılamaya ve değişiklikleri riske göre önceliklendirmeye yardımcı olabilir.

Bir McKinsey çalışması, anketler, mevcut veriler ve birikmiş işleme yönetim araçlarının kullanılmasının müşteri tarafından bildirilen yazılım kusurlarını%20-30 oranında azaltabileceğini göstermektedir. Uygunsuz bilgi paylaşımını tespit etmek için AI kullanımı ve veri kaybı önleme (DLP) araçlarını tespit etmek için uygulama keşif yazılımı da değerli olabilir.

Kod kapsam analizi araçları, fonksiyonel testler sırasında kodun hangi bölümlerinin yürütüldüğünü izleyebilir. Bir test sırasında yürütülmeyen kod parçalarını tanımlayabilirler, AI’nın tanıttığı gereksiz veya hatalı kod önerebilirler. Ayrıca, ilgili bir araç belgelenmiş gereksinimlere göre gereksiz veya alakasız koşulları belirleyebilir. AIS bazen kodlamak için garip şeyler ekleyebilir.

Ancak her şeyden önce, Colwell, kuruluşları yetkisiz veya uygunsuz genai kullanımı ile kodlara yönlendirilen risklere karşı savunan, eğitim ve öğretime yatırım yapmak anlamına geliyor. Kuruluşların not almaları tavsiye edilir. Geliştirici ekiplerinin en iyi uygulamada iyi eğitildiğini ve yanlış anlarsa riskleri iyi eğittiğini biliyorsanız, politikalarına, dokümantasyonlarına ve uygulamalarına güvenebilirsiniz.

Colwell, “Mühendislerinize ve Genai’yi kullanan kişilere sahip oldukları belirli araçların sınırlamalarını öğretin” diyor. “Birçok insan Genai’yi az çok sihirli bir düşünme kutusu olarak düşünecek, ancak gerçekte sahip olduğunuz şey, kısa bir hafızaya sahip doğal dil problem çözme kutusu, somut gerçekler bulmak yerine hızlı bir şekilde cevap verme eğilimi, dış ortamına erişim ve eğitim son noktasının ötesinde amnezi.”

Gerçekten de, onu satın alamayabilirsiniz. Harvey Nash IT işe alımına sahip olan Nash Squary’den CIO Ankur Anand, AI beceri kıtlığının 15 yıl boyunca teknolojinin en büyüğü olduğunu söylüyor.

AI becerileri arasında platformların ve CRM’nin nasıl yararlanılacağını anlamak, istemleri öğrenmek ve “bununla birlikte gelen sorumluluk”, kullanımdan önceki sonuçların denetlenmesi de dahil olmak üzere. GENAI becerileri geliştiriciler, ürün yöneticileri ve proje yöneticileri, veri kalitesi, veri soyu ve veri yönetişim becerileri için talep görmektedir.

Bunun altında, Nash Squary’s May raporu, örneğin büyük dil modeli (LLM) bilgisine sahip Python geliştiricilerine olan talebin arttığını bildirdi. Genai, diğer birçok iş tanımında da “sahip olmak güzel” oldu.

Anand, “Bu, tek bir alanla ilgili olmadığı için teknoloji ekibine artan talepler yer alıyor” diye ekliyor.

CMS tedarikçisi Storyblok’un Çözüm Mühendisi Facundo Giuliani, genel olarak kabul ediyor: “Genai tarafından oluşturulan kod iyi bir başlangıç noktası olabilir – ne yaptığını ve arka planda neler olduğunu bilen bir insan tarafından denetlenir.”

Etkinlikler geleceğimizi beklediğimizden daha hızlı geçmedikçe geliştirici becerileri çok önemli kalacaktır. Bu arada, özellikle birden fazla takım söz konusu olduğunda, geliştirme süreçlerini kontrol etmek zorunludur.

Kalite AI kodlama uygulamasına ek yaklaşımlar

Giuliani, genel internette eğitilmiş AI modelleri tarafından oluşturulan kodun genellikle bir gerçek kaynağı gibi bir şey olmayan veri kümelerine dayandığını belirtiyor. Bir şeyin eksik olduğu veya kodda doğru olmadığı veya sadece kopyala ve yapıştırmanın dağıtıldığı veya aşırı kullanıldığı ipuçları, uzun süreli veya teğetsel çözümler içerebilir.

Beklediğinizden daha fazla hata var mı, yoksa işler çok hızlı mı yoksa yavaş mı oluyor? DevOps Araştırma ve Değerlendirme (DORA) ve uzay/refah, aktivite, performans, iletişim, verimlilik/akış (uzay) metrikleri, katkı analizi ve yetenek kabiliyeti puanları gibi verimlilik metriklerine dikkat edin.

Resmi AI yönetişimi ve yapay zeka Model Risk Yönetimi (MRM) gereklidir. Yapay zeka riskini değerlendirmeye yardımcı olacak gelişen çerçeveler ve standartlar da vardır.

Uluslararası Standartlar Organizasyonu (ISO) Standart 42,001, AI’yi sorumlu bir şekilde yönetmekle ilgilidir ve ABD’nin Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) AI Risk Yönetimi Çerçevesi (ve Oyun Kitabı) geliştirilmektedir.

Giuliani, olağan dışı herhangi bir kalıpın zayıf kodlama uygulamaları için daha yakından inceleme gerektirdiğini söylüyor. “Basit problemler için aşırı kompleks çözümleri görebilirsiniz. Aynı şey deneyimi olmayan insanlar tarafından oluşturulan kodla da olur. Bir refakatçi veya akıl hocası bilgilerini yükseltmelerine yardımcı olmalıdır. Bir kişi üretimden önce koddan bir şekilde sorumlu olmalıdır” diyor.

Kodun yeterince kontrol edilmesi, bir meslektaşının veya süpervizörün üretim ortamlarına sunulmadan önce manuel kod kontrolleri yapmasını sağlamak da dahil olmak üzere çeşitli tekniklerin veya işlemlerin dağıtılması anlamına gelir. Giuliani, kodun nasıl oluşturulduğuna bakılmaksızın.

Geliştirici Topluluğu Yığın Taşması’ndaki Ürün ve Teknoloji Görevlisi (CPTO) Jody Bailey, geniş bir şekilde kabul ediyor: “Sıkıştırılmanın hala kaliteli olduğundan emin olmanız gerekiyor. Gözetim ve incelemelere ihtiyacınız var. Birçok kişi kodlarını yazmak için istemleri kullanıyor, ancak o zaman bile bu istemleri değerlendiriyor.”

Ancak geliştiriciler için zorluk, ne kadar hızlı yazdığınız ve kodu ne kadar hızlı yazdığınızla ilgili olmamıştır. Bailey, doğru fikirlere sahip olup olmadığınız ve sorunları mantıklı ve verimli bir şekilde düşünüp düşünmediğinizle ilgili. Yapay zekanın doğrulanmasının yapay zeka kullanmayı içerebileceğini kabul ediyor. Bir yaklaşım, örneğin İkizler’e karşı antropik kullanabilir, çünkü farklı modellerin farklı güçlü ve zayıf yönleri vardır.

“Çeşitli skor tablolarında, bu aydan aya değişebilir. Bazıları daha kod odaklı, diğerleri daha genel amaç” diyor.

Gölge IT kullanımını asla tamamen ortadan kaldırabilmenize rağmen, web etkileşimleri ve uç nokta yönetimi için araçlar da dahil olmak üzere daha genel izleme yardım sağlayabilir. Ancak insanlar kendi başlarına bir şeyler tanıtarsa ve sonuçlar iyi ise, organizasyon bununla iyi çalışabilir.

“Birinin bir atış yaptığı ve koçun ‘hayır, hayır, böyle değil!’ [instead]”Diyor Bailey.

Seçilen yaklaşımlar koşullara ve ihtiyaca bağlı olacaktır, ancak kodun GENAI’nin kullanılıp kullanılmadığını gözetim ve kalite kontrolleri olmalıdır. Bailey, alternatifin, riskin çeviklik ve yenilik kaybı olduğu çok kilitli bir ortama sahip olduğunu da ekliyor.



Source link