Yapay zeka çağı, makine öğrenimi teknolojilerinin yaşama ve çalışma şeklimizi değiştiren süreçleri kolaylaştırma konusunda benzersiz ve etkili bir yeteneğe sahip olduğunu kanıtladı. Artık dinleme etkinliğimizi analiz eden bir “makine” tarafından zevkimize uyacak şekilde özenle seçilmiş çalma listelerini dinleme veya rotaları saniyeler içinde optimize edebilen GPS uygulamalarını kullanma seçeneğimiz var.
Bu gibi durumlarda yapay zeka zararsız bir şekilde yardımcı olabilir ancak yapay zekanın yetenekleri iyi huylu, eğlenceli kişiselleştirme özellikleriyle bitmiyor. Telefonlarımız önümüze spesifik ve “faydalı” reklamlar koymak için “dinlemeye” başladığında, gizlilikle ilgili konuşmalar da başlatılmalıdır.
Yapay zekanın oldukça tartışılan risk-ödül faktörünün devreye girdiği yer burasıdır. Yakın tarihli bir McKinsey raporu, üretken yapay zeka tabanlı kodlama araçlarıyla yeni verilerin, fikri mülkiyetin ve düzenleyici risklerin ortaya çıktığını belirtiyor; Hızın artmasıyla birlikte genellikle yapay zeka tarafından oluşturulan kodda ortaya çıkabilen güvenlik açıkları ortaya çıkar, sistemleri ve kuruluşları riske atar, kodlama hataları yaratır, yönetişim açıkları ve daha fazlası meydana gelir.
Stanford Üniversitesi tarafından yapılan bir araştırma, Github Copilot gibi yapay zeka araçlarından yardım kabul eden programcıların, tek başına kod yazanlara göre daha az güvenli kod ürettiğini ortaya çıkardı ve bu araçların, süreçleri hızlandırmada etkili olmasına rağmen dikkatli bir şekilde değerlendirilmesi gerektiği sonucuna vardı. Kuşkusuz yapay zeka destekli kod, onları kullanan kurumlarda gelişmiş güvenlik uygulamalarına olan ihtiyacı artıran potansiyel sorunlara kapı açıyor.
Vatandaş geliştirici devrimi sırasında güvenlikte gezinme
Risklere rağmen çoğu sektördeki geliştiriciler kodun geliştirilmesinde ve sunulmasında yapay zekayı kullanıyor. Aslında GitHub ve Wakefield Research’e göre geliştiricilerin %92’si çalışmalarında zaten yapay zeka destekli kodlama araçlarını kullanıyor.
Düşük kodlu/kodsuz ve “kod yardımı” platformları, resmi kodlama eğitimi olmayan ancak şu anda bu platformları iş uygulamaları oluşturmak için kullanan “vatandaş geliştiriciler”, yani teknik olmayan çalışanlar için yapay zekanın erişilebilirliğini artırıyor. Gartner, 2024 yılına kadar orta ve büyük ölçekli işletmelerin %50’sinden fazlasının kodsuz/az kodlu bir platformu benimseyeceğini öngörüyor. Kuruluşlar, geliştirme sürecini daha fazla çalışan için daha erişilebilir hale getirerek üçlü bir oyun yürütmeyi amaçlıyor: yazılım sorunlarını daha hızlı çözmek, teknik ekiplerin üzerindeki yükü azaltmak ve Uygulama Geliştirme inovasyonunu hızlandırmak. Teoride kulağa harika geliyor; ancak pratikte risklerin çok geniş olduğunu görüyoruz.
Vatandaş geliştiriciler, kod önerileri gibi yapay zeka destekli özellikleri kullanarak, gerçek dünyadaki zorlukların üstesinden gelen karmaşık uygulamalar oluşturmak ve aynı zamanda BT ekiplerine olan geleneksel bağımlılığı azaltmak için yapay zekanın gücünden yararlanabilirler. Ancak üretken yapay zekanın sağladığı artan hız, şüphesiz artan bir sorumluluğu da beraberinde getiriyor. Devrim niteliğinde olsa da, uygun güvenlik yönergeleri olmadan yapay zeka destekli kod, işletmeleri sayısız tehdide ve güvenlik açıklarına maruz bırakabilir.
Karışıma düşük kodlu/kodsuz yeteneklerin eklenmesi, kuruluşlar için ağır bir soruyu gündeme getiriyor; Halihazırda uygulamaya konulan güvenlik süreçleri, yapay zeka tarafından üretilen veya destekli kod kullanımıyla üretilen tehdit akışını yönetebilecek kapasitede mi?
Bu platformlar, kodun tam olarak nereden geldiğine ilişkin kurumsal bilgiyi gizleyebilir, düzenleyici risklere kapı açabilir ve geliştirilmekte olan kodla ilgili uygun izinlerin olup olmadığı sorusunu gündeme getirebilir.
Kaosu önleyen ve başarıyı artıran korkuluklar kurmak
Digital.ai’nin 2023 Uygulama Güvenliği Tehdit Raporu’na göre, mevcut uygulamaların %57’si “saldırı altında” ve en az bir saldırıya maruz kaldı. NYU’nun araştırması, yapay zeka destekli “yardımcı pilotlar” tarafından üretilen test edilen kodun %40’ının, bir saldırganın yararlanabileceği hatalar veya tasarım kusurları içerdiğini belirtiyor.
Az kodlu/kodsuz platformlar, üretimde kodu koruyan prosedür adımlarının yanlışlıkla atlanmasını kolaylaştırır. Bu sorun, iş akışında kodlama ve güvenlik konusunda somut bilgiye sahip geliştiricilerin bulunmaması nedeniyle daha da kötüleşebilir; çünkü bu kişiler, bayrak kaldırmaya en yatkın kişilerdir. Veri ihlallerinden uyumluluk sorunlarına kadar artan hız, güvenle ölçeklendirmek için gerekli adımları atmayan kuruluşlar için büyük bir maliyet getirebilir. Bunun sonuçları yalnızca mali kayıplar değil aynı zamanda hukuki mücadeleler ve şirketin itibarına darbeler de olabilir.
Profesyonel geliştiricilerden ve korkuluk mekanizmalarından oluşan güçlü bir ekibin sürdürülmesi, hızlı ve gevşek oynama arzusunun güvenlik açıkları yarattığı, geliştirici düzeyindeki yönetim ve gözetim eksikliği nedeniyle teknik borcun arttığı ve tutarsız geliştirmenin olduğu bir Vahşi Batı senaryosunun ortaya çıkmasını önleyebilir. Sorumlulukları, yazılım hatalarını ve uyumluluk sorunlarını tetikleyen uygulamalar.
Yapay zeka destekli araçlar, kod yönetişimi ve tahmine dayalı zeka mekanizmaları yoluyla hızlanma ve otomasyonun neden olduğu komplikasyonları ortadan kaldırabilir, ancak işletmeler genellikle kendilerini, geliştirme ve teslim süreçlerinde darboğazlar yaratan veya kaliteyi sağlamak için uygun güvenlik araçlarına sahip olmayan, parça parça bir yapay zeka araçları portföyüyle karşı karşıya bulurlar. kod.
Bu durumlarda vatandaş geliştiriciler, AI yeteneklerinden geniş ölçekte yararlanan sistematik bir yaklaşım oluşturmak için teknik ekiplerine başvurabilir ve başvurmalıdır ve değişiklik yönetimi en iyi uygulamalarından ve sürüm orkestrasyonundan güvenlik yönetişimi ve sürekli testlere kadar DevSecOps öğrendiklerini uygulayabilir ve uygulamalıdır. Böylece işletmeler risklere kurban gitmeden bu yeni iş sürecinden en iyi şekilde faydalanabilirler.
Büyük kuruluşlar için önemli olan, düşük kodlu/kodsuz gibi yapay zeka destekli platformların potansiyelinden yararlanmak ile bu dönüştürücü teknolojilerin tam potansiyelini tam olarak hayata geçirmek için yazılım geliştirme çabalarının bütünlüğünü ve güvenliğini korumak arasında doğru dengeyi yakalamaktır. .