Bilgisayar uzmanı Junade Ali’nin yeni kitabı, Kendinizi Öldürücü Bilgisayarlardan Nasıl Korursunuz?BT sistemlerinin neden başarısız olduğu ve hem mühendislik hem de yönetimin üst düzeylerinde sorumlular arasında neden bir inkar kültürünün var olduğu konusunu araştırıyor.
Şöyle diyor: “Kitapta ele alınan konular ve örnek olaylarda Post Office Horizon skandalı gibi felaket sonuçlara yol açan olayların örnekleri var.”
Kitabın başlığı çağrıştırıcı ve Hollywood benzeri Terminatör ve Hal 9000 senaryolarını çağrıştırıyor. Ancak gerçek dünyada Ali, bilgisayarların birinin ölümüne neden olduğu düşünülen birçok durumun yaşandığını söylüyor. “Yazılım nedeniyle hastalara ölümcül radyasyon dozları verildiğini ve hileli bir otomasyon nedeniyle ölüm dalışına giren bir uçağın örneklerini görüyoruz. [incorrectly] insan pilotun uçağı düşüreceğini söyledi.”
Felaket yaratan bir bilgisayar arızasına yol açan arketipsel yazılım mühendisliği sorunu, genellikle gereksinim mühendisliği sürecindeki bir başarısızlık nedeniyle başlar. Ali, bu erken aşamadaki endişenin giderilmemesi durumunda yazılımın oluşturulması, test edilmesi ve piyasaya sürülmesi aşamalarında çığ gibi büyüyeceğini söylüyor. Sorunların üstü kapatılacak. Ekipteki insanlar konuşmaktan korkabilirler.
Kitap, Ali’ye göre yazılım geliştirmede etiğin gri alanı olan bağlılığın artması olgusunu ele alıyor. “Zamanla insanlar giderek daha aşırı şeyler yapmaya itiliyor.” Eski patron Sam Bankman-Fried’in dolandırıcılık faaliyetlerini bilen kripto para borsası FTX’in mühendislik direktörünün son örneğine dikkat çekiyor.
“Kendimizi kayıplara karşı korumayı isteme konusunda içsel bir önyargımız var ve bu da çoğu zaman bizi bir şeyleri örtbas etmek için etik açıdan daha sorgulanabilir şeyler yapacağımız pozisyonlara sokabilir” diye ekliyor.
Ali, ekip üyelerinin endişelerini dile getiremediklerini hissettikleri yazılım geliştirmede ihbarcılığı araştırdı. Şöyle diyor: “Bu, insanların işler ters gittiğinde yüksek sesle konuşup alarm verme yeteneğine sahip olmadıklarını düşündükleri, psikolojik güvenlik adı verilen bir fikirle bağlantılı.”
Survation ile yapılan araştırma, iş yerindeki yanlışları bildiren yazılım mühendislerinin %75’inin misillemeyle karşı karşıya kaldığını ortaya çıkardı. Ali, “Bu gerçekten sektör çapında bir zorluk” diye uyarıyor.
Ali’nin kitapta tanımladığı yazılım geliştirmedeki bir diğer sorun alanı da normallik önyargısıdır. Şöyle diyor: “Bazen insanlar sanki hiç bir krizde değilmiş gibi davranabilirler.”
Ali, bilgisayar sistemini belirli bir görevin üstesinden gelmeye yönelik saf teknoloji olarak düşünmek yerine, yazılım mühendislerinin bunu sosyoteknik bir sistem olarak görmesi gerektiğine inanıyor. “İnsanı sistemin bir parçası olarak düşünmek lazım” diyor. “Sistemin dayanıklı olmasını sağlamada insanlar kritik bir rol oynuyor. İnsanların güvenlik ağının bir parçası olması gerekiyor ve sorunların ortaya çıktığını gördüklerinde konuşabilmeleri ve alarm verebilmeleri için onlara psikolojik güvenlik sağlanmalı.