Son birkaç haftadır yazılım sorunları kamuoyunda ön plana çıkarıldı. Örneğin Mart ayında yazılım sorunları Greggs, Sainsbury’s, Tesco ve McDonald’s’ın ödeme alamamasına neden oldu.
Risk ve ödülün dengelenmesi, yazılım mühendisliği de dahil olmak üzere mühendislikte önemli bir husustur. İngiltere Mühendislik Konseyi’nin Risk Rehberindeki ifadelerle: “Risk, mühendislik profesyonelleri tarafından üstlenilen faaliyetlerin doğasında vardır, bu da meslek üyelerinin riskin yönetilmesinde ve sınırlandırılmasında önemli bir role sahip olduğu anlamına gelir.”
Ancak insanlar risk altında karar verirken mutlaka rasyonel davranmazlar. 1979’da psikologlar Daniel Kahneman ve Amos Tversky bu makaleyi yazdılar. Beklenti Teorisi: Risk Altında Karar Analizi. Kahneman’a 2002 Nobel Ekonomi Ödülü’nün verilmesi kararında bu çalışmaya atıfta bulunuldu.
Kontrollü çalışmalarla desteklenen Beklenti Teorisi, insanların kayıpların acısını kazanmanın zevkinden çok daha fazla hissettiğini öne sürüyor. Örneğin; deneyler, 1.000 $ kaybetmenin acısının ancak 2.000 $ kazanmanın zevkiyle telafi edilebileceğini gösterdi.
Geçtiğimiz birkaç ay boyunca, ölümcül araba kazalarına, hastanelerde öldürücü aşırı dozda radyasyona ve adli hatalara yol açanlar da dahil olmak üzere çok sayıda yıkıcı yazılım arızasını ayrıntılı olarak inceledim. Özellikle bu felaketlerin nasıl gerçek hayattaki etkilerine dönüştüğünü ve neden daha erken önlenemediğini araştırdım.
Bu kitabı yazarken, Beklenti Teorisinin işlerin neden ters gittiğini anlamamıza yardımcı olacak bir yol kat ettiğini fark ettim. Austin’deki Texas Üniversitesi’nden profesör Robert Prentice, ilişkiyi şu şekilde açıklıyor: “Beklenti teorisi, insanların bir şeyleri kazanmak için alacakları risklere kıyasla, bir şeyleri kaybetmemek için nasıl çok daha büyük riskler alma eğiliminde olduklarını açıklıyor. Bazen bir kaybı önlemek için bilinçli olarak yalan söylemeye karar veririz. Basit bir kaza sonucu olabilecek bir hatayı örtbas ediyoruz çünkü bu hatanın sonuçlarına katlanmak istemiyoruz.”
Bu konsept, Derren Brown tarafından Netflix özel ‘The Push’ta ustaca örneklendi; bu, küçük bir etik dışı eylemde bulunan birinin bağlılığını artırarak onu cinayet olduğuna inandığı şeyi yapmaya zorlamaya çalışıyor.
Diğer bir psikolojik faktör ise ‘normallik yanlılığı’ olarak biliniyor; bu sayede insanlar, 1977’deki Tenerife havaalanı felaketi gibi bir felakette bile bir felaketin devam ettiğine inanmıyor ve her şey normalmiş gibi davranıyor. başkalarının yanında başkalarına yardım etmesi muhtemeldir.
Buna misilleme riski de eklenir. Kasım 2023’te Computer Weekly kapsanan araştırma Yazılım mühendislerinin %53’ünün işyerinde yanlış bir işlem yapıldığından şüphelendiğini ve yanlış bir işlem yapıldığını bildirenlerin %75’inin konuştuktan sonra misillemeyle karşı karşıya kaldıklarını bildiren araştırma ajansı Survation ile birlikte çalıştım. Konuşmayanların önde gelen nedeni yönetimden misilleme korkusu (%59) ve ardından meslektaşlarından misilleme korkusu (%44) oldu.
Beklenti Teorisinin etkisi şu şekilde de görülebilir: halkın yazılıma karşı tutumu ITV’nin ‘Mr Bates vs The Post Office’ draması 2024’te TV ekranlarına çıkmadan önce bile.bu Eylül 2023 ve 8bu Ekim 2023’te Survation ile Britanyalı yetişkinlerden oluşan temsili bir örneklem grubuna bilgisayar sistemlerinde kendileri için en çok neyin önemli olduğunu sordum. Halk, yazılım sistemlerini kullanırken veri güvenliği, veri doğruluğu ve ciddi hatalardan kaçınmanın kendileri için ‘büyük ölçüde’ önemli olduğunu ve ölçülen 10 farklı boyut arasında en az önemli olanı olarak en son özellikleri hızlı bir şekilde elde etmenin kendileri için büyük olasılıkla olduğunu söyledi.
Yeni kitapta, atmosferdeki kozmik ışınların neden olduğu ikili sayı değişiminin (örneğin ‘1’in ‘0’a dönüşmesi) bilgisayar sistemlerinde potansiyel olarak ölümcül bir sonucu tetiklemeye yeterli olabileceği durumları araştırdım. Bu nedenle ortaya çıkabilecek her sorunu öngörmek mümkün değildir. Ancak çözüm, arkadaşım Piet van Dongen’in teknoloji konferanslarında sıklıkla bahsettiği şeyde ortaya çıkıyor: dayanıklılık mühendisliği.
Bilgisayar sistemlerini başlı başına teknik sistemler olarak düşünmek yerine, güvenliğinde hem insan hem de teknik sistemlerin rol oynadığı sosyo-teknik sistemler olarak düşünebiliriz. Ameliyathanede güvenlik rolünü oynayan sadece teknoloji değil, aynı zamanda doktorlar, hemşireler ve diğer sağlık personelidir. Araştırdığım bir vaka çalışmasında; Bir uçağın kokpitinde, bilgisayarlar ters gittiğinde hayat kurtarma potansiyeline sahip olan şey, pilotların hızlı düşünen müdahalesidir.
Başka bir deyişle, felaketlerin önlenmesinde insan önemli bir rol oynuyor ve bu nedenle yazılım mühendislerinin ve teknolojide çalışan diğer kişilerin, işler ters gittiğinde alarm verme konusunda kendilerini psikolojik olarak güvende hissetmeleri ve ters gittiğinde bizim de harekete geçmemiz çok önemli. Kendi bilişsel önyargılarımızı öğrenerek, kendimizi etik olmayan davranışları tırmandırmanın veya en önemli şey olduğunda sesimizi yükseltmemenin tuzağına düşmediğimizden emin olabiliriz.
Yazılım mühendisleri ve BT ile çalışan diğer kişiler için, Beklenti Teorisi bize mesleki kararlarımızda risk ve ödül gibi rekabet eden güçleri dengeleme konusunda tamamen rasyonel olamayabileceğimizi öğretiyor. Kabul etmeden önce koşullarını bilseydik kabul etmeyeceğimiz bir işten ayrılmakta zorluk yaşayabiliriz. Kayıptan kaçınma bizi, normal şekilde devam etmek yerine (buna devam etmenin bizim ve diğerleri için uzun vadeli sonuçları çok daha kötü olsa bile) durmaktan ve yanlış davranışı alarma geçirmekten korktuğumuz bir konuma getirebilir.
Bu önyargının farkında olarak, mühendisler olarak risk ve ödüllendirmenin rakip güçlerini daha objektif bir şekilde dengelemek için sorumluluklarımızı daha objektif bir şekilde yerine getirebiliriz. Sonuçta yeni teknolojinin insanlığın çıkarlarına hizmet etmesinin sağlanmasına bu şekilde yardımcı olabiliriz.
Dr Junade Ali CEng FIET, yazılım mühendisliği yönetimi, bilgisayar güvenliği araştırması ve dağıtılmış sistemlerle ilgilenen deneyimli bir teknoloji uzmanıdır.