İki soruyla başlayayım. Algoritmaların veya yapay zekanın (AI sistemleri) geliştirilmesi ve uygulanmasında etiğin önemli olduğunu düşünüyor musunuz? Algoritmalar veya AI sistemleri geliştirirken veya uygularken, projelerinize etiği entegre etmeyi kolay buluyor musunuz?
Bu iki soruyu defalarca sordum. İlk sorudan sonra hemen hemen tüm insanlar parmak kaldırıyor. İkinci sorudan sonra neredeyse tüm eller aşağı iner. Etiği önemli buluyoruz. Ancak projelerimize etiği entegre etmekte zorlanıyoruz.
Etiği projelerinize entegre etmek istemenizin birçok nedeni vardır. Kritik olarak, çünkü teknoloji asla tarafsız değildir.
Algoritmalar verilere dayalıdır ve bu verilerin toplanması, analiz edilmesi ve modele dönüştürülmesi süreçlerinde, genellikle üstü kapalı olarak, hangi verilerin toplandığı (hangilerinin hariç tutulduğu), hangi etiketlerin kullanıldığı (tabanlı olarak) her türlü seçim yapılır. Hangi varsayımlar üzerine). Ve tüm bu seçimler önyargı yaratır.
Eğitim verileri çoğunlukla açık renkli yüzlerden oluşuyorsa, algoritma koyu renkli yüzlerde sorun yaşar. Kötü şöhretli örnek, Google’ın iki siyah gencin fotoğrafının altına “goriller” etiketini yerleştirmesidir; (bildiğim kadarıyla) hala düzgün bir şekilde çözmedikleri bir sorun.
Sorumluluk
Teknoloji tarafsız olmadığı için biz – BT uzmanları, geliştiriciler, karar vericiler, araştırmacılar, tasarımcılar veya danışmanlar – bir sorumluluğa sahibiz. Dünyada etkileri olacak bir şeyin dünyaya getirilmesine katkıda bulunuyoruz. Etik, bu sorumlulukla başa çıkmaya yardımcı olabilir; sorumluluk almak.
Bazen insanlar “etik” kelimesinden hoşlanmazlar. Bir yargıcın parmağını salladığını veya işaret ettiğini tasavvur ediyorlar. Ya da etiği yeniliğe karşı bir engel olarak görüyorlar.
Etiği kökten farklı anlıyorum. Yargıç veya engel olarak değil. Aksine, bir direksiyon simidi olarak. BT projeniz bir araçsa, etik de direksiyon simididir. Etik, projenizi doğru şeritte tutmanıza, yoldan çıkmaktan kaçınmanıza ve doğru dönüşleri yapmanıza yardımcı olabilir, böylece projenizi çarpışma olmadan doğru yere götürebilirsiniz.
Bir düşünme ve düşünme süreci
Bir etik yansıtma ve müzakere süreci düzenleyerek etiği projelerinize entegre edebilirsiniz. Bunun için üç aşamalı bir süreç düzenleyebilirsiniz:
- Sorunları veya riskleri masaya yatırın – endişelendiğiniz şeyler, ters gidebilecek şeyler.
- Bu sorunlara veya risklere farklı açılardan bakmak için konuşmalar düzenleyin – bunu proje ekibinizde yapabilirsiniz, ancak kuruluşunuzun dışından insanlarla da yapabilirsiniz.
- Tercihen yinelemeli bir şekilde kararlar verin; önlemler alırsınız, bunları denersiniz, sonuçları değerlendirirsiniz ve buna göre ayarlarsınız.
Böyle bir sürecin en önemli yararı, sorumlu olabilmenizdir; konulara baktınız, çeşitli kişilerle tartıştınız ve önlemler aldınız. Pratik olarak, böyle bir süreci nispeten hafif bir şekilde, örneğin proje ekibinizle iki saatlik bir çalıştay düzenleyebilirsiniz. Ya da projenize etik yansıma ve müzakereyi entegre edebilirsiniz, örneğin, aylık proje toplantılarınızda yinelenen bir gündem maddesi olarak ve çeşitli dış uzmanları düzenli olarak dahil edebilirsiniz.
Böyle bir süreçle çalışmak istiyorsanız, etik yansıma ve müzakere için bir çerçeveye de ihtiyacınız olacak. Aşağıda, projenize bakmak için kullanabileceğiniz iki etik bakış açısını tartışacağız: sonuççuluk ve görev etiği.
sonuççuluk
Sonuççuluk, artıları ve eksileri belirlemek ve değerlendirmekle ilgilidir. Bu sistemi dünyaya koyduğunuzu hayal edin – toplumda, insanların günlük yaşamlarında ne gibi avantajlar ve dezavantajlar getirecek? Katma değeri ne olurdu? Yoksa toplam maliyeti mi? Farklı tasarım seçeneklerini veya alternatif çözümleri birbiriyle karşılaştırabilirsiniz. Ardından, daha fazla veya daha büyük avantajlara ve daha az veya daha küçük dezavantajlara sahip seçeneği seçersiniz.
Artıları ve eksileri değerlendiren bu bakış açısı genellikle çekicidir. Ancak komplikasyonlarla karşılaşabilirsiniz.
Kendi kendine giden arabalara bakalım. Genel olarak sürücüsüz arabaların katma değeri nedir? Hangi sorunu çözüyorlar? Daha mı güvenliler? Sürücüler sürüş sırasında dinlenebilirler mi? Bu tür sorular, hangisinin daha güvenli olduğu ve insanların geçiş sırasında nerede dinlenebileceği toplu taşıma gibi tamamen farklı seçenekleri keşfetmenize yardımcı olabilir. Bir düşünce deneyi olarak projeniz, varsayımları ve başlangıç noktaları tartışmaya açık olabilir.
Bir diğer soru da şu: Analiz ettiğiniz sistemin sınırlarını nereye çiziyorsunuz? Hangi artıları ve eksileri dahil ediyorsunuz? Ve hangileri sayılmaz? Kendi kendine giden arabanın sahibi için faydalarını muhtemelen sayacaksınız. Ancak bisikletçiler ve yayalar için maliyetleri ve riskleri sayıyor musunuz? Bunlar sistem sınırları ile ilgili sorulardır.
Artık sürücüsüz arabalar, trafik işaretleri gibi her türlü altyapıya bağlı daha büyük bir ağın parçaları olarak genellikle sözde akıllı şehir bağlamına konuluyor.
Bu, örneğin ambulansların kavşaklarda öncelik kazanmasını sağlayacaktır. Bir varyasyon olarak, kendilerine özel trafiğin yoğun olduğu saat şeritlerine erişim sağlayan üst düzey kendi kendine giden arabalarla gelen bazı premium hizmetleri hayal edebilirsiniz.
O zaman diğer yol kullanıcıları veya sakinleri için dezavantajlara da bakıyor musunuz? Analizinizin sınırlarını genişletebilir ve bu tür arabaları üretmenin insani ve çevresel maliyetlerine bakabilirsiniz.
Ayrıca, artıların ve eksilerin dağılımı ile ilgili sorular var. Faydalar ve maliyetler farklı insan grupları arasında nasıl dağıtılacak – araba sürücüleri, bisikletçiler, yayalar, çocuklar? Ve tedarik zincirine bakarsak, nadir minerallerin çıkarılmasıyla gelen maliyetleri ve diğer ülkelerdeki işçilerin koşullarını hesaba katmamız gerekir.
Görev ahlakı
Kullanabileceğimiz başka bir bakış açısı da görev ahlakıdır. Ödevler ve haklarla ilgilidir.
Başka bir örnek verelim: güvenlik kameraları. Müşteri olarak bir belediye ile bir proje hayal edebilirsiniz. Kamu güvenliğini sağlama görevleri vardır. Bu görevi yerine getirmek için kamusal alana kameralar asıyorlar. Bu, vatandaşların mahremiyet haklarıyla ilgili soruları gündeme getiriyor.
Yani, bir tarafın görevleri diğer tarafın haklarıyla ilgilidir. Bu belediyenin daha sonra iki görevi birleştirmesi gerekiyor: güvenli bir yaşam ortamı sağlamak ve vatandaşların mahremiyet haklarına saygı duymak.
İnsanlar genellikle burada bir çatışma algılarlar. Sanki güvenlik veya mahremiyet arasında seçim yapmanız gerekiyormuş gibi. Ama zorunda değilsin. Güvenlik ve mahremiyeti birleştiren teknolojilerle çalışabilirsiniz, örneğin veri minimizasyonu veya mahremiyeti artıran teknolojiler. Jaap-Henk Hoepman bununla ilgili bir kitap yazdı: Gizlilik zordur ve diğer yedi efsane.
Son olarak, yaratıcı çözümlere ilham verecek oldukça aptalca bir örnek. 1970’lerde olduğunuzu ve kamp yapmak istediğinizi hayal edin. Çok ağır olan geniş bir çadır ile çok küçük olan hafif bir çadır arasında seçim yapabilirsiniz. Hacim ve ağırlık arasında bir çelişki vardır. Yani hafif, su geçirmez kumaşlar ve güçlü, esnek direkler icat edilene kadar. Artık büyük bir hacmi ve küçük bir ağırlığı birleştirebilirsiniz. Güvenlik ve mahremiyetin yaratıcı kombinasyonlarını arayabilirsiniz. Veya güvenlik ve kullanılabilirlik, örneğin siber güvenlik.
Uygulamada
Uygulamada farklı etik bakış açıları iç içe geçiyor ve bunları paralel olarak kullanmak istiyorsunuz. Artıları ve eksileri analiz etmek, görev ve hakları hesaba katmak istiyorsunuz.
Bir örneğe daha bakalım: dolandırıcılığı tespit eden bir algoritma. Artıları: Algoritma, olası dolandırıcılık vakalarını işaretleyebilir ve potansiyel olarak verimli ve etkili dolandırıcılık tespitini teşvik edebilir. Eksileri: Bu algoritmayı oluşturma ve sürdürme maliyeti. Bakım ekledim, çünkü böyle bir algoritmayı periyodik olarak değerlendirmeniz ve gerekirse raydan çıkmaması için ayarlamanız gerekecek.
Diğer dezavantajlar: yanlış pozitif hatalar; bizim durumumuzda bunlar, daha fazla araştırma yapıldığında ortaya çıkan vakalar için bayraklar olacaktır. Olumsuz dolandırıcılık olmak. Bu, binlerce Hollandalı ebeveynin deneyimlediği gibi, yanlış bir şekilde dolandırıcılıktan şüphelenilen insanlara çok büyük zararlar verebilir. Ek olarak, kuruluşun bu yanlış pozitif hataları onarmak için çok büyük çaba sarf etmesi gerekecektir.
Ayrıca görev ahlakında insan hakları devreye girer. Lahey Bölge Mahkemesi tarafından 2020’de yasaklanan Hollanda Risk Belirtme Sistemi SyRI’de durum buydu. Bu, sosyal hizmetler ve yardımlarla ilgili dolandırıcılığı tespit etmek için benzer bir algoritmaydı.
Bir yandan, hükümetin kamu parasını dikkatli bir şekilde harcama ve yolsuzlukla mücadele etme görevi vardır. Öte yandan, vatandaşların özel ve aile hayatına saygı gösterilmesi hakkı vardır (Avrupa İnsan Hakları Sözleşmesi’nin 8. Maddesi). Yargıç bunları birbiriyle karşılaştırdı ve SyRI kullanımının bu insan hakkını ihlal ettiğine karar verdi.
Bu ikisinden daha etik bakış açıları var. Sonraki bir taksitte, ilişkisel etiği ve erdem etiğini tartışacağız.