Veri toplama ve analiz etme veya algoritmalar ve yapay zeka (AI) uygulamaları geliştirme veya uygulama ile ilgileniyorsanız, muhtemelen bunu sorumlu bir şekilde yapmak istersiniz.
Zararın önlenmesi, insan onuru, insan özerkliği, adalet, eşitlik, şeffaflık ve açıklanabilirlik gibi etik ilkelerin listelendiği ve tartışıldığı belgelere başvurabilirsiniz. Harika ilkeler – ancak oldukça soyut kalabilirler. Muhtemelen, projelerinize etiği entegre etmek için pratik yöntemler arıyorsunuz.
Önceki bir bölümde, etiği bir direksiyon simidi ve etiği bir süreç olarak sunmuştum. Etiği projeniz için bir direksiyon simidi olarak kullanabilirsiniz: doğru şeritte kalmak, doğru dönüşleri yapmak ve çarpışmalardan kaçınmak. Ve bir etik düşünme ve müzakere süreci organize edebilirsiniz: olası sorunları masaya yatırır, bu konular hakkında konuşmalar düzenler ve bu konuşmalara dayalı kararlar alırsınız.
Ayrıca iki etik bakış açısını çerçeve olarak tartıştım. Sonuççuluk ile projenizin sonuçlarının (sonuçlarının) potansiyel artılarını ve eksilerini değerlendirebilirsiniz. Artıları en üst düzeye çıkarmak ve eksileri en aza indirmek için çalışabilir veya daha az veya daha küçük eksileri olan seçenekler yerine daha fazla veya daha büyük artıları olan seçenekleri seçebilirsiniz.
Görev etiği ile projenizde yer alan çeşitli görev ve haklara odaklanabilirsiniz. Örneğin, bir yanda güvenliği teşvik etme görevi olan ve bu nedenle halka açık yerlere kameralar yerleştiren bir şehir, diğer yanda mahremiyet haklarına sahip vatandaşlar. O halde sizin göreviniz, bu tür görev ve hakları birleştirmektir.
Avrupa Aydınlanması
Bu iki bakış açısı Avrupa Aydınlanması sırasında geliştirildi: Jeremy Bentham’ın sonuççuluğu (faydacılık) ve Immanuel Kant’ın görev etiği (Kantçılık).
Böylece, Aydınlanma’nın temel varsayımları ve tutkuları bu perspektiflere gömüldü. İnsanlara diğerlerinden bağımsız, ayrı bireyler olarak baktılar ve dünyaya ve insanlara bakış açıları nesnel ve hesaplıydı.
İlişkisel etik ve erdem etiği, algoritmaların ve AI sistemlerinin geliştirilmesi ve uygulanması için gerçekten çok faydalıdır.
Bu bizim varsayılan “normal” bakış açımız haline geldi. Ancak bu, dünyaya ve diğer insanlara bakmanın olası yollarından yalnızca biridir ve kesinlikle tek yol değildir.
Aşağıda, diğer iki bakış açısını tartışacağım: ilişkisel etik ve erdem etiği. İlişkisel etiğin ortaya çıkışı (1980’lerde bakım etiği olarak) ve erdem etiğinin yeniden canlanması (1970’lerden itibaren meslek etiğinde olduğu gibi) sonuççuluk ve görev etiğine bir tepki veya ek olarak anlaşılabilir.
Dahası, ilişkisel etik ve erdem etiğinin, algoritmaların ve yapay zeka sistemlerinin geliştirilmesi ve uygulanması için gerçekten çok yararlı olduğunu önermek isterim.
İlişkisel etik, teknolojilerin insanlar arasındaki etkileşimleri nasıl etkilediğini anlamaya yardımcı olabilir; insanların teknoloji aracılığıyla birbirlerine (farklı şekilde) nasıl davrandıkları. Erdem etiği, teknolojilerin insanların adalet, cesaret, özdenetim veya dürüstlük gibi belirli erdemleri geliştirmelerine nasıl yardımcı olabileceğini veya engelleyebileceğini anlamaya yardımcı olabilir.
ilişkisel etik
Örnek olarak, artırılmış gerçeklik (AR) gözlüklerine bakmak için ilişkisel etik bakış açısını kullanalım.
2013’te tanıtılan ve Mart ayından bu yana üretimi durdurulan Google Glass’ı veya yakın zamanda tanıtılan Apple Vision Pro’yu veya onun gelecekteki daha hafif bir sürümünü düşünebilirsiniz. Kullanıcıya sanal dünyaların projeksiyonları ile gerçek dünya görüşünün bir kombinasyonunu sunarlar.
Şimdi diyelim ki dışarıdayız, sokaktayız ve ben böyle gözlükler takıyorum ve size doğru bakıyorum. Seni filme alıp almadığımı merak edeceksin ve muhtemelen bundan hoşlanmayacaksın. Çoğu insan, kesinlikle bir çocuk oyun alanının yakınındayken bu tür gözlükleri takmamı onaylamaz. Ya da birbirimizle konuştuğumuzu varsayalım. Akıllı telefonlarda yaptığımız gibi, size mi dikkat ettiğimi yoksa başka bir şeye mi baktığımı bilmek isteyeceksiniz.
AR gözlüğü takmak insanlara insandan çok nesne olarak bakmamı sağlayabilir: “Güzel görünüyor; Fotoğraf çekiyorum” veya “Sıkıcı insan; Film izlemeyi tercih ederim”. Distopik gelecek mi? Zorla mı? muhtemelen. Ama Glasshole deneyimini 10 yıl önce yaşadık.
İlişkisel etik perspektifi tipik olarak bir güç analizini içerir: güç nasıl dağıtılır ve teknoloji kullanımı aracılığıyla güç nasıl değişir? AR gözlüklerinizle yaptığınız fotoğraflar veya filmler muhtemelen bir Google, Meta, Apple veya Amazon bulutuna giriyor. Ve “Tamam”ı tıkladığınız için, o şirket fotoğraflarınızı ve filmlerinizi yapay zeka sistemlerini eğitmek gibi pek çok amaçla kullanabilir.
Daha sonra, reklamları ve sponsorlu içeriği kişiselleştirmek ve bunları gözlerinize yansıtmak için bu AI sistemlerini kullanabilirler. Bu şirketler, kullanıcılar üzerinde güç kullanır. Tabii ki, bunu zaten akıllı telefonlar aracılığıyla yapıyorlar. Ancak AR gözlükleri muhtemelen daha da rahatsız edici olacaktır, özellikle de bütün gün takıyorsanız, bu muhtemelen önce daha az hantal hale gelmelerini gerektirecektir.
Olası olumlu etkilere de bakabiliriz. Örneğin AR aracılığıyla korkudan kurtulmak, başka kültürlerdeki insanlar hakkında bilgi edinmek veya profesyonel bağlamlarda işbirliği yapmak için destek alabiliriz. AR muhtemelen hem istenen hem de istenmeyen etkileri beraberinde getirecektir. İlişkisel bir etik bakış açısı, teknolojilerin insanların birbirlerine nesne olarak değil, insanca davranabilecekleri şekilde geliştirilmesine ve uygulanmasına yardımcı olabilir. Dahası, iş modellerine ve güç dağılımına eleştirel bir bakış atmaya yardımcı olabilir.
Erdem etiği
Son olarak, erdem etiği. Batılı bir bakış açısıyla bu gelenek Atina’da Aristoteles ile başlar. Budizm ve Konfüçyüsçülük gibi diğer kültürlerde de erdem etiği vardır.
İlk olarak, olası bir yanlış anlaşılmayı ortadan kaldırmalıyız. Bazı insanlar erdem etiğini sıradanlıkla ve bireysel davranışla ilişkilendirir. İkisi de yanlış. Erdem etiği mükemmellikle, her özel durumda mükemmel bir “ortalama” bulmakla ilgilenir.
Birinin bir başkasını dövdüğünü görürseniz ve fiziksel olarak güçlüyseniz müdahale etmek cesurca olur. Bunun dışında kalırsan korkakça davranırsın. Ancak fiziksel olarak güçlü değilseniz, onlardan uzak durmak ve polisi aramak cesurca olacaktır. Müdahale etmek acelecilik olur.
O halde cesaret, korkaklık ile acelecilik arasındaki uygun “orta”dır ve kişiye ve duruma bağlıdır.
Dahası, erdem etiği bireysel davranışla ilgili değildir. İnsanların bir arada iyi yaşayabileceği bir toplumu organize etmekle ilgilenir.
Erdem etiği, ortaya çıkan teknolojilerin insanların ilgili “teknik” erdemleri geliştirmelerine nasıl yardımcı olabileceğini keşfetmek için bir çerçeve sunar.
Shannon Vallor, kitabında erdem etiğine harika bir güncelleme yaptı. Teknoloji ve erdemler. Artıları ve eksileri, görevleri ve hakları henüz net olmayan “gelişmekte olan teknolojileri” tartışmak ve şekillendirmek istiyorsak erdem etiğine dönmeyi öneriyor. Erdem etiği daha sonra bu tür teknolojilerin insanların ilgili “teknolojik” erdemleri geliştirmelerine nasıl yardımcı olabileceğini keşfetmek için bir çerçeve sunar.
Bir sosyal medya uygulamasına erdem etiği açısından bakalım. Genellikle, böyle bir uygulama, bildirimler, renkler ve bip sesleri ve ilgili içeriğin otomatik önizlemeleri ile insanları uygulamayı sık sık ve uzun süre kullanmaya teşvik eder. Bu, insanların otokontrolünü baltalıyor. İnsanların özdenetim erdemini geliştirmelerini engeller. Planınız sadece e-postanızı kontrol etmek olsa da, sonunda Facebook veya YouTube’da 30 dakika veya daha fazla zaman harcıyorsunuz.
Birçok sosyal medya uygulaması da dürüstlüğü aşındırır. Sözde katılımı teşvik etmek için tasarlandılar. Yarı gerçekleri ve sahte haberleri sunarlar ve öfke ve kutuplaşmayı teşvik ederler. Diyelim ki böyle bir uygulama üzerinde çalışıyorsunuz. Farklı bir şey yapabilir misin? İnsanların otokontrol ve dürüstlük geliştirmelerine yardımcı olan bir uygulama geliştirebilir misiniz? Belki – temeldeki iş modelini de değiştirirseniz.
Örneğin, insanların parasını ödediği ve şu soruları soran bir uygulama geliştirebilirsiniz: Neyi başarmak istiyorsunuz ve kaç dakikanızı harcamak istiyorsunuz? Belirlenen dakika sayısından sonra bir bildirim alırsınız: Tamamlamak? Belki şimdi başka bir şey yaparsın?
Ve dürüstlük için: Bunu paylaşmak istediğinizden emin misiniz? Doğru olduğundan emin misin? Veya şöyle bir hatırlatma: Mesajınız argo dil içeriyor. Belki derin bir nefes alın ve yavaşça nefes verin. Şimdi, nasıl devam etmek istersiniz?
Erdemlerle başlayın
Erdem etiği profesyoneller için çok uygun bir bakış açısıdır. Bir profesyonel olarak işinizde ve projelerinizde hangi erdemlere ihtiyacınız var?
Adalet, bir algoritma üzerinde çalışıyorsanız ve önyargı ve ayrımcılığın yayılmasını önlemek istiyorsanız. Cesaret, söz almak ve projenin istenmeyen yan etkileri hakkındaki endişelerinizi dile getirmek istiyorsanız.
Erdem etiğinin güzelliği, hemen başlayabilmeniz ve pratik yaparak daha iyi olabilmenizdir. Geliştirmek için bir erdem seçebilirsiniz: adalet, cesaret, özdenetim, merak, yaratıcılık, çeşitlilik. Ardından, normalde yaptığınızdan farklı davranmak için fırsatları seçin: adaletle ilgili endişelerinizi dile getirin, açık bir soru sorun, bir belirsizlik hissine müsamaha gösterin, diğer meslektaşınızı toplantıya davet edin. Ayrıca erdemlerine hayran olduğunuz insanlara bakıp onlardan öğrenebilir, muhtemelen davranışlarını modelleyebilirsiniz.
Marc Steen’in teknoloji alanında çalışan insanlar için Etik adlı kitabı Routledge aracılığıyla çıktı.