Önceki yazılarımızda etiği bir düşünme ve müzakere süreci olarak tartışmıştık; projenize dört farklı etik perspektiften baktığınız yinelemeli ve katılımcı bir süreç: sonuççuluk (artılar ve eksiler), görev etiği (görevler ve haklar), ilişkisel etik (etkileşimler ve güç) ve erdem etiği (erdemler ve birlikte yaşamak) .
Şimdi bu perspektifleri test edeceğiz ve ChatGPT’yi örnek olay incelemesi olarak kullanacağız. Bundan sonra, kendi başınıza başlamanız için birkaç öneri sunacağız.
ChatGPT masada
İyi bir analiz şu soruyu açıklığa kavuşturmakla başlar: “Neden bahsediyoruz?” Ne kadar spesifik ve pratik olursa o kadar iyidir. Üzerinde çalıştığınız uygulama henüz hazır değilse bir taslak oluşturup bunu masaya koyabilirsiniz. Hazır olmasına gerek yoktur. Daha da iyisi, çünkü o zaman öğrendiklerinizi daha fazla gelişmeye yönelik olarak kullanabilirsiniz.
Vaka çalışmamız için gazetecilerin ChatGPT’yi çalışmalarında nasıl kullanabileceğine bakabiliriz. Gelişimi ve kullanımı aynı zamanda insanın özerkliği, zararın önlenmesi, faydaların ve yüklerin adil dağıtımı, şeffaflık ve hesap verebilirlik gibi değerlere yönlendirebiliriz.
Sonuççuluk: artılar ve eksiler
Sonuççuluk ile projenizin çıktılarının gerçek dünyadaki, toplumdaki ve günlük yaşamdaki artılarını ve eksilerini hayal edersiniz. Artı tarafta, gazeteciler ve diğerleri daha verimli çalışmak için ChatGPT’yi kullanabilirler. Eksi tarafta ise bu verimlilik başkalarının işini kaybetmesine yol açabilir.
Artı tarafta, ChatGPT insanların kelime dağarcığını ve dilbilgisini geliştirmelerine yardımcı olabilir. Eksi tarafta, insanlar ChatGPT’yi çok hızlı ve çok ucuza tonlarca dezenformasyon üretmek ve dolayısıyla gazeteciliği ve demokrasiyi baltalamak için kullanabilirler.
Düşük ücretli ülkelerdeki insanlar, genellikle kötü çalışma koşulları altında ChatGPT’yi eğitmek için verileri temizlediler. Uygun düzenleme olmadığında, tüm artılar az sayıda şirkete gider, maliyetler ise çevreye ve dünyanın diğer ucundaki insanlara gider.
Özellikle sentetik fotoğraf veya videolarla birlikte sunulduğunda sahte haberleri tespit etmek giderek zorlaşıyor. Uzmanlar, 2026 yılına kadar çevrimiçi içeriğin en az %90’ının yapay zeka (AI) ile oluşturulacağını veya değiştirileceğini tahmin ediyor.
Ayrıca çevreye ve topluma olan maliyetlerine de bakabiliriz; ChatGPT’nin üzerinde çalıştığı çiplere giren malzemeleri çıkarmak ve ChatGPT’yi eğitmek için harcama yapmak. Artıların ve eksilerin dağılımına da bakabiliriz.
Düşük ücretli ülkelerdeki insanlar, genellikle kötü çalışma koşulları altında ChatGPT’yi eğitmek için verileri temizlediler. Uygun düzenleme olmadığında, tüm artılar az sayıda şirkete gider, maliyetler ise çevreye ve dünyanın diğer ucundaki insanlara gider.
Artık bir profesyonel olarak, böyle bir uygulama üzerinde çalışıyorsanız, onu dezavantajları en aza indirecek ve avantajları en üst düzeye çıkaracak şekilde geliştirmek veya dağıtmak için çalışabilirsiniz.
Görev etiği: görevler ve haklar
Görev ahlakı ile görev ve haklara bakarız. Ve çatıştıklarında bir denge ararız. Tipik olarak geliştiricilerin görevleri vardır ve kullanıcıların hakları vardır. Bu, oldukça güncel olan hukuki görüşle örtüşüyor; Haziran ayında Avrupa Parlamentosu, örneğin şeffaflıkla ilgili olarak büyük dil modellerini (LLM’ler) de düzenleyen AI yasasına ilişkin müzakere yetkisini onayladı.
ChatGPT için adalet ve ayrımcılık yapmama da kritik öneme sahiptir. Verilerdeki önyargının algoritmalarda ayrımcılığa yol açabileceğini biliyoruz; Cathy O’Neil ve Safiya Umoja Noble bunun hakkında yazdılar. Benzer bir kaygıdan Emily Bender, Timnit Gebru ve ark. Stokastik Papağanlar kağıt, veri kümelerinin daha dikkatli derlenmesini talep ediyor. Adil olma ve kullanıcılara ayrımcılık yapmama hakkı nedeniyle geliştiricilerin adil olma ve özen gösterme yükümlülüğü vardır.
Görev etiği, projenizi mevzuatın korkulukları arasında yönlendirmenize, önyargı ve ayrımcılıktan kaçınmanıza, telif haklarına saygı duymanıza ve insanları güçlendiren uygulamalar geliştirmenize yardımcı olabilir
Ayrıca ChatGPT’nin neden oldukça sorunsuz çalışan metinler ürettiğine de bakabiliriz. Bunun nedeni, insanlar tarafından yazılan birçok metne dayanmasıdır, ancak bu, yazarların telif haklarını ihlal edebilir. Kısa süre önce iki yazar, ChatGPT’nin arkasındaki şirket olan OpenAI’ye telif haklarıyla ilgili dava açtı.
Görev etiğinin bir diğer temel kaygısı insan onurudur. Örneğin bir kuruluş sizinle iletişim kurmak için başka bir insanın sizinle konuşması yerine ChatGPT’yi kullanırsa insanlık onuruna ne olur?
Kısacası görev etiği, projenizi mevzuatın bariyerleri arasında yönlendirmenize, önyargı ve ayrımcılıktan kaçınmanıza, telif haklarına saygı duymanıza ve insanları güçlendiren uygulamalar geliştirmenize yardımcı olabilir.
İlişkisel etik: etkileşimler ve güç
İlişkisel etiğin merceğinden, teknolojinin insanların birbirleriyle nasıl etkileşimde bulunduğu ve iletişim kurduğu üzerindeki etkisine bakabiliriz. ChatGPT’yi düşündüğümde aklıma Joseph Weizenbaum’un 1960’larda programladığı chatbot ELIZA geliyor. Kendisi bunun yalnızca bir yazılım olduğunu açıkladıktan sonra bile, insanlar her türlü zekayı ve empatiyi ELIZA’ya atfettiklerinde hoş olmayan bir şekilde şaşırdı. İnsanlar insani nitelikleri kolaylıkla nesnelere yansıtırlar. Artık eski Google olan Blake Lemoine, LaMDA’nın bilinçli olduğuna inanıyordu.
Pek çok insanın çevrimiçi olarak bilgi aradığı bir dünyada, ChatGPT gibi Yüksek Lisans’lara sahip olan ve bunları dağıtan şirketlerin orantısız bir gücü var
Ancak bunun tersi de mümkündür. Chatbot kullanımımız insan niteliklerini aşındırabilir. ChatGPT’yi gelişigüzel kullanırsanız vasat metinler alırsınız ve bu da iletişimi zayıflatabilir. Buna ek olarak, ChatGPT sorunsuzca akan metinler oluşturabilir, ancak fiziksel dünyamız hakkında hiçbir anlayışa, sağduyuya ve hakikate dair neredeyse hiçbir fikre sahip değildir. Şu cümleyi üretti: “Bardak yeme fikri bazılarına endişe verici gelebilir, ancak aslında onu bir besin takviyesi olarak düşünmeye değer kılan birçok benzersiz faydası var”. Açıkçası, ChatGPT’nin gelişigüzel kullanımının, örneğin sağlık hizmetlerinde ciddi riskler taşıyabileceği açıktır.
Ayrıca güç ve gücün dağılımı hakkında sorular sorabiliriz. Pek çok insanın çevrimiçi bilgi aradığı bir dünyada, ChatGPT gibi Yüksek Lisans’lara sahip olan ve bunları dağıtan şirketlerin orantısız bir gücü var.
Erdem etiği: birlikte iyi yaşamak
Erdem etiğinin kökleri Aristoteles’in Atina’sına dayanır. Erdem etiğinin amacı, birlikte iyi yaşayabilmemiz için insanların erdemleri geliştirmelerini sağlamaktır. Bunda teknolojilerin rolü var. Belirli bir uygulama, insanların belirli bir erdemi geliştirmesine yardımcı olabilir veya engel olabilir.
Bütün günü sosyal medyada geçirmek öz kontrol yeteneğinizi aşındırır. Kendini kontrol etmek klasik bir erdemdir. Amaç, her özel durumda, belirli bir erdem için uygun bir ortalama bulmaktır. Cesaret örneğini ele alalım. Güçlüyseniz ve birinin diğerine saldırdığını görürseniz müdahale etmek cesurcadır. Bunun dışında kalmak korkaklık olurdu. Ama eğer güçlü değilseniz müdahale etmek acelecilik olur. Uzak durmak ve polisi aramak o zaman cesurca olur.
Erdem etiğinin amacı, birlikte iyi yaşayabilmemiz için insanların erdemleri geliştirmelerini sağlamaktır. Bunda teknolojilerin rolü var. Belirli bir uygulama, insanların belirli bir erdemi geliştirmesine yardımcı olabilir veya engel olabilir.
Şimdi, bir geliştirici olarak ne yapabilirsiniz? İnsanların belirli erdemleri geliştirmesine olanak tanıyan özellikler ekleyebilirsiniz. Örnek olarak sosyal medyayı ele alalım. Çoğu zaman sosyal medyada dezenformasyon var ve bu da dürüstlüğe ve vatandaşlığa zarar veriyor. Çevrimiçi medya dezenformasyonla dolu olduğunda neyin doğru olup olmadığını belirlemek zordur ve bu da her türlü diyaloğu bozar.
Dürüstlüğü ve vatandaşlığı teşvik eden bir uygulamanın oluşturulmasına yardımcı olabilirsiniz. İnsanların sahte haberler arasında gezinmesini sağlamak ve kutuplaşmayı körüklemek yerine, insanları gerçekleri kontrol etmeye ve diğer insanların endişelerini merak etmeye, diyalog kurmaya çağıran özelliklerle.
Etiği projelerinize entegre etmek
Şimdi, projelerinizde bu tür etik yansıma ve müzakerelere başlamak istediğinizi varsayalım. Bunu en iyi şekilde insanların zaten bildiği ve kullandığı çalışma yöntemlerine entegre edebilirsiniz.
Örneğin etik yönleri insan odaklı tasarım yöntemlerinize entegre edebilirsiniz. Bir taslak veya prototip sunarsınız ve etik yönler de dahil olmak üzere bir tartışmayı kolaylaştırırsınız. Diyelim ki ipotek danışmanlarının birinin ne tür ipotek alabileceğini belirlemesine yardımcı olan bir algoritma üzerinde çalışıyorsunuz. Onlara böyle bir algoritmanın kullanımının iş tatminleri, müşterilerinin deneyimleri veya özerklikleri üzerinde ne gibi etkileri olacağını sorabilirsiniz. Onların cevaplarıyla daha fazla gelişmeyi ayarlayabilirsiniz.
Üzerinde çalıştığınız uygulamayı farklı paydaşların nasıl görüntülediğini araştırmak da yararlı olabilir. Hangi değerleri önemli buluyorlar? Tedarikçi, teknik uzman ve uygulamanın sahada nasıl kullanıldığını bilen biriyle toplantı düzenleyebilirsiniz. Burada soru sormak ve daha fazla araştırma yapmak önemlidir. İki kişinin bir SUV hakkında konuştuğunu ve her ikisinin de güvenliğin önemli olduğunu düşündüğünü varsayalım. İnsan böyle bir SUV’un sahibinin bakış açısından düşünüyor. Diğeri ise bisikletlilerin ve yayaların güvenliğini düşünüyor. Buradaki zorluk hassas konulardaki diyalogları kolaylaştırmaktır.
Son olarak proje ekibinizin kompozisyonuna bakabilirsiniz. Çeşitlilik içeren bir ekip, bir soruna farklı açılardan bakabilir ve farklı bilgi türlerini yaratıcı çözümlerde birleştirebilir. Bu, tünel görüşünü ve kör noktaları önleyebilir. Teknoloji değerlendirmesi geleneğinde, üzerinde çalıştığınız teknolojide neyin yanlış gidebileceğini keşfedebilirsiniz.
Bunun zamanında yapılması durumunda sorunların önlenmesi ve risklerin üstesinden gelinmesi için önlemler alınabilir. Farklı bakış açılarına sahip insanlar yararlı sorular sorabilirler. Bu daha eksiksiz bir resim verir; bazen karmaşık bir resim; ama hey, dünya karmaşık.
Marc Steen’in kitabı, Teknolojide çalışan insanlar için etik, şu anda Routledge aracılığıyla çıktı.