Yapay zeka (AI) çağı, BT ortamını değiştiriyor, ancak teknoloji sektöründe devam eden çeşitlilik krizi nedeniyle, bu teknolojilerin hızlı gelişiminin sonuçta hayatlarımıza yardımcı mı yoksa engel mi olacağını henüz bilinmiyor.
Yıllık Computer Weekly ve Harvey Nash teknolojide çeşitlilik etkinliğinde konuşan Harvey Nash’in ana şirketi Nash Squared’in CEO’su Bev White, eğer sektörü daha büyük bir hale getirmek istiyorsak, yeterince temsil edilmeyen grupların teknoloji sektörüne katılmaları için aktif olarak fırsatlar yaratmanın önemini vurguladı. çeşitli yer.
Teknolojideki çeşitlilik söz konusu olduğunda kadranın ne kadar yavaş değiştiğinden yakınan White, sektördekileri teknoloji iş gücünün teknoloji kullanıcılarını yansıtmasını sağlama konusunda proaktif olmaya çağırdı.
“Değişiklik yapmak sadece İK topluluğunun değil, sadece CIO’ların, CDO’ların ve CEO’ların da değil, hepimizin elinde. Bu hepimizin sorumluluğundadır” dedi.
“Birini işe almayı, terfi ettirmeyi veya bir departmanı temsil etmesi için teşvik etmeyi düşündüğümüzde, bunu nasıl yaptığımızı düşünmemiz ve birine ayağa kalkıp parlaması için bir fırsat vermemiz gerekiyor. Bunu her gün, yaptığımız her şeyde yapmalıyız, yoksa hiçbir şey değişmeyecek.”
Yapay zeka (AI), üretken yapay zeka (GenAI) ve makine öğrenimi gibi teknolojilerin hızla gelişmesiyle birlikte bu duygu hiç bu kadar önemli olmamıştı.
Nash Squared’in bir raporu, çalışanların %75’inin işlerinde halihazırda GenAI kullandığını ortaya çıkardı. Bu rakam arttıkça bu teknolojileri geliştirenlerin, kullananları da yansıtması daha da önemli hale gelecek.
Bir değişiklik yapmak sadece İK camiasının değil, sadece CIO’ların, CDO’ların ve CEO’ların değil, hepimizin sorumluluğundadır.
Bev White, Nash Kare
White’ın da işaret ettiği gibi, bu araçları geliştiren ekipler, bunları kullananları tam olarak temsil etmiyorsa, bunların amaçlarına hizmet etmesini nasıl sağlayabiliriz?
Ancak bütçe kesintileri ve yanlış yaklaşım nedeniyle tepki korkusuyla karşı karşıya kalan şirketler, çeşitlilik çabalarını artırmak yerine çeşitlilik, eşitlik ve katılım (DEI) girişimlerini geri çekiyor.
Bu, dengesiz ekiplerin ve kullanıcılara yeterince önem verilmemesinin zaten sorunlara neden olduğu yapay zeka gelişiminin geleceği için kasvetli bir tablo çiziyor.
Yapabiliyor olman, yapman gerektiği anlamına gelmez
Yapay zekanın benimsenmesi hızla artarken yapay zeka teknolojisinin gelişimi yeni bir şey değil.
PwC Yapay Zeka kamu politikası ve etiği başkanı Maria Axente, teknoloji geliştirmenin genellikle “kullanıcılar üzerindeki etkisini ve tasarım hakkındaki konuşmaya kimin dahil olması gerektiğini” dikkate almadan “çünkü yapabiliriz”e bağlı olduğunu söyledi.
Bir teknoloji etikçisi olarak rolü, teknolojinin hangi amaca hizmet edeceği, teknolojinin kimin için olduğu ve onu inşa etmeye kimin dahil olması gerektiği gibi tam olarak bu konuları düşünmesini sağlar.
Şöyle açıkladı: “Yapay zeka etiği, yapay zeka ile iyi bir yaşam ne anlama geliyorsa, yapay zeka ile iyi bir yaşam vizyonu yaratmakla ilgilenen bir disiplindir.”
Axente, emniyet kemerinden regl takibine kadar önyargılarla geliştirilen teknoloji geçmişinin yanı sıra, yapay zeka gibi teknolojileri etik, kullanışlı ve adil hale getirmek için mücadele eden kadınları vurguladı.
Gelişmekte olan teknolojilerden bazılarını, yarattıkları şeyin insanların hayatları üzerinde doğrudan bir etkiye sahip olacağına ve bazı durumlarda bu etkinin, doğru en iyi uygulama mevcut olmadığında olumsuz olacağına ikna etmek çok fazla zaman, çaba ve kanıt gerektirebilir. .
Axente şunları söyledi: “Teknolojinin insanlara somut bir şekilde zarar verdiğini yavaş yavaş öğrendik.”
Yapay zeka ve makine öğreniminin gelişiminin kadınlara ve diğer yeterince temsil edilmeyen gruplara karşı önyargılı olmasının çeşitli yolları vardır. Tech Returners’ın kurucu ortağı Beckie Taylor, iş başvurusunda bulunanları taramak için yapay zeka makine öğrenimi modelini uygulayan önemli bir teknoloji şirketine bir örnek verdi. Taylor, onu oluşturan ağırlıklı olarak erkek yazılım ekibinin, yazılımın kadın başvuru sahiplerine karşı önyargılı olmasına nasıl yol açtığını açıkladı.
Taylor, bu sorunun hızlı bir şekilde tespit edilip düzeltilmesine rağmen, bunun “bu süreçte insanın önemini gösterdiğini” söyledi.
“Yapay zeka olarak adlandırılsa da, insanlar tarafından yapılıyor, insanlar tarafından inşa ediliyor, insanlar tarafından kullanılıyor; dolayısıyla bu insanların kim olduğu ve işlerine geniş bir deneyim ve bakış açısı yelpazesi getirip getirmedikleri önemli.”
Yapay zekanın veri kümeleriyle eğitildiği veya çeşitliliğe sahip olmayan ekipler tarafından geliştirildiği başka örnekler de var; bu da önyargıyı daha olası hale getiriyor; görüntüye dayalı teşhisin beyaz hastalar için daha doğru olması ve Apple Card’ın erkeklere kadınlardan daha yüksek kredi limitleri sunduğu iddiası gibi.
Yapay zeka insanlar tarafından yapılır, insanlar tarafından kurulur, insanlar tarafından konuşlandırılır; dolayısıyla bu insanların kim olduğu ve işlerine geniş bir yelpazede deneyim ve bakış açısı getirip getirmedikleri önemlidir.
Beckie Taylor, Teknolojiye Geri Dönenler
Yapay zeka etik uzmanı Axente şunları söyledi: “Bunu, aldıkları tepkiye rağmen seslerini yükselten birçok harika kadına borçluyuz. Bu teknolojinin mevcut zararları nasıl devam ettirdiğini daha iyi anlamamıza yardımcı oluyorlar.”
Artık daha iyi bir konumda olduğumuzu söyleyen Axente’ye göre, bu kadınlardan bazıları yapay zekanın gelişiminin birkaç kişi yerine çoğunluğun yararına olmasını sağlama arayışları sırasında “zorbalığa uğradı”, “kovuldu” ve “görmezden gelindi” Teknoloji geliştirme ve benimseme konusundaki zihniyeti değiştirmeye başlamak; teknoloji uğruna inşa etmekten ziyade, onu bilinçli olarak inşa etmeye doğru.
Algoritmaların daha geniş bir nüfusu temsil etmesini sağlamanın açık bir yolu, yeterince temsil edilmeyen gruplardan daha fazla teknoloji yeteneğini çekmek ve elde tutmak, ama aynı zamanda “insanlığın geleceğini yapay zeka ile şekillendirenlerin” eninde sonunda zorlanacak daha büyük kullanıcı nüfusunu yansıtmasını sağlamaktır. Yapay zekayı günlük yaşamlarına entegre etmek için “kişi merkezli yapay zeka” geleceğin odak noktası olmalıdır.
Axente şunları söyledi: “Yapay zekanın bireyler ve kolektif olarak bizim için çalışmasını istiyorsak ilerlemenin yolu rekabet değil işbirliğidir.”
Birlikte çalışmak
MACH Alliance’ın başkan yardımcısı Jasmin Guthmann’a göre, yapay zeka teknolojisini kullanan kadın sayısı 10 yıl öncesine göre yaklaşık %5 daha fazla olsa da, teknolojide çalışan kadın sayısı 1984’e kıyasla %10 daha az.
Yapay zekayı kullanan kadın sayısı ile yapay zekayı geliştiren kadın sayısı arasındaki bu dengesizlik, yapay zeka önyargısına ve tüm kullanıcılar için uygun olmayan teknolojiye katkıda bulunuyor; öyle ki hükümet yakın tarihli planlarında planların ana hatlarını çizdi. Yapay zeka fırsatları eylem planı Birleşik Krallık’ta yapay zeka ve veri bilimi yetenek havuzunun çeşitliliğini artırmak.
Ancak Guthmann, kadınların şu anda “her şeyi kendi başlarına çözmeye çalıştıklarını ve bunun da işi kesmeyeceğini” söyledi.
Teknoloji iş gücünün çeşitliliği bir süredir durgun seyrediyor. 2024 Çeşitlilik raporu BCS’den The Chartered Institute for IT, mevcut trendler devam ederse, Birleşik Krallık’ın teknoloji sektöründe çalışan kadınların yüzdesinin, daha geniş işgücündeki kadınların yüzde 48’ine ulaşmasının 283 yıl daha alacağını belirtti.
Ancak Guthmann’ın belirttiği gibi: “Eğer bunu kendi başıma değiştirmeye çalışırsam hiçbir yere varamayacağım.”
Kadranı daha makul bir hızda değiştirmek kolektif bir çaba gerektirecektir; Guthmann bunun MACH’ın bir kolu olan MACH’daki Kadınlar’ın yalnızca kadınlarla ilgili veya kadınlar için olmasını istememesinin nedenlerinden biri olduğunu iddia etti. “Odada erkeklerin olması gerekiyordu” dedi. “Sohbeti daha büyük bir hale getirmemize ve odada olmadığımızda bu konuşmayı bizim adımıza yapabilmemize yardımcı olmak için odadaki hepinizin harika müttefiklerine ihtiyacımız var.”
Kadınların ve yeterince temsil edilmeyen diğer grupların odada bulunmadığı birçok örnek var; Birleşik Krallık’taki BT yöneticilerinin yalnızca %13’ü siyah, Asyalı ve etnik azınlık (BAME) kökenlidir ve kadınlar bu yöneticilerin yalnızca dörtte birini oluşturmaktadır. 2023 yılında FTSE 100 şirketlerindeki CIO pozisyonları.
Guthmann, özellikle “yeterince temsil edilmeyen azınlıkların ve kadınların diğerlerine göre kendilerini teknolojik roller ve fırsatlar konusunda öne çıkarmakta tereddüt etmeleri” nedeniyle elimizden gelen her şekilde dahil olmamız gerektiğini söyledi.
Yeterince temsil edilmeyen bireylere ve müttefiklere, bir araya getirildiğinde büyük bir değişiklik yaratacak küçük değişiklikler yapmaları için bazı tavsiyelerde bulundu. Bunlar arasında insanları fırsatlar için öne çıkarmak, etkinliklerde yalnızca erkeklere özel paneller olduğunda seslenmek, daha sessiz insanların fikirlerinin duyulmasını sağlamak ve teknoloji etkinliklerinde kadınlara erkek müttefikler davet etmek yer alıyor.
“Bu günden itibaren hedefiniz, bunu yapmanın daha iyi bir yolu var mı diyen ses olmak” dedi. “İnsanlar ancak onları sorumlu tutarsak daha iyi durumda olacaklar. Teknolojinin geleceğini nasıl yeniden tanımlayabiliriz? İnovasyon sessizce gerçekleşmez, sınırları birlikte aştığımızda gerçekleşir; o yüzden dünyayı yarın daha iyi bir yer haline getirmek için bugün küçük bir şey yapın.”
Felaket geldiğinde
İşbirliği, doğru şekilde kullanıldığında güçlü bir araç olabilir.
Hükümet geçen yılın başlarında potansiyel melek yatırımcılar için gelir eşiğini yükseltme planlarını açıkladığında, Harbottle & Lewis hukuk firmasının ortağı Emma Wright, yasayı tersine çevirmek için teknoloji alanında çalışan büyük bir grup kadını harekete geçirdi.
HM Hazine Müsteşarlığı, “yüksek net değere sahip birey”i tanımlayan kriterleri değiştirmeyi planladı; bu, bir kişinin yatırım yapmak için ya bir önceki mali yılda en az 170.000 £ gelire ya da en az 430.000 £ net varlığa ihtiyaç duyacağı anlamına geliyor.
Yeni yasanın melek yatırımı sağlayabilen kadınların %70’ini ortadan kaldırmasıyla birlikte, bu değişiklik Birleşik Krallık’ta kadınların yönettiği işletmelerin sayısını tehdit etti.
Wright, “Kadın kurucular erkek meslektaşlarından daha fazla gelir elde ediyor” diye açıkladı.
“Girişim sermayesi finansmanının yalnızca %1,7’si kadın fon sağlayıcılara gidiyor ve kadınlar diğer kadınları, erkeklerin kadınları desteklemesinden iki kat daha fazla destekliyor.”
Wright’ın geçmişi böyle bir mücadeleye çok uygun. Daha önce Deloitte Legal’in ortağı olarak hükümete ve kamu sektörüne başkanlık etmiş, hükümetin nasıl çalıştığını anlıyor ve teknoloji ve veri avukatı olarak rolünün yanı sıra Gelişen Teknolojiler için Parlamentolararası Forum’un (eski adıyla Parlamentolararası Forum) kurucularından biriydi. Yapay Zeka Enstitüsü).
Wright, hükümeti o zamanki bütçeye göre bir karar almaya çağıran açık bir mektup yayınlayarak InvestHER kampanyasını başlattı. Açık mektubu imzalayan kadınların çoğu Computer Weekly’nin Birleşik Krallık Teknolojisindeki En Etkili Kadınlar listesindendi.
Wright’ın da işaret ettiği gibi, herkesi düşünerek inşa edilmeyen her teknoloji “bir bariyer görevi görür ve olanak sağlamaz”. Bu, herkesin geleceğinin çok büyük bir parçası gibi görünen yapay zeka gibi teknolojiler söz konusu olduğunda oluşturulacak tehlikeli bir örnek.
Bu özel eşitsizlik ortadan kaldırılsa da, InvestHER’in çabaları hâlâ yalnızca sorunlu yasayı tersine çevirmeyi başardı; kadınların liderliğindeki girişimler için potansiyel kadın yatırımcı ve destekçi sayısını artırmadı.
Wright şunları söyledi: “Teknoloji çözümlerini geliştiren herkese sahip olmadığımız sürece, küresel aşamada rekabet edemeyiz ve kapsayıcı yapay zekaya sahip olmayacağız.”
Kimsenin son kullanıcıyı dikkate almaması durumunda teknolojinin benimsenmesinin nasıl olumsuz bir etkiye sahip olabileceğinin açık bir örneği Postane skandalıdır.
Eski alt posta müdürü Jo Hamilton, Computer Weekly çeşitlilik etkinliğinde Horizon sistemi tanıtılana kadar Postane şubesini yönetirken herhangi bir sorun yaşamadığını söyledi.
Bilgisayarlar hakkında hiçbir şey bilmediği için, sistemde gün sonu muhasebesinde hatalar oluştuğunda, hata yapanın kendisi olduğunu düşündü ve bunun sonucunda Postane, dengesiz olduğu iddiasıyla onlara giderek daha fazla borcu olduğunu iddia etti. kitaplar – bilgisayarın hatalı olmasına rağmen.
Aynı şey Birleşik Krallık’taki diğer yüzlerce yardımcı posta müdürünün başına da geldi. Sistem hiçbir eğitim ve destek olmadan geldi.
“Önce bizi düşünün, teknolojiden ve teknolojiden anlamayan insanları düşünün. Hamilton, “Biz sadece küçük esnaftık” dedi.
Teknolojiyi geliştirenlere, “teknolojiyi kullanacak insanları dikkate almaları” çağrısında bulundu. [tech] teknolojik açıdan yetenekli olmayanlar”.
Yapay zeka ve diğer teknolojilerin çeşitli ekipler tarafından etik kullanım senaryolarıyla geliştirilmesine dikkat edilmezse bunun gibi ve daha önce bahsedilen olaylar daha da sık yaşanacak.
Ancak bu da ancak eğitimcilerden hükümetlere, kuruluşlardan bireylere kadar birlikte çalışarak sağlanabilir.
Herkes geleceğimizi AI ile ortaklaşa şekillendirmeye dahil olmazsa, bunun faydasını herkes göremeyecektir.