Marc Francis hayatının son birkaç yılını bozuk bir rota planlayıcısı tarafından yönetilerek geçirdi. Yakın zamana kadar Parcelforce için teslimat yapan sürücüden, vardiyalarında giderek daha zor rotalara gitmesi istendi veya uygulanamaz rotalar verildi.
Ve sistem bozulduğunda, bir adresi getiremediğinde veya teslim etmesi gereken kısa zaman aralığını kaçırdığı anlamına gelen bir rota oluşturduğunda, teslim etmedeki herhangi bir başarısızlık, bağımsız bir yüklenici olarak kendi maaşından düşülecekti. Diğer hatalar – sistemin “hatalarla dolu” olduğunu iddia etti – otomatik ödeme sistemlerinin maaşından yanlış bir şekilde kesinti yapması anlamına geliyordu.
Şu anda Uber tarzı bir davada, Parcelforce’un sürücülerini serbest meslek sahibi olarak sınıflandırmasına karşı önde gelen davacı olan Francis, Şubat ayında Computer Weekly’ye yaptığı açıklamada, şirketin otomasyon kullanımının, işin “hayatındaki en kötü sömürüyü” sağladığını söyledi.
Deneyimi birçok çalışan için modern işin normudur. İşyerinde algoritmik yönetim, otomasyon ve yapay zekanın kullanımıyla ilgili konuşmaların çoğu genellikle iş değiştirme veya verimliliğe odaklanır – yapay zekanın veya otomasyonun gelecekte insanların işlerini genel olarak değiştirip değiştirmeyeceğine dair tahminlerde bulunan düşünce parçalarından yapay zekanın üretkenliği artırma potansiyeline kadar.
Ancak geleceğe odaklanan bu kadar çok parçaya rağmen, mevcut teknolojinin halihazırda sahada, çoğunlukla düşük ücretli çalışanlar üzerinde yarattığı gerçek etkilere dair çok az tartışma var.
Yetkisizleştirmenin otomatikleştirilmesi
Haziran ayında, Yapay Zeka Küresel Ortaklığı’ndan (GPAI) gelen bir rapor tam da buna cevap vermeye çalıştı. Amazon yöneticileri ve ön saflardaki çalışanlarla görüşen araştırmacılar, şirketin iş yerinde yapay zeka ve otomasyonu en ileri düzeyde kullanmasının iş gücü üzerinde zaten büyük etkileri olduğunu ortaya çıkarabildiler. Özellikle, çalışanlar için teslim edilemeyen hedefler belirleyerek maaş ve çalışma koşullarını zayıflatmış, işçilerden tam bilgileri veya onayları olmadan veri toplamış ve insan iş gücünü daha harcanabilir hale getirmişti.
“Amazon gibi şirketlerde sistemler, genellikle depoda dolaşırken çalışanların tarayıcıları gibi şeylerden toplanan, insanların performans hedeflerini belirlemek için özel olarak kullanılan veriler üretir,” diye açıklıyor teknoloji devleriyle anlaşmazlıklarda çalışanları temsil etme konusunda uzmanlaşmış yasal bir kar amacı gütmeyen kuruluş olan Foxglove’ın kurucusu ve yöneticisi Martha Dark. “Daha sonra verilen hedefler, genellikle karşılanması açıkça imkansız olan veya insanlar bu hedeflere ulaşmaya çalışırsa ciddi zararlara yol açan aşırı yüksek çalışma oranlarını teşvik eder.”
ABD’de eski bir Amazon sürücüsü ve şu anda Dağıtılmış Yapay Zeka Araştırma Enstitüsü’nde araştırma görevlisi olan Adrienne Williams şunları söyledi: “Ben bir Amazon sürücüsü olduğumda, yeni insanlara yavaşlamalarını söylerdik çünkü bir veya iki hafta içinde kendilerini mahvedeceklerdi.
“Salı günü sekiz saatte 300 paket teslim edebildiysem, Çarşamba günü 310, Perşembe günü de 315 paket teslim etmem bekleniyordu. Ve ‘Bu maksimum’ diyen bir kapatma vanası yok.”
Hedefler [workers] daha sonra, genellikle karşılanması imkansız olan veya ciddi zararlara yol açabilecek aşırı yüksek çalışma oranlarına teşvik verilir
Martha Dark, Tilki Eldiveni
Ancak GPAI raporu işteki maddi değişiklikleri analiz etmekten daha ileri giderek işyerindeki daha az belirgin değişikliklere baktı. Ücret ve koşullar üzerindeki etkinin ötesinde, işyerinde yapay zekanın kullanımı, özellikle işçilere dayatılan prosedürlerin ölçeği ve kullanılan gözetim ölçeği, iş gücünden temsilciliği kaldırmıştı.
Otomatik karar almayla birlikte gelen varsayılan nesnellik, çalışanların kendilerine karşı çıkan kararlara itiraz etmesini neredeyse imkansız hale getiriyor; Computer Weekly bu konuyu daha önce ele almıştı.
Amazon’da çalışırken, Williams ve meslektaşlarının rota çizelgelerindeki, taleplerdeki veya şirket tarafından kullanılan GPS sistemlerindeki açık hataları sorgulama veya düzeltme yolu yoktu. Bazen, kamyonlar için açıkça güvenli olmayan rotalar, sayısız şikayete rağmen sertifikalandırılmadan kalıyordu çünkü otomatik sisteme meydan okumanın veya onu değiştirecek kadar kıdemli olanlara ulaşmanın açık bir yolu yoktu.
Leeds’te yaşayan araştırmacı, yazar ve editör Craig Gent ve Cyberboss: Algoritmik yönetimin yükselişi ve iş yerinde kontrol için yeni mücadeleşöyle diyor: “Algoritmik teknolojiler üreten şirketlerin onlara satmayı sevdiği şeylerden biri de verilerin ve ürettikleri kararların nesnelliğidir; bu da her türlü politikayı veya itirazı ortadan kaldırarak güzel, akıcı, veriye dayalı kararlar lehine sonuçlanmasıdır.”
“Aslında olan şey, algoritmalara ve kararlarına muazzam miktarda güç bahşetmesi ve bu gücün işçileri tamamen güçsüzleştirmesi ve bu sistemlerin iç işleyişine işçilerden daha fazla vakıf olmayan yöneticiler üzerinde bir etki yaratmasıdır.”
Yapay zekanın zararlarıyla başa çıkmak
Uber sürücülerinin “ırkçı” yüz tanıma yazılımıyla otomatik olarak işten çıkarılmasından, insanları tek mali can simidinden haksız yere mahrum bırakan sosyal yardım dolandırıcılığını tespit etmek için tasarlanmış yazılımlara kadar, otomatik karar alma konusunda çok sayıda skandalı bulmak için çok uzağa bakmanıza gerek yok; etkilenen kişinin karara itiraz etme yeteneği ciddi şekilde sınırlı, hatta yok denecek kadar az.
Bu, teknolojik olarak çok daha basit ve açıkça bozuk olan bir şey için bile geçerlidir; örneğin Postane tarafından kullanılan ve etkilenen alt postane müdürlerinin iktidardakileri kötü muamele gördüklerine ikna etmeye çalışmasıyla yaklaşık 20 yıl süren bir mücadeleye yol açan Horizon yazılımı.
Dark, “Yazılımın çalıştığından, işlev gördüğünden ve zarar vermediğinden emin olmak için uygun kontroller yapılmadan piyasaya sürülüyor, bunun yerine işçi sağlığı ve güvenliğine gereken önem verilmeden çok erken kullanıma sunuluyor” diyor.
ABD’de yayınlanan bir rapora göre, ABD’deki bazı Amazon lojistik merkezlerindeki iş yeri yaralanma oranları, ülke genelindeki depoların ortalamasının üç katı.
Ancak buna rağmen, Computer Weekly’nin görüştüğü kişilerden birkaçı, son İngiltere hükümetinin bu teknolojiyi, özellikle de yapay zekayı ele alma çabalarının büyük ölçüde endüstriyel özdenetime odaklandığını söylüyor.
Kara kutu algoritmalarının şeffaflığını ve açıklanabilirliğini artırmaktan, personel ve gözlemcilerin hangi gözetim ve üretkenlik yazılımının kullanıldığını, hangi verilerin toplandığını ve bunların otomatik karar almaya dayanıp dayanmadığını bilmelerini sağlayan çalışan izleme bildirimlerine kadar, etkiyi hafifletmeye yardımcı olabilecek politikalar mevcuttur.
Sadece hükümetler bu sorunu kavramakta zorluk çekmiyor. Williams, sendikaların bu işyerlerinde yapay zeka ve algoritmaların gerçek kullanım biçimlerini şekillendirmede çok az ilerleme kaydettiğini belirtiyor.
ABD’deki sendikaların teslimat sürücülerini izleyen kamyonlarda kamera kullanımına karşı mücadele ettiğini, ancak kamyonlarda dışarıya bakan kameraların kullanımı hakkında çok az tartışma olduğunu veya hiç tartışma olmadığını belirtiyor. Örneğin Amazon, sürücülerini izlemek ve rotalarını filme almak için Netradyne’ın dahili ve harici kameralarını kullanıyor. Netradyne ayrıca yakın zamanda Hyundai tarafından yatırım aldı. Geniş yelpazedeki araç kameralarından topladığı veriler, bu sistemlerin kullanabileceği daha iyi dijital haritalar oluşturarak gelecekteki otonom sürüş ve sürücü destek sistemlerinde kullanılabilir.
“Ben onlara zombi eğitmenleri diyorum – bunu yaptıklarını bilmeyen AI sistemlerinizi eğiten biri,” diyor Williams. “İkinci bir gizli iş yapıyorsunuz ve bunun farkında değilsiniz.”
İnsan emeğinin düzleştirilmesi
Sürücülerin veri toplayıcı olarak kullanılma potansiyeli, düşük ücretli bu emeğin geleceğinin büyük kısmının yapay zeka hesaplama modellerinin bakımı ve eğitimi gibi temel işlerde olabileceğine işaret ediyor.
Yapay Zeka doçenti ve Oxford İnternet Enstitüsü’nde çalışan Carl-Benedikt Frey, “Filipinler ve Hindistan’da işgücü maliyetleri çok daha düşük,” diye açıklıyor. “Yani, üretken yapay zeka insanlar arasındaki üretkenlik farklarını azaltırsa, onlara başka yerlerde ucuz işgücünden yararlanma fırsatı verecektir.”
Bu, düşük ücretli çalışanların büyük bir kısmı için kullanılan bir takma ad olan “clickworkers” için halihazırda gerçekleşmeye başlayan bir süreçtir – içerik moderatörlerinden veya otonom araç eğitmenlerinden anketleri yanıtlamak için zaman harcayan mikro çalışanlara kadar – algoritmaları eğiten ve AI sistemlerini güçlendiren verileri üretenler. Sıklıkla, bu çalışanlar asgari ücretten daha az kazanır – bazı büyük firmalar saatte ortalama 2 dolar öder – veya bazen nakit yerine hediye çekleriyle ödeme alırlar.
İkinci bir gizli iş yapıyorsun [training AI systems]ve sen bunun farkında değilsin
Adrienne Williams, Dağıtılmış Yapay Zeka Araştırma Enstitüsü
Ve bu nokta, Computer Weekly’nin bu makale için konuştuğu kişilerin defalarca dile getirdiği bir şeyi vurguluyor: Yapay zeka ve otomasyonun işyerleri üzerindeki etkisi, insan emeğini değiştirmekten ziyade, onu nasıl değiştirdiği ve düzleştirdiğiyle ilgili; bir röportajcının açıkladığı gibi, işçileri robotlarla değiştirmek yerine, onları nasıl robotlara dönüştürdüğüyle ilgili.
Gent, “Bu, işi optimize etmekle ilgili,” diyor. “Ve bu, işverenlerin bakış açısından, çalışanların insan olmaları nedeniyle, aksi takdirde ince ayarlı bir para kazanma hesaplamasına soktukları belirsizliği azaltmak anlamına geliyor.”
Computer Weekly yorum almak için Parcelforce ile iletişime geçti ancak kayda geçen bir yanıt alamadı.
GPAI raporuna yanıt olarak Amazon’dan bir sözcü Computer Weekly’ye yaptığı açıklamada, şirketin hem dünyadaki en güvenli hem de teknolojik olarak en gelişmiş işyerlerini yaratmayı hedeflediğini ve tasarladığı her teknolojinin, işyerlerinin yerini almak yerine daha iyi bir çalışma ortamı yaratmayı ve yeteneklerini artırmayı amaçladığını söyledi.
“Sevkiyat ve lojistik operasyonlarımızda, en zor ve tekrarlayan görevleri otomatikleştirmek için yazılım ve donanım kullanıyoruz. Böylece çalışanlar için zihinsel ve fiziksel stresi azaltıyoruz. Bu da Birleşik Krallık’taki diğer perakende ve lojistik işletmelerine kıyasla %50 daha az yaralanma yaşadığımız anlamına geliyor” dediler.
“Son teknoloji robotların kullanımı, dağıtım merkezlerimizde yürüme süresini kısalttı, operasyonel verimliliği artırdı, aynı zamanda geliştirmeleri işletmek ve sürdürmek için mühendisler gibi daha yetenekli işlere ihtiyaç duyulmasına neden oldu.
“Çalışanlarımızın geri bildirimlerini ve önerilerini dinliyor ve düzenli olarak bunlara göre hareket ediyoruz. Açık kapı politikamız, onların yorumlarını, sorularını ve endişelerini doğrudan veya anonim olarak iletmelerini teşvik ediyor.”
Sözcü, sürücü rotalarını ve teslimatlarını koordine etmek için teknolojinin kullanımı konusunda, çalışmalarının ulaşılabilir ve ödüllendirici hissettirmesi için yoldaki deneyimlerini şekillendiren çeşitli faktörlerin olduğunu sözlerine ekledi.
“Amazon, teslimat yeri türü, yürüme mesafesi, araca binme ve araçtan inme, paketlerin boyutu ve ağırlığı ve hava durumu gibi çevresel faktörler gibi sürücülerin yolda karşılaştığı karmaşıklıkları doğru bir şekilde hesaba katan rota tasarımına ve teknolojisine yatırım yapmaya devam ediyor,” dediler. “Sürücü geri bildirimi, güvenli, basit ve sürdürülebilir rotalar oluştururken sürekli iyileştirme zihniyetimizin merkezinde yer alıyor.”