İnsanların yapay zeka (AI) sistemlerinin hem kamu hem de özel yönetimine kapsayıcı katılımı, teknolojinin herkesin yararına çalışmasını sağlamanın anahtarıdır, ancak şu anda anlamlı bir kamu katılımının yolu yoktur.
Alan Turing Enstitüsü (ATI) tarafından yürütülen dördüncü yıllık AIUK etkinliği sırasında, gün boyunca konuşan delegeler, fikir aşamasından tamamlanma ve nihai teslimata kadar halkın kamuya açık yapay zeka projelerine “yapısal katılımının” önemini vurguladılar.
Ancak hükümetin baş bilimsel danışmanı Angela McClean'a göre, halkın, yapay zeka gibi kendilerini açıkça etkileyen bilim ve teknoloji konularında seslerini duyurmasına olanak sağlayacak geçerli bir kanal yok. “Başarılı evlat edinme [of AI] halkın katılımına ve halkın güveninin kazanılmasına ihtiyaç duyacak ve bu, kamu hizmetinde güvenilir olmanın bize bağlı olduğu anlamına geliyor” dedi açılış konuşmasında.
Anlamlı vatandaş katılımına yönelik mevcut fırsatlar hakkındaki soruları yanıtlayan McLean, bunu başaracak herhangi bir istişare sürecinden haberdar olmadığını, ancak böyle bir süreç olsaydı bunun “çok ilginç” olacağını söyledi. “Burada sahip olduğumuz şey, hükümetin insanlarla etkileşime girme şekillerinden bazılarını gözden geçirme ve sıfırlama şansı, bence bu çok önemli.”
ATI araştırma görevlisi Georgina Aitkenhead, engelli hakları hareketlerinin popüler bir sözü olan “Biz olmadan bizim hakkımızda hiçbir şey olmaz” ifadesine dikkat çekerek kapsayıcılıkla ilgili bir panelde bunun “toplumdaki insanları etkileyecek şeyler yapmamalıyız” anlamına geldiğini söyledi. Önceliklerin belirlenmesine ve kararlara katkıda bulunulmasına dahil olun.”
Kapsayıcılık konusundaki bu vurgunun, teknolojinin geliştirilmesine, tasarımına ve dağıtımına en başından itibaren dahil edilmesi gerektiğini ekledi.
Hükümetin Sorumlu Teknoloji Benimseme Birimi'nin kıdemli danışmanlarından James Scott da bu görüşe katılarak şuna dikkat çekti: “Genellikle yüzeysel düzeyde bir katılım görüyoruz, genellikle oldukça geç oluyor ve bu nedenle yön değiştirme kapasitesi gerçekten sınırlı çünkü temel kararlar zaten alınmış durumda. ”.
Katılımcı yaklaşımlar
Aynı zamanda ATI'nin, otistik kişilerin ihtiyaçlarını desteklemek üzerine inşa edilmiş tamamen açık kaynaklı bir “vatandaş bilimi” platformu olan AutSpaces'in geliştirilmesine de liderlik eden Scott, katılımcı araştırma projelerinin toplulukların seyahatin yönünü belirlemesine olanak tanıyan gerçek bir potansiyele sahip olduğunu ekledi. onları etkileyen kararlarda.
“Aslında bu platform, duyusal deneyimlerini bilen otistik kişilerin araştırma için kullanılacak daha iyi bir veri seti oluşturmasına ve kamu hizmetlerini iyileştirmesine yardımcı olacak” dedi ve nihai hedefin, kamu hizmetleri tasarım sürecini geliştirmek olduğunu ekledi. nörotipik olmayan kişilerin ihtiyaçlarını en başından itibaren dahil eder ve bu daha sonra herkese fayda sağlar.
Farklı topluluklarla erken bir aşamada anlamlı etkileşim kurmanın önemi hakkındaki benzer düşünceler, halkı temsil eden üyelerle etkileşim kurmak için Kasım 2023'te yapay zeka üzerine deneysel bir Halk Paneli düzenleyen Connected By Data savunuculuk grubundan sosyal araştırmacı Helena Hollis tarafından da dile getirildi. Yapay zeka ile ne yapılacağı konusunda müzakereci bir süreçteyiz.
Kısmen hükümetin Bletchley Park'ta aynı anda gerçekleştirilen Yapay Zeka Güvenliği Zirvesi'nin dar sektörel odağına yanıt olarak yapılan Hollis, “bunun gerçekten etkili, anlamlı ve yararlı bir şey olduğu ortaya çıktı” dedi.
Kapsayıcılığın en başından itibaren dikkate alınması gerektiğini ve araştırmacıların ve politika yapıcıların sorduğu sorulara dahil edilmesi gerektiğini ekledi. “'Yapay zeka ne yapabilir ve bu teknolojiyi nasıl geliştirebiliriz?' diye soracaksak, doğası gereği yalnızca belirli kişileri sorunuzu yanıtlamaya davet edeceksiniz,” dedi Hollis. “'Nasıl bir hayat yaşamak istiyoruz, yapay zeka bunu nasıl destekliyor ya da nasıl destekleyebilir?' diye sorarsanız. O halde bir hayat yaşayan herkes bu soruyu yaşanmış deneyimleriyle yanıtlayabilir.”
Hollis ayrıca panel üyelerinin Connected by Data ile etkileşime devam ettiğini ve benzer katılımcı uygulamaların yaygınlaştırılması yönünde güçlü bir istek duyduklarını da belirtti.
Deneyim hakkında yorum yapan Halk Paneli katılımcısı Margaret Colling, dört günlük yoğun bir öğrenme sürecinin ardından üyeler arasında bir heyecan ve güçlenme duygusu oluştuğunu söyledi.
“Teknik açıdan bu kadar gelişmiş bir konu hakkında tutarlı görüşlere sahip olmayı asla beklemezdim” dedi. “Fakat söylemek istediğim o kadar çok şey vardı ki, birdenbire hepimiz çeşitli toplulukların güçlü temsilcileri olduk ve sesimiz önem kazandı.
“Biz genel olarak kamuoyu, eğer gerekli bilgiler verilirse, günlük hayatlarımızla ilgili herhangi bir konuda fikir sahibi olma konusunda mükemmel bir yeteneğe sahibiz. Genellikle başka türlü dile getirilemeyecek endişeleri dile getirerek farklı bir bakış açısı sunabiliriz.”
Güç farklılıkları
Yapay genel zekanın (AGI) potansiyel gelişimi hakkında bir panelde konuşan konuşmacılar, yapay zeka teknolojisinin büyük ölçüde az sayıda yabancı şirkete (çoğunlukla ABD ve Çin'den) ait olduğuna dair endişelerini dile getirdi.
Örneğin ATI'deki temel yapay zeka araştırması direktörü Michael Wooldridge, bunun “potansiyel olarak 21. yüzyılın en önemli teknolojisi” olduğunu söyledi.st yüzyıldayız ve biz temelde ona sahip olma anlamında bunun bir parçası değiliz”.
York Üniversitesi'nden bilgisayar bilimcisi John McDermid de yapay zeka teknolojisinin nispeten az sayıda elde yoğunlaşmasının çeşitli nedenlerden dolayı “gerçek bir sorun” olduğunu söyledi.
Birincisi, güvenlik açısından bakıldığında, modeller büyük ölçüde kurumsal silolarda kilitli olduğundan, yapay zeka sahibi firmalardan bağımsız mühendislerin potansiyel riskleri ve zararları değerlendiremeyeceği anlamına geliyor. Yapay zeka modellerinin de hızla değişen doğası göz önüne alındığında McDermid, sistemlerde yapılan küçük değişikliklerin, erişim eksikliği nedeniyle bilinemeyen bir dizi zincirleme etkiye sahip olabileceğini ekledi.
Ayrıca, şu anda yalnızca dev şirketlerin en ileri modelleri araştırmak ve geliştirmek için finansal ve hesaplamalı kaynaklara sahip olduğunu ve onlara dünyada nelerin uygulanacağı konusunda inanılmaz bir etki sağladığını belirtti.
McDermid, “Endişe şu ki, iktidar, kuruluşların yaptığı gibi davranan, toplumsal fayda sağlamaktan ziyade kârlarını en üst düzeye çıkarmaya çalışan az sayıda kuruluşun eline geçiyor” dedi.
İşçilerden gelen girdi
McLean, yapay zeka ile ilgili karar verme konusunda diğer disiplinlerden (ve teknolojinin sosyo-teknik doğası göz önüne alındığında sadece bilgisayar bilimi değil) daha çeşitli uzman seslerinden daha geniş bir girdi olması gerektiğini söylerken, diğer konuşmacılar da konferans boyunca diğer konuşmacıların katılımına ihtiyaç duyuyor. day, günlük iş operasyonlarının ayrıntılarındaki uzmanlıkları nedeniyle işçilerden de görüş alınması gerektiğini söyledi.
Esnek ekonomide çalışanların hem işverenlerinden hem de devletten aldıkları korumaların eksikliği hakkında yorum yapan sosyolog Karen Gregory, yapay zekanın çalışması için gerekli emek yoğun veri etiketleme işi de dahil olmak üzere birbirlerine dönmekten başka çareleri olmadığını söyledi. iş konusunda destek için. “Burada muazzam miktarda karşılıklı yardım var” dedi. “Bu alanlardaki işçiler sadece işin işe yaramasını istiyor ama öyle olmuyor.”
Gregory, “Onlar bu sistemlerin uzmanları” dedi. “Nerede başarısız olduklarını tam olarak biliyorlar. Edinburgh'da bir teslimatçıyla konuşursanız, o size şehirdeki her çukurun nerede olduğunu söyleyebilir, ancak orada bir 'ses' mekanizması yoktur. [from workers’ informal back channels] düzenlemeye.”
Bunu teknoloji sektörünün daha “profesyonelleştirilmiş”, beyaz yakalı bölümlerine bağlayan etik yapay zeka araştırmacısı ve Birleşik Teknoloji ve Müttefik İşçiler (UTAW) sendikası üyesi Matt Buckley, yapay zeka hakkındaki tartışmalarda bunu “tuhaf” bulduğunu ekledi. Teknolojiyi gerçekten inşa eden, sürdüren ve derinlemesine anlayanlar sahadaki işçilerden ziyade ilk önce yöneticilere ve satış elemanlarına danışılır.
Gregory'ye göre cevap, yapay zekanın iyileştirilmesi için işçilerin seslerini ve fikirlerini yakalayan etkili iletişim kanallarının yaratılmasında yatıyor; Buckley için bu, işçiler ve patronlar arasında sıradan insanlara yapay zekanın nasıl olduğu konusunda daha fazla söz hakkı veren iki yönlü iletişime kadar uzanıyor. işyerlerinde de kullanılıyor.