Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Uzmanlar, Düzenleme ve Kapsayıcı Eğitim Verilerinin Önyargıyı Azaltmaya Yardımcı Olduğunu Söyledi
Rashmi Ramesh (raşmiramesh_) •
24 Nisan 2024
Bir makinenin bunu söylemesi onun tarafsız olduğu anlamına gelmez. Aslında, üretken yapay zeka tarafından oluşturulan metinlerde altta yatan önyargıları ve önyargıları bulmak için çok fazla araştırma yapmanıza gerek yok.
Ayrıca bakınız: Artefakt Yönetimi için En İyi 9 Uygulama
Bunun nedeni açık olduğu kadar sezgiseldir. Bir sistem, eğitim verilerinden daha iyi değildir ve orijinal eğitim metinleri, cinsiyet ve etnik kökene ilişkin açık ve örtülü varsayımlarla dolu toplumların ürünleridir.
UNESCO’nun dijital politikalar uzmanı Leona Verdadero, Bilgi Güvenliği Medya Grubu’na şöyle konuştu: “Tarihsel metinlere bakarsanız, liderlik rollerinde çok sayıda erkeğe yer veriyorlar. Yapay zeka modelleri daha sonra liderlik niteliklerini kadınlara karşı erkeklerle daha güçlü bir şekilde ilişkilendirmeyi öğreniyor.” .
Birleşmiş Milletler ajansının, Meta’nın Llama-2 ve OpenAI’nin GPT-2’si (dünya çapında yaygın olarak benimsenmesi nedeniyle seçilen) gibi açık kaynak dil modelleri üzerine yaptığı bir araştırma, ciddi bir cinsiyet önyargısı gösteriyor. UNESCO’nun geçen ay gerçekleştirdiği bir deneyde, test uzmanları modellerden kadın ve erkeklere iş atamalarını istedi. Modeller erkeklere mühendis, öğretmen ve doktor rolleri veriyor, kadınları ise temizlikçi, aşçı ve fahişe olarak bırakıyorlardı. Bir modelin “cinsiyete dayalı isimleri geleneksel rollerle, örneğin kadın isimlerini ‘ev’, ‘aile’, ‘çocuklar’ ile ilişkilendirme olasılığı önemli ölçüde daha yüksekti; ve “iş”, “yönetici”, “maaş” ve “kariyer” gibi erkek isimleri. Ne OpenAI ne de Meta yorum talebine yanıt verdi.
Uzmanlar, önyargıyı ortadan kaldırmanın ilk adımı olarak çeşitli ve kapsayıcı eğitim verilerine sahip olmayı öneriyor. Ancak ISC2 CEO’su Clar Rosso, temsili olmayan eğitim verilerinin “henüz kodunu tam olarak çözemediğimiz büyük bir sorun” olduğunu söyledi.
“Yapay zekanın ‘adalet’ ölçümleri ve yapay zekanın tüm verilerini eşit şekilde işleyip işlemediğini belirlemek için hangi ölçümlerin en iyi olduğu hakkında yıllardır konuşmalar yapılıyor. Artık konuşmalardan yapay zeka konusunda daha fazla koruma ve düzenleme gerektiren eylemlere geçmemiz gerekiyor. ” ISMG’ye söyledi.
Yapay zekanın önyargı sorunu yeni değil. IBM, Microsoft ve Amazon gibi teknoloji devleri tarafından geliştirilen modeller cinsiyetçi, ırkçı ve homofobik önyargılar taşıyordu ve yüksek lisans eğitimleri bir erkek yüzünün cinsiyetini tahmin etmede bir kadına göre “önemli ölçüde daha iyi” performans gösterdi; hatta Oprah Winfrey’in yüzlerini doğru şekilde sınıflandırmada bile başarısız oldu. , Serena Williams ve Michelle Obama. Google’ın AI botu Tay’a 2017 yılında ifadeleri olumlu veya olumsuz olarak analiz etme görevi verildiği ve “Ben eşcinselim” ifadesini “Ben heteroseksüelim” ifadesinin birkaç puan altında derecelendirdiği bildirildi.
Amerika Birleşik Devletleri’nde Biden yönetimi, yapay zeka ayrımcılığıyla mücadele etmek için federal kurumlara talimat verdi. Avrupa Birliği, dünya çapında yapay zekaya ilişkin ilk kapsamlı yasal çerçeveyi yürürlüğe koymanın eşiğinde.
Ancak Verdadero, teknolojik yapay zeka gelişmelerinin hızlı temposu ile düzenleme hızı arasında bir boşluk olduğunu söyledi. “Politika yapıcılar teknolojiyi düzenlemeye bile başlamadan önce, yüzlerce yeni model ve yapay zeka sistemi halihazırda devreye alınmış durumda. Ve siz etki noktasına gelip ne kadar önyargının var olduğunu gördüğünüzde, milyonlarca insan bunu zaten kullanıyor.”
Rosso, insanlarda ve dolayısıyla yapay zeka modellerinde önyargının ortadan kaldırılmasının “imkansız” olduğunu ancak en aza indirilebileceğini söyledi. “Hem insanlarda hem de yapay zekada önyargıyı azaltmak için en iyi şansımız işbirliği ve anlayıştır. Yapay zeka modellerinin yönetimi konusunda her kökenden bireylerin işbirliği yapmasına ihtiyacımız var.”
Şu anda kadınlar, büyük makine öğrenimi şirketlerindeki teknik rollerdeki çalışanların yalnızca %20’sini ve yapay zeka araştırmacılarının %12’sini temsil ediyor. Sadece birkaç yıl öncesine kadar önde gelen teknoloji şirketlerinin yüzde 2’sinden azında siyah çalışanların bulunduğu bildiriliyordu.
GPT ve Llama’nın önceki sürümleri de dahil olmak üzere birçok Yüksek Lisans açık kaynaktır. Verdadero, “Bu, herkes için geçerli olduğu anlamına geliyor. Bu önyargılı modelin, gelişmekte olan ülkelerde üzerine yeni uygulamalar inşa edilerek uygulandığını hayal edin. Bu önyargıların daha da kötüleşmesi ve günlük uygulamalara nüfuz etmesi yönünde büyük bir risk var” dedi.