Yapay Zeka ve Makine Öğrenimi, Yönetişim ve Risk Yönetimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Ancak Doğru Veriler Her Zaman Doğru Sonuçlarla Sonuçlanmaz
Akşaya Asokan (asokan_akshaya) •
19 Nisan 2024
Birleşik Krallık veri koruma kurumu, üretken yapay zeka geliştiricilerinin, modelleri insanlar hakkında bilgi yaydığı sürece hatalı eğitim verilerini filtrelemek için adımlar atması gerektiğini söylüyor.
Ayrıca bakınız: İsteğe Bağlı | Modern Bir Veri Koruma Platformu Oluşturmanın Dört Adımı
İngiliz düzenleyici, bu ayın başlarında başlatılan bir kamu istişaresinde, modelin amacı ile kelimenin iki anlamındaki “doğruluk” arasındaki bağlantıyı araştırdığını söyledi: modelin kendisinin istatistiksel doğruluğu ve BT sistemlerinde yer alan kişisel verilerin doğruluğu.
Birleşik Krallık Bilgi Komiserliği Ofisi, bir modelin ne kadar doğru olması gerektiği kullanımına bağlıdır: İnsanlar hakkında karar vermek için kullanılan bir model, yüksek istatistiksel doğruluğa sahip olmalı ve ilgili kişiler hakkında doğru verileri içermelidir.
İstişare, geliştiricilerin güvenilmeyen kaynaklardan gelen verilerden kaçınması ve güvenilir kaynaklarda bile bulunan hatalı verileri filtrelemesi gerektiğini söylüyor. “Geliştiricilerin, ister bireyler ister kuruluşlar olsun, kullanıcılar için çıktının doğruluğu konusunda net beklentiler ortaya koymaları gerekiyor. Ayrıca kullanıcıların modelle bu beklentilerle tutarlı bir şekilde etkileşime girip girmediği konusunda da araştırma yapmaları gerekiyor.” okur.
Ayrıca geliştiricilerin istatistiksel doğruluk hakkında net bilgiler vermesi ve kullanıcı deneyimlerine dayalı olarak daha iyi sonuçlar elde etmek için yeniden eğitimi düşünmesi gerektiği de belirtildi.
Ofis, verileri eğitmek için kullanılan verilerin her zaman doğruluğuna göre seçilmediğini söyledi. Özellikle sosyal medyadan ve yüksek düzeyde etkileşime sahip çevrimiçi forumlardan elde edilen veriler, yapay zekayı ilgi çekici yanıtlar oluşturma konusunda eğitmek için kullanılabilir.
ICO, “Yanlış eğitim verileri ile hatalı model çıktıları arasındaki ilişkinin nasıl değerlendirileceği, ölçüleceği ve belgeleneceği konusunda kuruluşlardan bilgi almak istiyoruz” diye yazdı.
Kings College London’dan yapay zeka araştırmacısı Johanna Walker, doğru eğitim verileri üzerinde ısrar etmenin doğru sonuçlara dönüşmeyebileceğini söyledi. Üretken bir yapay zeka sisteminin sonucu, kullanıcıların cihazı nasıl yönlendirdiğine bağlıdır; bu, sistemin doğru verilerle eğitilmiş olmasına rağmen hatalı sonuçlar üretebileceği anlamına gelir.
İstatistiksel doğruluk, bir yapay zeka sistemi geliştirilirken veya beta aşamasında ölçülebilir. Walker, “Her şeyi açığa çıkardığınızda ve insanlar ona bir sürü rastgele soru soracak – çünkü bu olasılıksaldır – geniş bir yelpazede yanıtlar almanız muhtemeldir” dedi.
Walker, “Doğrulukla ilgili sorun, bunun büyük ölçüde ne yapmaya çalıştığınıza ve bunun ne kadar doğru olması gerektiğine bağlı olmasıdır” dedi ve bir yapay zeka sisteminin doğru ve yanlış verileri ayırt etmesine yardımcı olmanın tek yolunun, verileri test etmek olduğunu ekledi. modelleri daha sık kullanın.
Walker, ICO’nun kullanım durumlarını izlemeyle eşleştirme konusundaki istişarede ana hatlarıyla belirtilen yaklaşımını desteklediğini söyledi. ICO, kuruluşun “modelin insanlar tarafından geliştiricinin sahip olduğunu bildiği doğruluk düzeyine uygun olmayan bir şekilde kullanılmamasını dikkatlice düşünmesi ve sağlaması gerektiğine” inandığını söyledi.
Uluslararası Gizlilik Profesyonelleri Birliği araştırma direktörü Joe Jones, ICO’nun veri koruma açısından doğruluğa odaklanmasının, işleyicilerin yanlış verileri düzeltmek veya silmek için makul adımlar atmasını gerektiren gizlilik yasasını vurgulayan bir işaret olduğunu söyledi.
“Bir şeyin yanlış veya yanlış olduğuna inanıyorsanız, o zaman kişi veri sorumlusundan bunu düzeltmesini isteyebilir veya hakkınızda yanlış olan bir şey varsa bazı durumlarda bu verinin silinmesini ve kaldırılmasını isteme hakkına sahip olabilirsiniz.” dedi Jones. “Bu, verilerdeki önyargıların azaltılmasında daha da yararlı olabilir” diye ekledi.
ICO’nun çabaları, İngiliz hükümetinin, mevcut otoritelerin kendi yetki alanları dahilindeki yapay zekayı izlemesine bağlı olan genel yapay zeka düzenleme stratejisini uyumlu hale getiriyor.
Serinin üçüncüsü olan bu istişare, ajansın kamuya açık veri kümelerinden alınan veriler içindeki kişisel olarak tanımlanabilir bilgilerin işlenmesinin yasallığını değerlendirmek için yaptığı önceki istişarelerin yanı sıra hassas verilerin işlenmesine kısıtlamalar getirilmesi çağrısında bulunan bir istişarenin ardından geldi (bkz:: Birleşik Krallık Gizlilik Gözlemcisi Yapay Zeka Kuşağının Gizlilik Kaygılarını Araştırıyor ).