SAS, yapay zeka yönetimini geliştirmek ve model güvenini ve şeffaflığını desteklemek için yeni yapay zeka ürünleri ve hizmetlerini piyasaya sürüyor.
Model kartları ve yeni Yapay Zeka Yönetişim Danışmanlığı hizmetleri, kuruluşların çalkantılı yapay zeka ortamında gezinmesine, riski azaltmasına ve yapay zeka hedeflerini daha güvenli bir şekilde takip etmelerine yardımcı olacak. SAS ayrıca Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) Yapay Zeka Risk Yönetimi Çerçevesi ile eşlenen Güvenilir Yapay Zeka Yaşam Döngüsü İş Akışı da yayınladı.
SAS Veri Etiği Uygulaması Başkan Yardımcısı Reggie Townsend, “Müşterilerimiz yapay zekanın potansiyeli konusunda hevesli ancak onu ne zaman ve nasıl kullanacakları konusunda temkinli davranıyorlar” dedi. “Sorumlu ve etik yapay zeka hakkında güzel sorular soruyorlar. Amacımız, onlara yapay zekayı karlılığı artıracak ve aynı zamanda istenmeyen zararları azaltacak şekilde entegre etmeleri için onlarca yıllık deneyime dayanan araçlar ve rehberlik sunmaktır.”
Model kartları: Güvenilir yapay zekanın ‘beslenme etiketleri’
Yapay zeka modeli kadar karmaşık ve sofistike bir şeyi alıp, onu yapay zeka yaşam döngüsüne dahil olan herkes için kolayca sindirilebilir bir şeye dönüştürmek zor olabilir. Dünya çapında yeni kurallar ve düzenlemeler yürürlüğe girdikçe, bir modelin nasıl performans gösterdiğini anlama ve düzenleyicilerle paylaşma becerisi hayati önem taşıyacak.
SAS Viya’nın yakında çıkacak bir özelliği olan model kartları, yapay zeka yaşam döngüsü boyunca paydaşlara hizmet edecek. Geliştiricilerden yönetim kurulu yöneticilerine kadar tüm paydaşlar, özel ve açık kaynak modellerini destekleyen özel olarak seçilmiş bir araçta değer bulacaktır.
2024 ortasında piyasaya sürülen model kartları, yapay zeka modelleri için en iyi şekilde “beslenme etiketleri” olarak tanımlanır. SAS yaklaşımı, kayıtlı modeller için doğrudan SAS ürünlerinden alınan içeriğe sahip model kartlarını otomatik olarak oluşturmak ve bireysel kullanıcıların bunları oluşturma yükünü ortadan kaldırmaktır. Ayrıca SAS Viya’nın açık kaynak yönetimine yönelik mevcut bir mimarisi olduğundan, Python modellerinden başlayarak açık kaynak modeller için model kartları da mevcut olacak.
Model kartları, koşullar değiştikçe model performansının azalması anlamına gelen doğruluk, adalet ve model sapması gibi göstergeleri vurgulayacaktır. Modelin en son ne zaman değiştirildiği, ona kimin katkıda bulunduğu ve modelden kimin sorumlu olduğu gibi yönetişim ayrıntılarını içerir ve kuruluşların anormal model performansını dahili olarak ele almasına olanak tanır.
Model kullanımı bölümü, şeffaflık ve model denetiminin muhtemelen düzenlenmiş iş operasyonları haline gelmesi nedeniyle temel faktörler olacak kullanım amacını, kapsam dışı kullanım durumlarını ve sınırlamaları ele almaktadır. Model kartları bu yılın başlarında analistler için düzenlenen bir konferans olan SAS Insight’ta sergilendi.
Analist firması IDC’nin Araştırma Direktörü Eric Gao, “SAS, müşterilerin yapay zekayı benimsemesine nasıl yardımcı olduğu konusunda düşünceli bir yaklaşım benimsiyor ve yapay zekayı gerçek sektör ortamlarında uygulamanın pratik gerçeklerine ve zorluklarına odaklanıyor” dedi. “Model kartları yapay zeka projelerini izlemek ve şeffaflığı teşvik etmek açısından değerli olacak.”
Etik yapay zeka emektarının liderliğindeki yeni yapay zeka yönetim grubu
Yapay zekanın yaygınlaşmasıyla birlikte SAS müşterileri, verilerini hem verimli hem de güvenli bir şekilde nasıl kullanacakları konusunda giderek daha fazla ilgilenmeye başladı. SAS, onlara veri ve yapay zeka yolculuklarında yardımcı olmak amacıyla mevcut müşteriler için katma değerli bir hizmet olan Yapay Zeka Yönetişim Danışmanlığını başlatıyor.
Kısa bir toplantıyla başlayacak olan SAS Yapay Zeka Yönetişim Danışmanlığı, müşterilerin kendi kuruluşları bağlamında yapay zeka yönetişiminin ne anlama geldiğini düşünmelerine yardımcı olacak. SAS bu hizmetin pilot çalışmasını gerçekleştirdi ve müşteriler çeşitli faydalar kaydetti:
- Güvenilir ve dağıtılmış karar verme sayesinde artan üretkenlik.
- Veri kullanımında daha iyi hesap verebilirlik sayesinde artan güven.
- Sorumlu inovasyon uygulamaları talep eden üst düzey yetenekleri kazanma ve elde tutma yeteneği.
- “İleriye uyumlu” olmanın getirdiği rekabet avantajı ve pazar çevikliği arttı.
- Topluma ve çevreye yönelik potansiyel etkilerle yüzleşmek için daha yüksek marka değeri.
Polonya’nın PZU Sigortası, orta ve doğu Avrupa’nın en büyük finans kuruluşlarından biridir. Uzun süredir SAS müşterisi olan PZU, talepler, satış, dolandırıcılık tespiti ve müşteri hizmetleri gibi alanlarda yapay zekayı kullanıyor.
PZU Bilgi, Veri ve Analitik Yönetimi Genel Müdürü (Veri Baş Sorumlusu/ Analitik Baş Sorumlusu) Marek Wilczewski, “SAS ile yaptığımız yapay zeka yönetişimi görüşmelerimiz, müşteriler ve işletmemiz için sorunlara neden olabilecek potansiyel görünmeyen faktörleri değerlendirmemize yardımcı oldu” dedi. “Yapay zeka projelerine başlarken daha fazla perspektife sahip olmanın önemini daha iyi anlıyoruz.”
Sektörde deneyimli ve etik yapay zeka uzmanı Steven Tiell, SAS Küresel Yapay Zeka Yönetişim Başkanı olarak işe alındı. Accenture’un küresel veri etiğine ve sorumlu inovasyon uygulamalarına liderlik eden Tiell, aynı zamanda DataStax’ta Yapay Zeka Stratejisinden Sorumlu eski Başkan Yardımcısıdır.
Yeni ortaya çıkan hükümet standartlarını temel almak
Geçen yıl ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) bir Yapay Zeka Risk Yönetimi Çerçevesi başlattı. Resmi düzenlemelerin olmadığı durumlarda kuruluşların güvenilir ve sorumlu yapay zeka tasarlaması ve yönetmesi için değerli bir araç haline geldi.
SAS, bireysel rolleri ve beklentileri belirleyerek, gerekli belgeleri toplayarak, dikkate alınacak faktörlerin ana hatlarını çizerek ve benimsemeyi kolaylaştırmak için otomasyondan yararlanarak NIST’in tavsiyelerinin kuruluşlar için benimsenmesini kolaylaştıran Güvenilir bir Yapay Zeka Yaşam Döngüsü iş akışı oluşturdu.
Kuruluşlar, modelin adil olduğundan ve süreçlerinin zarar vermediğinden emin olmak için gereken özeni gösterdiklerini gösteren belgelere sahip bir üretim modeliyle sonuçlanır.
İş akışı, kuruluşların yapay zeka sistemlerinin insan yaşamı üzerindeki etkilerine ilişkin değerlendirmelerini belgelemelerine olanak tanır. Eğitim verilerinin etkilenen popülasyonu temsil etmesini ve model tahminleri ile performansın korunan sınıflar arasında benzer olmasını sağlamaya yönelik adımlar içerir.
Bu adımlar, modelin farklı etkilere veya belirli gruplara zarar vermemesine yardımcı olur. Ayrıca kullanıcılar, daha fazla dikkat gerektiğinde harekete geçecek döngüdeki insan görevleri oluşturarak bir modelin zaman içinde doğru kalmasını sağlayabilirler.
SAS Güvenilir Yapay Zeka Yaşam Döngüsü iş akışı, SAS Model Yöneticisi Kaynakları Github’dan indirilebilir ve yakında NIST Yapay Zeka Kaynak Merkezi aracılığıyla kullanıma sunulacaktır.