Yapay Zeka ve Makine Öğrenimi, Yönetişim ve Risk Yönetimi
Anket Yapay Zeka Riski Endişelerinin Arttığını Gösteriyor; CIO’ların %25’i Artık Yapay Zeka Girişimlerinden Sorumlu
Brian Pereira (inanç_dijital) •
28 Haziran 2024
Yapay zeka yönetimi, yakın zamanda yapılan bir Gartner anketine göre işletmeler için en önemli öncelik haline geldi. Anket sonuçları, kuruluşların %54’ünün AI girişimlerini yönetmekten sorumlu bir AI başkanına sahip olduğunu ve kuruluşların %55’inin bir AI yönetim kuruluna sahip olduğunu gösteriyor; bu da AI’nın işletmeler için stratejik bir kolaylaştırıcı olarak görüldüğünü gösteriyor.
Ayrıca bakınız: 2024 Küresel Tehdit Ortamına Genel Bakış
Ankete, Haziran 2024’te yönetici liderlerin yapay zeka ve üretken yapay zeka girişimlerinin maliyetini, riskini ve değerini nasıl değerlendirebileceklerini tartışan Gartner web seminerine katılan 1.808 katılımcı katıldı. Bu anketin sonuçları küresel bulguları veya bir bütün olarak pazarı temsil etmese de mevcut yapay zeka yönetişim eğilimlerine dair içgörüler sunuyor.
Gartner’ın seçkin başkan yardımcısı analisti Frances Karamouzis, her kuruluşun bir yapay zeka kuruluna ihtiyaç duymadığını ve bazılarının bu konuda bölünmüş olduğunu söyledi.
“İşletmelerin, değeri artırmak ve riski azaltmak için disiplinler arası zorlukların üstesinden gelmek için bir AI yönetim kuruluna ihtiyacı var. Ancak süre, kapsam ve kaynaklandırma bağlam özelinde ve kullanım durumuna bağlıdır. Bazıları için bu kısa vadeli, geçici bir önlemdir. Diğerleri içinse işletme modellerinde uzun vadeli bir değişikliktir,” dedi Karamouzis.
Yapay Zeka için Hesap Verebilirlik
Yapay zeka kurullarının kurulması, yapay zeka teknolojilerinin sorumlu bir şekilde geliştirilmesi ve yaygınlaştırılmasının sağlanmasında önemli bir adımı temsil ediyor. Bu kurullar, hissedarların çıkarları doğrultusunda riski azaltmak için yönetişimi denetlemek, stratejik yapay zeka girişimlerini yönlendirmek ve kuruluş genelinde etik yapay zeka uygulamalarını sağlamak da dahil olmak üzere birçok amaca hizmet eder.
Çoğu kuruluşta mevcut bir üst düzey lider, yapay zeka girişimlerini denetleme sorumluluğunu üstlenir. Anket, teknoloji liderlerinin zaten yapay zekayı sorumluluklarının bir parçası olarak dahil ettiğini gösteriyor. Yapay zeka yönetişimi, iş riskini azaltmak için hayati önem taşıyor ancak anket, kuruluş içinde bundan kimin sorumlu tutulması gerektiğini sorduğunda, katılımcıların yalnızca %25’i yapay zeka girişimlerini CIO’ya yönlendirdi.
Karamouzis, “Yapay zeka yönetim kurulu üyelerinin bileşimi birden fazla disiplinden ve iş birimleri arası birimlerden temsil edilmeli” dedi. “Yönetim kurulunun fikir birliğine varamama veya fikir birliği sağlayamama nedeniyle hantal ve verimsiz hale gelmemesini sağlamak için kendi organizasyonları içinde hız ve çevikliği artırmaya yönelik en iyi yaklaşımı belirlemek her organizasyonun sorumluluğundadır.”
Ankete katılanların yüzde 26’sı, yönetimin yönetim kurulunun birincil odak noktası olması gerektiğini söylerken, yüzde 21’i ise stratejiye odaklanması gerektiğini söyledi.
Karamouzis, “Yönetim kurulu üyelerinin bileşimi, uzmanlığı görev kapsamıyla uyumlu hale getirmelidir.” dedi. “Yönetim kurulu üyeleri, özellikle de yapay zeka konusunda istekliyseler, strateji ve uygulama konusunda güçlü becerilere sahip, üst düzey ve tecrübeli yöneticiler olmalıdır.”
CAIO’nun Yükselişi
Üst düzey yöneticiler talimatları yönetim kurullarından alır ve çoğu kurul üst düzey yöneticileri genişletmek istemez. Buna rağmen yönetim kurulları yapay zekanın düzenlenmesinden sorumlu bir yapay zeka lideri istiyor. Çoğu durumda bu, özel bir rol değil, ek sorumluluk alan bir teknoloji lideridir. Ankette, kuruluşlarının bir yapay zeka liderine sahip olduğunu belirten katılımcıların %88’i, yapay zeka başkanının yapay zeka şefi yetkilisi veya CAIO unvanına sahip olmadığını söyledi.
“AI ve gen AI karmaşık ve kapsamlıdır ve organizasyondaki her işi, etkinliği ve stratejik konuşmayı etkiler,” dedi Karamouzis. “Ancak bu, bir organizasyonda AI’yı düzenlemekten sorumlu kişilerin veya ekibin C-suite seviyesinde bir unvana sahip olması gerektiği anlamına gelmez.”
ABD federal kurumları daha fazla sorumluluk arıyor. Bu yılın başlarında Yönetim ve Bütçe Ofisi, ABD federal kurumlarına hükümetin yapay zekayı sorumlu bir şekilde kullanmasını sağlamak için Aralık 2024’e kadar bir dizi önlem uygulamasını emretti.
OMB’den gelen yazıda, kurumlardan CAIO’lar belirlemeleri ve kuruluş genelinde ortaya çıkan teknolojinin kullanımını koordine etmek ve yönetmek için AI yönetim kurulları kurmaları isteniyor. Kurumlar ayrıca, hangi AI araçlarını kullandıklarına dair yıllık raporlara daha fazla ayrıntı eklemeli ve hükümete ait AI kodunu yayınlamalıdır.
Yapay zekaya güçlü bir şekilde odaklanan büyük kuruluşlar CAIO’lar atıyor. Dikkate değer bir örnek, Ekim 2023’te Jeff Boudreau’yu CAIO’su olarak atayan Dell Technologies’dir.
Boudreau’nun rolü, Dell’in Yapay Zeka için Yenilik ve Mükemmellik Merkezi’ni denetlemektir. Ekibi, Dell’in Yapay Zeka stratejisini ve politikalarını geliştirmek, Yapay Zeka ortaklıkları kurmak ve güvenli ve etik Yapay Zeka ve nesil Yapay Zeka teknolojilerini savunmaktan sorumludur.
“İşletmeler ve hükümetler yapay zekanın büyümeyi desteklemek, üretkenliği artırmak, deneyimleri geliştirmek ve inovasyonu hızlandırmak için nasıl kullanılabileceğini düşünüyor. Bazıları bunun sonucunda yeni operasyon modelleri ve veri merkezi yatırımlarını düşünüyor. CAIO rolü için işe alım, Boudreau, Dell blog yazısında şunları söyledi: “Bu, kuruluşların bu hususları dengelemeleri, yapay zeka stratejilerini değerlendirmeleri ve yönlendirmeleri için bir yoldur.”
Çeşitli uzmanlıkları bir araya getirerek ve yönetişim ve stratejiye odaklanarak, kuruluşlar yapay zekanın potansiyelinden yararlanmayı ve ilişkili riskleri azaltmayı hedefliyor. Gartner anket sonuçları, birçok şirketin bu yönde proaktif adımlar attığını ve günümüzün hızla gelişen teknolojik ortamında özel yapay zeka denetiminin kritik rolünü kabul ettiğini gösteriyor.