Bu podcast’te Vigitrust CEO’su Mathieu Gorge ile yapay zekanın (AI) yükselişinin depolama ve uyumluluk üzerindeki etkisine bakıyoruz.
Yapay zekaya yönelik uyumluluk çerçevelerinin mevcut durumu ve bu alandaki yönetişimin olgunluk eksikliğiyle nasıl başa çıkılacağı hakkında konuşuyoruz.
Gorge ayrıca kuruluşların mevcut ortamın sınırlarını nasıl tanıyabileceklerini ancak halen gelişmekte olan bir durumun kontrolünü nasıl ele alabileceklerini de anlatıyor.
Antony Adshead: Yapay zekanın BT alanındaki yasa ve düzenlemeler açısından temel etkileri nelerdir?
Mathieu Boğazı: Yapay zekanın yeni olmadığını anlamanın önemli olduğunu düşünüyorum. Bir süredir ortalıkta dolaşıyor ve makine öğrenimini veya akıllı makine öğrenimini uygun yapay zekayla karıştırmamalıyız.
Gerçek şu ki ChatGPT ve benzerleri hakkında çok şey duyuyoruz ama yapay zeka bundan çok daha fazlası.
Şu anda, nasıl baktığınıza bağlı olarak yapay zeka yönetimiyle ilgili 35 ila 40 düzenleme ve standart var. Bu biraz ilginç çünkü bana yaklaşık 25 yıl önce endüstrinin kendi kendini düzenlemeye çalıştığı ve büyük satıcıların çoğunun kendi siber güvenlik çerçevelerini oluşturduğu siber güvenliği hatırlatıyor.
Aynısını yapay zeka konusunda da görüyoruz. Örneğin Bulut Güvenliği İttifakının kendi inisiyatifi olan IAPP’yi ortaya çıkardığını biliyoruz. [International Association of Privacy Professionals] ChatGPT’nin potansiyel etkisinin çok ötesine geçen, AI hakkında incelemeniz gereken 60 temel konuyu belgelemesi açısından oldukça iyi olan kendi AI teknik incelemesini hazırladılar.
Ayrıca AB’nin Yapay Zeka Gizlilik Yasası’nı uyguladığını ve ABD’deki bazı eyaletlerin bunu yapmaya çalıştığını görüyoruz, yani tarih tekerrür ediyor gibi. Ve eğer siber güvenlik gibiyse, önümüzdeki beş ila 10 yıl içinde, fiili çerçeveler haline gelecek olan ahşap işçiliğinden muhtemelen dört ila beş ana çerçevenin çıktığını göreceksiniz ve diğer her şey bununla ilgili olacak. .
Gerçek şu ki, yapay zeka ile gelen bir dizi veriye ve esas olarak yapay zeka tarafından manipüle edilen ve başka bir diziyi ortaya çıkaran bir veri kümesine sahipsiniz. Bu set doğru olabilir, doğru olmayabilir, kullanılabilir veya yararlı olabilir veya olmayabilir.
“Eğer [AI regulation follows the example of] siber güvenlik, önümüzdeki beş ila 10 yıl içinde, fiili çerçeveler haline gelecek olan ahşap işlerden muhtemelen dört ila beş ana çerçevenin çıktığını göreceksiniz ve diğer her şey bununla ilgili olacak.
Mathieu Boğazı, Vigitrust
Sorunlardan biri şu anda gerçekten doğru yönetişime sahip olmamamızdır, dolayısıyla sektörde birçok yeni yapay zeka yönetişim kursunun duyurulduğunu da görüyorsunuz. Bu övgüye değer olsa da, özellikle oluşturduğu veriler, depolama açısından nereye varacağı, uyumluluk ve güvenlik üzerindeki etkisi açısından iyi yapay zeka yönetiminin ne olduğu konusunda anlaşmaya varmamız gerekiyor.
Adshead: Bunlar kurumsal depolamayı, yedeklemeyi ve veri korumayı nasıl etkileyecek?
Geçit: Şu anda geleneksel depolamaya baktığınızda, genel olarak konuşursak, ortamınıza, ekosisteminize, verilerinize, bu verileri sınıflandırıp ona değer katmaya bakıyorsunuz. Ve bu değere ve potansiyel etkiye bağlı olarak, doğru güvenliği yerleştirir ve verileri saklamak için ihtiyaç duyduğunuz süreyi belirler ve verileri nasıl saklayacağınızı ve sileceğinizi belirlersiniz.
Ancak bir CRM’e bakarsanız [customer relationship management service], eğer yanlış veriyi girerseniz yanlış veri ortaya çıkar ve bu bir veri kümesidir. Yani, açık konuşmak gerekirse, çöp içeri, çöp dışarı.
Yapay zeka ile durum bundan çok daha karmaşıktır, bu nedenle içeri çöp girmiş olabilirsiniz, ancak çöp olabilecek tek bir veri seti yerine birçok farklı veri seti olabilir ve bunlar doğru olabilir veya olmayabilir.
ChatGPT’ye bakarsanız biraz narsist gibi görünüyor. Asla yanlış değildir ve eğer ona biraz bilgi verirseniz ve sonra yanlış bilgiyi verir ve sonra “Hayır, bu doğru değil” derseniz, size bunun nedeninin ona doğru veri setini vermemiş olmanız olduğunu söyleyecektir. Ve sonra bir aşamada sizinle konuşmayı bırakacaktır çünkü tabiri caizse sizinle tartışmak için tüm yeteneğini tüketmiş olacaktır.
Uyumluluk açısından bakıldığında, bir pazarlama belgesi oluşturmak için yapay zeka (karmaşık bir yapay zeka veya ChatGPT gibi basit bir yapay zeka) kullanıyorsanız sorun değil. Ancak bunu mali veya hukuki işler için kullanırsanız, bu kesinlikle doğru değil. Yapay zeka odaklı verilerin etkisini değerlendirmek için doğru yönetişime ve doğru kontrollere ihtiyacımız var.
Şu anda ilk günler ve bu yüzden bu kadar çok yönetişim çerçevesinin ortaya çıktığını görüyoruz. Bazıları doğru yönde gidiyor, bazıları çok basit, bazıları ise uygulanamayacak kadar karmaşık. Ne olacağını görmemiz lazım ama çok hızlı karar vermemiz lazım.
En azından her kuruluş için bir dizi KPI’ya ihtiyacımız var [key performance indicators]. Peki yapay zekadan gelen verilere baktığımda doğru olduğu için mutlu muyum, beni uyumluluktan çıkarmayacağı için mutlu muyum, onu doğru şekilde saklayabildiğim için mutlu muyum? Veri parçalarını saklamayacağından mutlu muyum ve bunun nereye gittiğini ya da onunla ne yapmamız gerektiğini bilmiyorum?
Bu, doğru yönetimi ve yapay zekanın doğru kullanımını bulmaya çalışma durumudur.
Henüz ilk günler, ancak her şirkete, tabiri caizse, artık çok geç olan ve kontrol edemeyecekleri çok fazla verinin olduğu bir canavar yaratmamaları için yapay zeka yönetişim çerçevelerine hemen şimdi bakmaya başlamalarını tavsiye ederim.