Bu Help Net Security röportajında, Smartsheet’in CISO’su ve Kıdemli Başkan Yardımcısı Chris Peake, yapay zeka geliştirme ve kullanımına rehberlik etmek için her kuruluş tarafından sorumlu yapay zekanın nasıl tanımlanması gerektiğini açıklıyor.
Peake, sorumlu yapay zeka uygulamasının, yapay zekanın şeffaf bir şekilde kullanılmasını sağlamak için etik hususlar, sektör düzenlemeleri ve proaktif risk değerlendirmesi arasında denge kurulması gerektiğini vurguluyor.
İşletmeler ve hükümetler, özellikle yapay zekaya büyük ölçüde bağımlı olan sektörlerde etik uyumu sağlamak için sorumlu yapay zekayı nasıl uygulamalıdır?
Sorumlu yapay zeka, sektörünüze ve yapay zekadan nasıl yararlandığınıza bağlı olarak işletmeler için farklı anlamlara gelebilir. Bu nedenle birinci adım, sorumlu yapay zekanın işletmeniz için ne anlama geldiğini tanımlar. İşletmenizin karşılaştığı riskleri, uymanız gereken düzenleme ve endüstri standartlarını ve yapay zeka sağlayıcısı mı, yapay zeka tüketicisi mi yoksa her ikisini birden mi olduğunuzu göz önünde bulundurun. Örneğin, bir sağlık kuruluşunun sorumlu yapay zeka tanımı muhtemelen veri gizliliğine ve HIPAA uyumluluğuna öncelik verecektir.
Buradan yola çıkarak, yapay zeka geliştirmenize ve kullanımınıza rehberlik edecek bir dizi ilkeyi belirlemek için sorumlu yapay zeka tanımınızı kullanın. Ardından yapay zeka ilkelerinizi nasıl uygulamaya koyacağınızı belirleyin. Örneğin, ilkelerinizden biri yapay zeka sistemlerinizin anlaşılır olmasını sağlamaksa ekibiniz, çalışmalarını göstermek ve müşterilerin bir yapay zeka aracının bir cevaba veya içgörüye nasıl ulaştığını tam olarak anlamasını kolaylaştırmak için yapay zeka araçlarınızı oluşturabilir.
Bu süreç boyunca çalışanlarınıza, müşterilerinize ve ortaklarınıza karşı şeffaf olmanız en iyi uygulamadır. Bu içerir:
- Yapay zeka ilkelerinizi herkese açık olarak paylaşma
- Yapay zeka sistemlerinizi geliştirirken karşılaşmayı beklediğiniz zorlukları kabul etmek
- Çalışanlarınıza ilkelere nasıl uyacaklarını ve yapay zekayı sorumlu bir şekilde nasıl kullanacaklarını öğretmek
- Şirketinizin yapay zeka sistemlerinin tam olarak nasıl çalıştığını herkese açık olarak paylaşmak
Bu adımları attıktan sonra, daha iyi sonuçları sorumlu bir şekilde elde etmek için yapay zekayı ürün ve hizmetlerle uyumlu hale getirmeye başlayabilirsiniz.
Yapay zekanın siber güvenliğe artan entegrasyonu göz önüne alındığında, yapay zeka kaynaklı tehditlere karşı dijital güvenliği artırmaya yönelik en etkili stratejiler nelerdir?
Bu şu anda hareketli bir hedef çünkü yapay zeka çok hızlı gelişiyor. Örneğin, ChatGPT gibi üretken yapay zeka araçları kullanıma sunulduğunda kimlik avı e-postaları birdenbire çok daha karmaşık hale geldi. Çalışanlarımıza aramaları için eğittiğimiz bazı işaretlerin bulunmadığı, mükemmel dilbilgisine sahip, özelleştirilmiş kimlik avı e-postaları görmeye başladık.
Yapay zeka kaynaklı tehditlerin gelişen doğası, onlara karşı savunmayı zorlaştırıyor. Yapay zeka kuruluşlara fayda sağlamak için kullanılabilse de diğerlerinin onu kötüye kullanmaya çalışacağının farkında olmak da önemlidir. Özellikle güvenlik, BT ve yönetişim ekipleri, yapay zekanın kötüye kullanılmasının kuruluşlarını nasıl etkileyebileceğini öngörmelidir.
Yapay zeka kaynaklı tehditlere karşı savunmaya yönelik etkili stratejilerden biri, çalışanların yeni güvenlik tehditlerini daha iyi tanıması ve raporlaması için sürekli beceri ve eğitim verilmesidir. Ekibim kimlik avı e-postalarının daha karmaşık hale geldiğini fark ettiğinde çalışanlarımızı bilgilendirdik ve kimlik avı simülasyon testlerimizi buna göre geliştirdik. Ayrıca çalışanlarımızın gelen kutularının kenar çubuğuna, potansiyel kimlik avı e-postalarını yalnızca iki tıklamayla bildirebilmeleri için bir kimlik avı raporlama düğmesi ekledik.
Yapay zekanın kriz yönetiminde oynadığı rol nedir ve kuruluşlar yapay zekayla ilgili başarısızlıklara veya ihlallere nasıl daha iyi hazırlanabilirler?
Yapay zeka iş operasyonlarına giderek daha fazla dahil olurken, kuruluşların da yapay zeka destekli veri ihlalleri gibi yapay zeka ile ilgili hatalara nasıl hazırlanacaklarını ve bunları nasıl önleyeceklerini kendilerine sormaları gerekiyor. Yapay zeka araçları, bilgisayar korsanlarının son derece etkili sosyal mühendislik saldırıları geliştirmesine olanak tanıyor. Şu anda müşteri verilerini korumak için güçlü bir temele sahip olmak, başlamak için iyi bir yerdir. Üçüncü taraf yapay zeka modeli sağlayıcılarının müşterilerinizin verilerini kullanmamasını sağlamak aynı zamanda koruma ve kontrol sağlar.
Yapay zekanın kriz yönetimini güçlendirmeye yardımcı olacak fırsatları da var. Bunlardan ilki, yapay zekanın bir sorunun kökenini daha hızlı tanımlayabildiği kesintiler ve arızalar gibi güvenlik krizleriyle ilgilidir. Yapay zeka, saldırının kaynağına veya başarısız olan hizmete işaret eden “samanlıktaki iğneyi” bulmak için tonlarca veriyi hızla tarayabilir. Ayrıca konuşma istemlerini kullanarak ilgili verileri sizin için çok daha hızlı bir şekilde ortaya çıkarabilir. Gelecekte bir analist, güvenlik çerçevesine yerleştirilmiş bir yapay zeka sohbet robotuna, şüpheli etkinliklerle ilgili “Bu trafiğin nereden geldiği konusunda bana ne söyleyebilirsin?” gibi sorular sorabilir. Veya “Bu ne tür bir sunucudaydı?”
Yapay zekanın kamusal krizleri yönetmeye yardımcı olma fırsatı da var. Örneğin, bir doğal afet sırasında yapay zeka, müdahale ekiplerinin birbirleriyle daha kolay koordine olmasına ve yardım taleplerini yönetmesine yardımcı olabilir.
Yapay zekanın karar verme süreçlerinin çoğu zaman şeffaf olmadığı göz önüne alındığında, yapay zeka sistemleri yanlış gittiğinde kuruluşlar şeffaflığı artırmak ve hesap verebilirliği sağlamak için hangi adımları atabilir?
En önemli adımlardan biri, genel modelleri nasıl kullandığınız ve verileri nasıl koruduğunuz da dahil olmak üzere yapay zeka sistemlerinizin nasıl çalıştığını kamuya açık olarak belgelemektir. Ekibinizi mümkün olduğunca spesifik olmaya ve her şeyin nasıl çalıştığını ayrıntılı olarak açıklamak için ekstra çaba göstermeye teşvik edin. Üretken yapay zeka hâlâ nispeten yeni ve gelişmekte olduğundan, bugün bildiğimiz gerçekleri, gelecekte neler beklediğimizi ve sonraki sonuçları belgelemek de dahil olmak üzere bu sürece bilimsel bir yaklaşım getirmeyi seviyorum.
Yapay zeka sistemleri geliştiriyorsanız, müşterilerinizin yapay zekanın sağladığı önerileri ve öngörüleri anlayabilmesi için oluşturduğunuz araçların çalışmalarını göstermesi de önemlidir. Yapay zeka günlük işlerimize daha fazla entegre hale geldikçe, onun gerekçesini açıklamak müşteri güvenini korumak açısından çok önemli olacaktır.
Yapay zeka yönetiminin nasıl gelişeceğini öngörüyorsunuz ve öngördüğünüz temel zorluklar ve fırsatlar neler?
Yapay zeka, veri güvenliğini güçlendirme ve ekstra bir koruma katmanı ekleme konusunda büyük bir potansiyele sahiptir. Hiç kimse işinde akan tüm verileri manuel olarak izleyemez; Akıllı sistemlerin bu yükü üstlenmesi gerekiyor. Yapay zeka neyin normal olduğunu “anlayacak” ve normal olmayan her şeyi işaretleyecek şekilde büyüyebilir. Bunun yanıt oranlarını büyük ölçüde artırma ve süreçleri standartlaştırma potansiyeli vardır.
Yönetişimdeki en büyük zorluklardan biri yapay zekanın benimsenme ve uygulanma hızıdır. Kuruluşlar yapay zekayı benimsemek için hızlı bir şekilde ilerliyor ve bazıları, müşterilerini yapay zekayı nasıl entegre edecekleri konusunda bilgilendirme ve vazgeçmelerine izin verme gibi önemli adımları atlıyor. Bu, satıcıların yapay zekayı onların bilgisi dışında kullanmadığından emin olmak için güvenlik ekiplerine ekstra bir yük getiriyor.