YORUM
Son zamanlarda buluştuğum üst düzey liderlerin en az yarısı yapay zeka ve makine öğrenimi (AI/ML), şirketlerinin bunu nasıl etkinleştirebileceği ve güvenli etkinleştirmenin mümkün olup olmadığı hakkında konuşmak istiyor. Büyük bir finans firmasının liderlerinden biri yakın zamanda bana yönetim kurulunun üretken yapay zekadan yararlanma konusunda çok istekli olduğunu söyledi: “Bu bir rekabet avantajı. Otomasyonun anahtarı. Onu kullanmaya başlamalıyız.” Ama yapay zekayla ne yaptıklarını sorduğumda “Ah, onu engelliyoruz” diye yanıt verdiler.
Yıllar önce, bulutun acil faydaları ve dönüştürücü kullanım senaryoları hakkında söylentiler vardı ama aynı zamanda potansiyel riskler nedeniyle benimsenmeye karşı yaygın bir direnç de vardı. Sonuçta son kullanıcıların bulut tabanlı araçları kullanmasını engellemeye çalışmak imkansızdı. Sonunda herkes “Tamam, bunları kullanmanın yollarını bulmalıyız” dedi çünkü faydaları ve esnekliği güvenlik risklerinden çok daha ağır basıyordu.
Tarih artık yapay zeka ile tekerrür ediyor, ancak onu güvenli bir şekilde nasıl etkinleştiririz ve hassas verileri ifşa edilmeye karşı nasıl kontrol ederiz?
Yapay Zeka Hakkında İyi Haber
İnsanlar (kurumlardan çok) kullanıyor üretken yapay zeka bilgileri daha konuşkan bir şekilde görmek için. Üretken yapay zeka araçları, arama motoruna metin yazmaya popüler bir alternatif olan ses girişini dinleyebilir ve yanıt verebilir. İleri görüşlü bazı kuruluşlarda, şirket içi yardım masaları gibi günlük görevleri otomatikleştirmek ve yenilik yapmak için bile kullanılıyor.
En önemli ve heyecan verici kullanım durumlarının çoğunun aslında nereden gelmediğini hatırlamak önemlidir. üretken yapay zeka. Gelişmiş AI/ML modelleri, insanlığın karşı karşıya olduğu en büyük sorunlardan bazılarının (yeni ilaç ve aşı geliştirme gibi) çözülmesine yardımcı oluyor.
Sağlık, tıp ve yaşam bilimleri alanlarındaki müşterilerin yapay zekayı güvenli bir şekilde uygulamasını sağlamak, onların bu büyük sorunları çözmelerine yardımcı olmak anlamına gelir. Her gün AI/ML algoritmaları üzerinde çalışan yaklaşık 100 veri bilimcimiz var ve tehditleri durdurmak ve hassas verilerin içeriden veya içerideki kişilere virüs bulaştıran saldırganlardan sızmasını önlemek için 50’den fazla model yayınladık.
Bir zamanlar çözümü zor olan güvenlik sorunları artık AI/ML kullanılarak çözülebilir. Örneğin, saldırganlar hassas verileri yenilikçi yollarla çalıyor, sanal beyaz tahtalardan sırları kaldırıyor veya genel güvenlik araçlarından kaçmak için hassas bilgiler içeren görüntüleri e-postayla göndererek görüntülerdeki verileri gizliyor. Bir saldırgan, geleneksel güvenliğin tanıyamayacağı bulanık veya parıltılı kredi kartı görüntülerinin bulunduğu açık bir veri havuzuna erişebilir, ancak gelişmiş makine öğrenimi yetenekleri yakalamaya yardımcı olabilir. AI/ML kullanılarak etkinleştirilen bu tür karmaşık saldırılar, AI/ML kullanılmadan da durdurulamaz.
Yapay Zeka Hakkında Kötü Haber
Her teknoloji iyiye de kötüye de kullanılabilir. Bulut günümüzde hem verimliliğin en büyük sağlayıcısı hem de kötü amaçlı yazılımlar için en sık kullanılan dağıtım mekanizmasıdır. Yapay zeka da farklı değil. Bilgisayar korsanları, kimlik avı e-postaları geliştirmek veya kötü amaçlı yazılım kampanyaları yazıp otomatikleştirmek gibi saldırı yeteneklerini geliştirmek için halihazırda üretken yapay zekayı kullanıyor. Saldırganların kaybedecek fazla bir şeyi yok ve sonuçların ne kadar kesin veya doğru olduğu konusunda endişelenecek bir şey yok.
Saldırganların cephaneliğinde AI/ML varsa ve sizin yoksa, iyi şanslar. Oyun alanını eşitlemeniz gerekir. Kendinizi korumak için araçlara, süreçlere ve mimarilere ihtiyacınız var. Yapay Zeka/ML’nin iyi ve kötü yanlarını dengelemek, yapay zeka sistemlerine hangi verileri beslediğinizi kontrol edebilmek ve üretken yapay zekayı güvenli bir şekilde etkinleştirmek için gizlilik sorunlarını çözebilmek anlamına gelir.
Önemli bir yol ayrımındayız. Yapay Zeka Yönetici Emri memnuniyetle karşılanır ve gereklidir. Amacı federal kurumlara yapay zeka sistemlerinin test edilmesi ve kullanılması konusunda rehberlik etmek olsa da, kararın özel sektöre geniş ölçüde uygulanabilirliği olacak.
Sektör olarak yapay zekayı uygulamaktan korkmamalıyız ve kötü aktörlerin endüstriye veya ulusal güvenliğe zarar vermek amacıyla yapay zekayı kullanmasını engellemek için mümkün olan her şeyi yapmalıyız. Odak noktası, özellikle üretken yapay zeka söz konusu olduğunda, sorumlu yapay zeka uygulaması için bir çerçeve ve en iyi uygulamalar oluşturmak olmalıdır.
İleriye Doğru Bir Yol Çizin
İleriye doğru bir yol çizmeye yardımcı olacak dört önemli nokta şunlardır:
-
Üretken AI’nın (ve genel olarak AI/ML’nin) durdurulamaz bir güç olduğunun farkına varın. Kaçınılmaz olanı durdurmaya çalışmayın. Bu araçların kuruluşunuzda kullanılacağını kabul edin. İş dünyası liderlerinin bunların kullanımını doğrudan engellemeye çalışmak yerine bunun nasıl olacağına ilişkin politika ve prosedürleri şekillendirmesi daha iyidir.
-
Sorumlu bir şekilde nasıl kullanılacağına odaklanın. Kullanıcılarınızın üretken yapay zeka uygulamalarının yalnızca kurumsal sürümlerine eriştiğinden emin olabiliyor musunuz? Bu sistemlerle hassas verilerin paylaşılıp paylaşılmadığını kontrol edebiliyor musunuz? Eğer yapamıyorsanız görünürlüğünüzü ve kontrolünüzü geliştirmek için hangi adımları atabilirsiniz? Bazı modern veri güvenliği teknolojileri bu soruları yanıtlayabilir ve bunları yönetmek için bir çerçeve sağlamaya yardımcı olabilir.
-
Verimliliği unutmayın. Bu, çıktısının kesinliği ve doğruluğu anlamına gelir. Üretken yapay zekadan elde edilen sonuçların güvenilir olduğundan emin misiniz? Yapay zeka, veri analistlerine ve veri bilimcilerine olan ihtiyacı ortadan kaldırmıyor; önümüzdeki yıllarda hepimiz yeniden beceri kazanırken kuruluşların etkinliğini ve doğruluğunu değerlendirmelerine yardımcı olma konusunda çok değerli olacaklar.
-
Nasıl kullandığınızı sınıflandırın. Bazı uygulamalar yüksek hassasiyet ve doğruluğun yanı sıra hassas verilere erişim gerektirecek, ancak diğerleri gerektirmeyecektir. Tıbbi araştırma bağlamında üretken yapay zeka halüsinasyonları, kullanımını caydıracaktır. Ancak daha zararsız uygulamalardaki (alışveriş gibi) hata oranları iyi olabilir. Yapay zekayı nasıl kullandığınızı sınıflandırmak, düşük seviyedeki meyveleri, yani araçların sınırlamalarına karşı o kadar da duyarlı olmayan uygulamaları hedeflemenize yardımcı olabilir.
Ayrıca dışarıda çok sayıda yapay zekanın yıkandığını söylemek de doğru olur. Herkes “Biz bir yapay zeka şirketiyiz!” diye bağırıyor. Ama lastik yola çıktığında onu kullanmaları, hayata geçirmeleri ve değer katmaları gerekiyor. Üretken AI veya daha geniş AI/ML modellerinden bu arzu edilen sonuçlardan herhangi birini sorumlu bir şekilde elde etmek için kuruluşların öncelikle çalışanlarını ve verilerini bu güçlü araçların doğasında bulunan risklerden koruyabildiklerinden emin olmaları gerekir.