AI Avustralya’da gizlilik, yasal ve diğer riskleri birleştiren kuruluşlar tarafından kullanımı ile ITNews’in kardeş yayın Techpartner.news, teknoloji ortaklarından, AI kullanımından kaynaklanan riskleri yönetmek için kuruluşların şimdi ne yapması gerektiği konusunda davet etti.
Kat McCrabb, Alev Ağacı Siber
Queensland merkezli firma Flame Tree Cyber’ın genel müdürü Kat McCrabb, aşağıdaki görüşleri sağladı, AI üzerinden aşırı güven, AI tarafından kullanılan verilerin nerede depolanacağı ve işleneceği ve üçüncü taraf riski diğer konuların yanı sıra sorgular.
S. AI riskinin bir yönü nedir Müşterileriniz çok zor buluyor veya özellikle endişe duyuyorlar mı, yoksa sıklıkla çalıştırılmadığını görüyor musunuz?
Kat McCrabb, Alev Ağacı Siber: AI genellikle önceden var olan risklerin gerçekleşmesine yol açar. Bu, kötü erişim yönetiminden verilere ve sistemlere uygunsuz erişim veya düşük veri kalitesinden kaynaklanan kararların kalitesinin azalması olabilir.
Ayrıca liderlik ekiplerinin ekibinin AI’ya aşırı güven duymaları ve AI tarafından sağlanan tavsiyeye eleştirel düşünme uygulamaması konusunda endişelendiğini görüyoruz. Bu, organizasyon politikalarıyla çelişen kötü karar verme veya davranışlarla sonuçlanabilir.
S. Şimdi AI çevresinde önemli organizasyonel gerilimler veya başarısızlıklar görüyor musunuz (örneğin inovasyon ekipleri veya diğer iş çalışanları ve risk/uyumluluk arasında)? Bu sürtünmeyi ele almak için en iyi uygulamalara değinebilir misiniz?
Kat McCrabb, Flame Tree Siber: Panolar ve son kullanıcılar AI’dan üretkenlik kazanımlarını görmek istiyorlar. Teknoloji ekipleri sorumlu yapay zekayı uygulamak için güçlü temeller ve korkuluklar uygulamak istiyor. Ortada sorumlu AI ve verimlilik kazanımları isteyen bir liderlik katmanı görüyoruz.
Etkili olması gereken zaman nedeniyle kullanıcı eğitiminden başlamanızı ve gölge AI çevresindeki riskleri azaltmaya yardımcı olabileceğini tavsiye ediyoruz. Eşzamanlı olarak strateji, yönetişim, tehditleri ve riskleri anlıyoruz ve teknik kontrolleri tasarlıyoruz.
S. AI tarafından desteklenen teknoloji ürünleri veya hizmetlere uygun olarak dikkate almaları gereken belirli bir yasal risk kuruluşunun dikkate alınması gereken belirli bir yasal risk var mı?
Kat McCrabb, Flame Tree Siber: Kuruluşların AI sistemleri tarafından kullanılan ve üretilen verilerin depolanması ve işlenmesi hakkında soru sorması gereken önemli bir soru var mı?
Veriler nerede saklanacak, yok edilecek ve işlenecek ve yargı yetkisinin yasaları ve güvenlik kontrolleri altında düşecek? Sağlayıcınız buna cevap veremezse, sorumlu AI kullanımlarına güvenmek zordur.
S. Kuruluşların dış BİT hizmetleri sağlayıcılarının AI kullanımı açısından bakmaları gerektiğini düşündüğünüz önemli bir risk var mı?
Kat McCrabb, Alev Ağacı Siber: Üçüncü taraf tedarikçi riskleri her zaman topikaldir. Varlık Yönetimi ile Başlayın – Tedarikçilerinizin hangi AI araçlarını veya sistemlerini kullandığını, bunlara hangi verileri beslediklerini ve hangi süreçleri desteklediklerini bilin.
Riski anladıktan sonra, verilerin nasıl depolanacağını, nasıl korunacağını ve tedarikçinin herhangi bir yönetişim çerçevesi veya standartta çalışıp çalışmadığını kontrol edin.
Bu sözleşmelerde yakalanmalıdır.
S. Şirketlerin AI kullanımı ile gelen riskleri azaltmak için kullanmasını önerdiğiniz bir yaklaşım veya çerçeve var mı?
Kat McCrabb, Flame Tree Siber: Kuruluşların uygun yönetişimle sorumlu AI’ya riske dayalı bir yaklaşım benimsemesine izin verdiği için ISO 42001’i savunuyorum. Ayrıca 10 korkuluk getiren gönüllü AI güvenlik standardı da vardır.
Organizasyonun tehdit analizi ve MIT yapay zekası riski deposu için Miter Atlas’ı kullanmasına yardımcı oluyorum. Tehdit modelini haritalamak ve yapay zeka için zinciri öldürmek ve ona karşı bir savunma modeli katmanı göstermek oldukça eğlencelidir.
S. AI kullanımlarından kaynaklanan riskleri azaltmak için yasal veya risk ekipleri olmayan küçük işletmeler için en iyi uygulama yaklaşımı nedir?
Kat McCrabb, Flame Tree Siber: Yasal olarak çalıştığınızı ve risk azaltma faaliyetlerinden para için en iyi değeri elde ettiğinizden emin olmak için dış uzmanlığa katılın. Bunu yapamıyorsanız, gönüllü AI güvenlik standardından 10 korkuyu düşünün.
S. Sizce, Avustralya kuruluşları AI kullanımlarını daha fazla düzenlemeye hazırlanmalı mı – ve nasıl?
Kat McCrabb, Flame Tree Siber: Verilerin korunmasını ve otomatik karar vermenin ifşa edilmesini sağlama düzenlemesi yürürlükte ve bu konuda bir genişleme göreceğimizi sanmıyorum. Avustralya’daki işletmelerin çoğu küçük işletmelerdir ve ek düzenleme, özellikle küresel bir ekonomide rekabet ederken onları dezavantajlı olabilir.
İhlaller açık olduğunda artan icra görmek istiyorum. Başından beri ‘doğru yapma’ fırsatımız var ve bunun cıla düştüğünü görmekten nefret ediyorum.
S. Sizce, 2025’te AI riskini azaltmaya yardımcı olacak bir ortak ararken Avustralya kuruluşları için en önemli husus ne olmalıdır?
Kat McCrabb, Flame Tree Siber: Potansiyel ortaklara ekibinin kimlik bilgileri, devam eden personel eğitimine olan bağlılıkları, araştırmalara katılım, müşteri referansları ve kanıtlanmış yetenek hakkında sorun. Ayrıca kendi iş gücünüzü desteklemek için sundukları şeyle de ilgilenirim, örneğin iş gücünüzü eğitmeye ve desteklemeye yardımcı olurlar veya ‘çöp ve çalıştır’ yaklaşımı alacaklar mı?
S. Bununla ilgili başka yorumlar var mı?
Sanayi, Bilim ve Kaynaklar Departmanı’ndan AI benimseme verileri, KOBİ AI benimsemesinin ‘geniş kullanımdan’ sınırlı ve temkinli alımlara geçtiğini göstermektedir. Ancak AI kullanan bireyler hızla artmaktadır. Organizasyonlarda keşif yaptığımızda, AI LLM’lerin Google ve Bing’in kombine olduğundan daha sık kullanıldığını görüyoruz.
İş gücümüz, AI’yı evde kullanma hız ve kolaylığı ile kullanmayı bekliyor. KOBİ’lerin AI için mevcut kullanım durumları olmasa da, hazırlanmak için zaman harcıyor olmalıdır. Korkuluklar uygulayın, AI stratejisi ve politikası tasarlayın ve fırsatlardan yararlanmamızı sağlamak için teknoloji hazırlayın.
Flame Tree Cyber, dijital riski yönetmek, uyumluluk gereksinimlerini karşılamak ve uzun vadeli esneklik oluşturmak için görev odaklı kuruluşlarla ortaklaşa ortaklaşa. Siber güvenlik, AI yönetişim ve risk yönetimi konusunda uzmanlaşmıştır ve danışmanlık hizmetleri tarafından desteklenen özel çözümler sunar.
Feragatname: Bu Soru -Cevapta ifade edilen görüşler, bireysel katkıda bulunanların görüşleridir ve ITNews veya TechPartner.news’in görüşlerini yansıtmaz. İçerik yalnızca genel bilgi amaçlı olarak sağlanır ve yasal, finansal veya mesleki tavsiyeler oluşturmaz.
Techpartner.news adresindeki Yönetilen Servis Sağlayıcıların (MSP) dizinine bakın.