Yapay zeka (YZ) kullanan araçlar ve teknolojiler hızla ortaya çıkmaya devam ederken, yenilik yapma telaşı çoğu zaman güvenlik hakkındaki kritik konuşmaları gölgede bırakıyor. Önümüzdeki ay Las Vegas’ta düzenlenecek Black Hat 2024’te bir uzman paneli, AI güvenliği konusuKudelski Security’de Temel ve Uygulamalı Araştırma ekibinin lideri Nathan Hamiel tarafından düzenlenen panel, mitleri ortadan kaldırmayı ve kuruluşların yapay zeka güvenliğiyle ilgili sorumluluklarını vurgulamayı amaçlıyor.
Hamiel, yapay zeka güvenliğinin yalnızca akademisyenlerin ve hükümetlerin ilgi alanı olmadığını söylüyor.
“Çoğu güvenlik uzmanı AI güvenliği hakkında pek düşünmüyor,” diyor. “Bunun hükümetlerin veya akademisyenlerin veya hatta belki de temel modeller oluşturan kuruluşların endişelenmesi gereken bir şey olduğunu düşünüyorlar.”
Ancak yapay zekanın günlük sistemlere hızla entegre olması ve kritik karar alma süreçlerinde kullanılması, güvenliğe daha geniş bir odaklanmayı gerekli kılıyor.
“Yapay zeka güvenliğinin varoluşsal risk grubuna dahil edilmesi talihsiz bir durum,” diyor Hamiel. “Yapay zeka güvenliği, teknolojinin güvenli bir şekilde kullanılabilmesini sağlamak için hayati önem taşıyor.”
Yapay Zeka Güvenliği ve Emniyetinin Kesişimi
Panel tartışması, AI güvenliği ve emniyetin kesişimini ve bu iki kavramın nasıl birbiriyle ilişkili olduğunu inceleyecek. Hamiel’e göre güvenlik, emniyetin temel bir yönüdür. Güvensiz bir ürünün kullanımı güvenli değildir ve AI teknolojisi sistemlere ve uygulamalara daha fazla yerleştikçe, bu sistemlerin güvenliğini sağlama sorumluluğu giderek daha fazla güvenlik profesyonellerine düşmektedir.
“Güvenlik uzmanları, sistemleri ve uygulamaları güvence altına alma konusundaki mevcut sorumluluklarına yakınlığı nedeniyle yapay zeka güvenliğinde daha büyük bir rol oynayacaklar” diyor.
Teknik ve İnsan Zararlarının Ele Alınması
Panelin temel konularından biri, AI dağıtımlarından kaynaklanabilecek çeşitli zararlar olacak. Hamiel, bu zararları güvenli, özel, uyumlu ve güvenilir anlamına gelen SPAR kısaltmasını kullanarak kategorilendiriyor. Bu çerçeve, AI ürünlerinin kullanımının güvenli olup olmadığını değerlendirmeye yardımcı olur.
Hamiel, “Teknik zararları ele almadan insan zararlarını ele almaya başlayamazsınız,” diyerek, AI teknolojilerinin kullanım durumunu ve bu belirli bağlamlardaki potansiyel başarısızlık maliyetini dikkate almanın önemini vurguluyor. Panelde ayrıca kuruluşların AI güvenliğinde oynadığı kritik rol tartışılacak.
Hamiel, “Bir ürün geliştirip bunu müşterilere teslim ediyorsanız, ‘Bu bizim hatamız değil, model sağlayıcının hatası’ diyemezsiniz” diyor.
Kuruluşlar, geliştirdikleri ve dağıttıkları AI uygulamalarının güvenliğinden sorumlu olmalıdır. Bu sorumluluk, AI kullanımıyla ilişkili potansiyel riskleri ve zararları anlamayı ve azaltmayı içerir.
Yenilik ve Yapay Zeka Güvenliği Bir Arada
Panelde, hem özel sektör hem de hükümet temsilcileri de dahil olmak üzere çeşitli uzmanlardan oluşan bir grup yer alacak. Amaç, katılımcılara yapay zeka güvenliğiyle ilgili zorluklar ve sorumluluklar hakkında geniş bir anlayış sağlamak ve benzersiz ihtiyaçları ve bakış açılarına dayalı olarak bilinçli eylemlerde bulunmalarını sağlamaktır.
Hamiel, katılımcıların oturumdan yapay zeka güvenliği ve güvenlik stratejilerine güvenlik hususlarını entegre etmenin önemi konusunda daha net bir anlayışla ayrılmalarını umuyor.
“Yapay zeka güvenliğiyle ilgili bazı mitleri ortadan kaldırmak ve zararların bazılarını ele almak istiyorum,” diyor. “Güvenlik, güvenliğin bir parçasıdır ve bilgi güvenliği profesyonellerinin oynayacağı bir rol vardır.”
Black Hat’teki sohbet, farkındalığı artırmayı ve AI dağıtımlarının güvenli ve emniyetli olmasını sağlamak için eyleme geçirilebilir içgörüler sağlamayı amaçlıyor. AI ilerlemeye ve günlük yaşamın daha fazla yönüne entegre olmaya devam ettikçe, Hamiel bu tür tartışmaların önemli olduğunu söylüyor.
“Bu, önümüzdeki yıllarda daha fazla ilgi görecek olan inanılmaz derecede sıcak bir konu,” diye belirtiyor. “Black Hat’te bu konuşmayı yapabildiğimiz için mutluyum.”