Üretken yapay zeka gibi teknolojiler, kuruluşların karşılaştığı bazı önemli güvenlik sorunlarına çözüm getirebilir, ancak bu yeteneklere gereğinden fazla vurgu yapan profesyoneller, insanlara ve onların benzersiz yeteneklerine öncelik verme temel ihtiyacını gözden kaçırıyor.
Amazon “Güvenlik bir insan meselesidir” STK Stephen Schmidt Pazartesi günü Las Vegas’ta AWS re: Invent’teki bir sunum sırasında söyledi. “Bilgisayarlar birbirlerine saldırmazlar. Orada meydana gelen her düşmanca eylemin arkasında insanlar var.”
Schmidt’e göre güvenlikte kazanmak, psikoloji uygularken satranç oynamaya, tahtaya, parçaların nasıl hareket ettiğine ve etkileşime girdiğine odaklanmaya benziyor. Güvenlik profesyonellerinin, kendi eğilimleri ve rakiplerinin motivasyonları da dahil olmak üzere, oyundaki insan unsurlarını anlamaları gerekir.
Schmidt, “Sadece bir satranç maçı oynamıyorsunuz” dedi. “Aynı anda onlarca, yüzlerce oyun oynuyorsunuz çünkü farklı motivasyonlara sahip, peşinize düşen çok çeşitli rakipleriniz var.”
Bu siber güvenlik saldırısı çok zorlayıcı olabilir, ancak pek çok kişi savunucular üretken yapay zekayı müttefik olarak görüyor tekrarlanan görevleri otomatik hale getirebilir. Dünyanın dört bir yanındaki siber güvenlik satıcıları şunları yayınladı: teknolojiyle aşılanmış güvenlik araçları ve daha fazlası yolda.
Üretken yapay zeka aynı zamanda kalıcı ve kritik beceri eksikliği Siber güvenlik alanında.
Schmidt’e göre, karmaşık kararlardan ve incelikli odaklanmadan gerilimi uzaklaştıran işi otomatikleştirip ölçeklendirebilen üretken yapay zeka gibi araçlar kritik önem taşıyor. “Bu arada amacım, insanların yazılımla çözülemeyen en belirsiz, dinamik sorunlara odaklanmasını sağlamak.”
Amazon, yapay zekanın faydalarını ve risklerini nasıl değerlendiriyor?
Schmidt, yapay zekanın “işlerimizi halihazırda kökten değiştirdiğini” ancak her araç gibi onun da sınırları olduğunu söyledi.
Amazon, kuruluşlar güvenlik kontrollerini güçlendirmek için yapay zekayı uygularken sunabileceği faydalar ve risklerle boğuşuyor. Şirket, yapay zekanın belirli bir hedefe ulaşmasına yardımcı olabileceği bir alan belirlediğinde, iş operasyonlarındaki güvenlik ihtiyaçlarını şekillendirmeye yardımcı olacak üç soru üzerinde kafa yoruyor.
Veriler nerede?
Anlamak veriler nasıl işlenir LLM için eğitim, özellikle üretken yapay zeka modellerinin kurumsal bilgilere nasıl eriştiği ve potansiyel olarak açığa çıkardığıyla ilgili olduğundan veri güvenliği açısından kritik öneme sahiptir.
Schmidt, kuruluşların bu verileri aktarım sırasında ve kullanımda olmayan şekilde şifrelemesi ve bu verilere erişim için kullanılan izinlerin kapsamının mümkün olan en az izin verici şekilde olduğunu doğrulaması gerektiğini söyledi.
Üretken yapay zeka sorgularına ve ilgili verilere ne olur?
Schmidt, üretken bir yapay zeka sorgusunun parçası olarak gönderilen dosyalar veya bilgilerin daha iyi tahminlere ve sonuçlara yol açabileceğini ancak kuruluşların, kurumsal verileri işleyen hizmetlerin bu verileri koruyacağına dair güvenceye ihtiyacı olduğunu söyledi.
Yapay zeka sohbet robotu sorgularında yinelenen ileri geri hareketler, kuruluşun düzenleme ve uyumluluk gerekliliklerini karşılama yeteneğini tehlikeye atabilecek potansiyel bir risk olarak görülmelidir.
Üretken yapay zeka modellerinin çıktısıdır yeterince doğru?
Üretken yapay zeka modellerinden elde edilen sonuçların kalitesi istikrarlı bir şekilde artıyor ancak insan gözetimi olmadan bu çıktılara aşırı güvenmek, kuruluşları faydaları boşa çıkarabilecek zorluklarla karşı karşıya bırakabilir.
Schmidt, örneğin özel kod oluşturmak için Yüksek Lisans’ı kullanan kuruluşların, kodu üretime dağıtmadan önce kodun iyi yazıldığını ve en iyi uygulamaları takip ettiğini doğrulaması gerektiğini söyledi.
Schmidt, bu soruların Amazon’un güvenlik ekiplerinin Amazon’un dahili kullanımına yönelik üretken yapay zeka ve LLM hizmetleri hakkında nasıl düşündüklerini yönlendirdiğini söyledi.
Schmidt, “Müşteri olarak verilerinizin kontrolü sizde olmalı ve seçtiğiniz modeli güvenli ve emniyetli bir şekilde kullanabilmelisiniz” dedi. “Yapay zeka söz konusu olduğunda yol göstericimiz basittir: Verileriniz tam da budur, sizindir.”