“Yeni bir teknoloji bir kez üzerinize geldiğinde, buhar silindirinin bir parçası değilseniz, yolun bir parçasısınız demektir.” – Stewart Markası
Dijital dünya çok geniş ve sürekli gelişiyor ve bu evrimin merkezinde, yakın zamanda popüler hale gelen ChatGPT gibi büyük dil modelleri (LLM’ler) var. Kurumsal dünyayı hem bozuyor hem de potansiyel olarak devrim yaratıyorlar. Yeteneklerini sayısız iş uygulamasına ödünç vermeye hevesli bir tür İsviçre Çakısı olmak için yarışıyorlar. Bununla birlikte, LLM’lerin kurumsal güvenlik ve mahremiyet ile kesişmesi daha derin bir dalışı garanti eder.
Kurumsal dünyada, LLM’ler paha biçilmez varlıklar olabilir. Uygulanıyorlar ve müşteri hizmetleri, iç iletişim, veri analizi, tahmine dayalı modelleme ve çok daha fazlasında toplu olarak iş yapma şeklimizi değiştiriyorlar. Yorulmadan verimli çalışan, işinizi tamamlayan ve hızlandıran bir dijital iş arkadaşınızı hayal edin. Bir LLM’nin masaya getirdiği şey budur.
Ancak LLM’lerin potansiyeli, üretkenlik kazanımlarının ötesine geçer. Şimdi siber güvenlik savunmamızı güçlendirmedeki rollerini düşünmeliyiz. (Düşünülmesi gereken karanlık bir taraf da var, ama buna geleceğiz.)
LLM’ler siber güvenlik çabalarına yardımcı olabilir
LLM’ler, potansiyel güvenlik tehditlerini belirlemek için eğitilebilir, böylece ek bir koruma katmanı görevi görür. Ayrıca, siber güvenlik bilincini geliştirmek için harika araçlardır, tehditleri simüle edebilir ve gerçek zamanlı rehberlik sağlayabilirler.
Yine de, LLM’lerin benimsenmesiyle, mahremiyet endişeleri kaçınılmaz olarak ortaya çıkıyor. Bu AI modelleri, hassas iş verilerini işleyebilir ve bu nedenle dikkatle ele alınması gerekir. Anahtar, fayda ve mahremiyet arasında, ikisinden de ödün vermeden doğru dengeyi kurmaktır.
Buradaki umut ışığı, bu dengeyi sağlayacak araçlara sahip olmamızdır. Diferansiyel gizlilik gibi teknikler, LLM’lerin bireysel bilgileri ifşa etmeden verilerden öğrenmesini sağlayabilir. Ek olarak, sağlam erişim kontrollerinin ve katı denetim izlerinin kullanılması, yetkisiz erişimin ve kötüye kullanımın önlenmesine yardımcı olabilir.
Kurumsal ekosistemimizi korurken LLM’leri nasıl benimseriz?
Bu modellerin yeteneklerini ve sınırlamalarını anlamakla başlar. Ardından, farklı iş alanlarının hassasiyeti göz önünde bulundurularak entegrasyon süreci kademeli ve ölçülü olmalıdır. Her zaman insan gözetimini ve yönetişimini sürdürmesi gereken bazı uygulamalar vardır: LLM’ler çıtayı geçmemiştir ve doktor değildir.
İşletmeye özgü verilerle LLM’leri eğitirken gizlilik asla arka planda kalmamalıdır. Paydaşlara karşı, kullanılan veri türü ve bunun arkasındaki amaç konusunda şeffaf olun. Son olarak, LLM’nin zaman içindeki performansını ve etik davranışını izleme ve iyileştirme konusunda eksik olmayın. Burada dikkate alınması gereken bazı özellikler:
- Açıkçası, LLM arayüzlerini ve kurumsal teklifleri engellemek basittir – hatta önemsizdir – ve şirketin hangilerine izin vereceğini seçebilmesi için engellenmesi gerekir. Bu, doğru kullanım konusunda bir politikaya ihtiyaç duyulduğu ve doğru olanları onaylayacak bir proje olması gerektiği anlamına gelir. Bu ikinci kısmı göz ardı etmek, LLM’lerin haydut veya başına buyruk kullanımına yol açacaktır, bu yüzden onu görmezden gelmeyin.
- Zamanla, bastırılmış talebi karşılamak için yeni LLM hizmetleri ortaya çıkacaktır (yaptırım uygulanan hizmetleri doğrudan yasaklayan ve asla abone olmayan kuruluşlar gibi). Bu nedenle, yeni ve ortaya çıkan ve hatta gölgeli LLM hizmetlerine erişimi engellemek için yeni bir RBL benzeri listenin veya tespit araçlarının ortaya çıkacağından şüpheleniyorum. Bu nedenle, siber suçluların gerçek modellerden mekanik Türklere kadar her şeyi perde arkasında kullanarak bu tür hizmetleri kasıtlı olarak ortaya koymalarını bekleyin.
- Etkileşim yasaksa, insanlar LLM’lerle etkileşim kurmak için telefonları ve kişisel sistemleri kullanmaya başlayacak. Yasakları aşmak için motivasyonlar (örn. performans, zaman tasarrufu, gelir elde etme vb.) vardır, dolayısıyla gerçekleşecektir.
- LLM tarafından yönlendirilen trafik, (fazla değil) zamanla diğer trafik türlerine giderek daha çok benzeyecek şekilde dönüşecektir. Engellemeyi, davranışsal algılamayı ve model tespitini aşmak için hızla yeni trafik türleri gibi görünmeye başlayacak. Ayrıca yeni protokollere geçiş yapacaktır. QUIC bariz bir seçimdir, ancak bu hizmetlerin kullanımına karşı direnç yüksekse trafik şekli bile çok farklı görünebilir.
- Diğer hizmetler proxy görevi görecek ve API/WS aracılığıyla GPT’ye bağlanacak, yani her şey bir ağ geçidi olabilir. Daha da kötüsü, pek çok kullanıcı, özellikle destek hizmetleri gibi “insan etkileşimi” hizmetlerinde “API tedarik zincirinde” nerede olduklarını bilmeyebilir. Bu büyük olanı. Benzer davranışları teşvik etmek için şirketlerin her zaman kendi hizmetlerini son kullanıcılar için bir işarete sahip insanlar veya makineler olarak işaretlemelerini tavsiye ederim (bir standardın savunulması gereken harika bir şey olduğu bir örnek).
- Şimdi en büyük endişe için. Sorunun bir kısmı, IP’yi ve belirli bilgileri üçüncü şahısların elinden uzak tutmaktır ve veri kaybı koruması (DLP) bu konuda yardımcı olabilir. Ama aynı zamanda var trafik analizi saldırılar ve veri analizi saldırılar (özellikle ölçekte) ve LLM kullanımından çıkarılabilecek bilgiler. Veriler asla bir şirketin duvarları içinde var olan veya olmakta olan şeyler hakkında bir şeyler ima etmek için ayrılmak zorunda kalmazlar (Büyük Veri çağının en büyük dersi, Büyük Veri depolarının PII ve diğer veri türleri oluşturabilmesiydi. Bu, bundan bile daha kötü). Bu, gizlilikle ilgili eskiden karbona dayalıdan karbona dayalı yaşam formu kurallarının artık karbondan silikona etkileşimler için de geçerli olması gerektiği anlamına gelir: Gevşek dudaklar, herhangi bir şeyle konuşurken gemileri batırır!
Değişime direnme, ona ayak uydur
İleriye bakıldığında, LLM’lerin kurumsal manzaraya dahil edilmesi, gerilemesi muhtemel olmayan bir dalgadır. Ne kadar çabuk adapte olursak, bununla birlikte gelen zorluklara ve fırsatlara karşı o kadar donanımlı oluruz. ChatGPT gibi LLM’ler, kurumsal ve güvenlik ortamlarını şekillendirmede çok önemli roller oynayacak şekilde ayarlanmıştır. Adım attığımız heyecan verici bir dönem ve her yolculukta olduğu gibi hazırlıklı olmak çok önemli. Öyleyse kemerlerinizi bağlayın ve açık fikirli ve güvenli bir planla bu “yapay zeka liderliğindeki” geleceği kucaklayalım.
Son bir kritik yorum: Cin şişeden çıktı, tabiri caizse bu, siber suçluların ve ulus devletlerin saldırı önlemleri için yapay zeka ve türev araçları silahlandıracak ve kullanacakları anlamına geliyor. Bu kullanımları doğrudan yasaklama cazibesinden kaçınılmalıdır, çünkü mavi takımlarımızın ve savunmalarımızın hazır olduğundan emin olmak için pen testçilerinin ve kırmızı takım oyuncularının bu araçlara erişebilmelerini sağlamalıyız. Bu nedenle örneğin Kali Linux’umuz var. LLM ve AI araçlarının kullanımına ilişkin yasaklarla şimdi veya gelecekte mor takım çalışmasını baltalayamayız.