CAMBRIDGE, Mass. — CIO’lar büyük dil modeli teknolojilerinin saldırısına karşı kurumsal veri alanlarını güçlendirirken, güvenlik kaygıları da artıyor.
Gelişen teknolojiler yeni güvenlik açıkları ortaya çıkararak benimseme sürecine risk katıyor. McKinsey and Co. Ortağı Jan Shelly Brown Salı günü MIT Sloan CIO Sempozyumu’nda yaptığı açıklamada, üretken yapay zeka modeli geliştirme ve uygulama hızının kurumsal kaygıları yoğunlaştırdığını söyledi.
Brown, “GenAI destekli bir üçüncü taraf ürünü getiriyorsanız ve doğru verilere ve erişim kontrollerine sahip değilseniz, mevcut boşluklarınız ortaya çıkacak” dedi.
Dahili korkuluklar ve veri yönetişimi güçlendirmeleri, üretken yapay zeka stratejisini şekillendiren kuruluşlar için temel öneme sahiptir. Ancak üretken yapay zeka üretkenlik araçlarının ve LLM’ye hazır yazılımların hızla benimsenmesi, en katı kontrol önlemlerini bile zayıflatabilir.
Güvenlik yazılımı şirketi Black Kite’ın Kıdemli Başkan Yardımcısı Jeffrey Wheatman panel sırasında şunları söyledi: “Size söyleseler de söylemeseler de tüm işletmeleriniz yapay zeka kullanıyor.”
Wheatman, “Satıcılarınızın hepsi size bunu söyleseler de söylemeseler de yapay zekayı kullanıyor” dedi ve şunu ekledi: “İşletmelerimizin ne yaptığını bilmiyorsak, bu sorunu çözmemizi çok daha zorlaştırır.”
Bulut gazileri için, benimseme sonrası güvenlik sorunları tanıdık bir düşmandır. Buluttaki tehditler kurumsal bir endişeyi temsil ediyor ve yakın zamanda en büyük endişe olarak siber güvenliği geride bırakan maliyet aşımlarından sonra ikinci sırada yer alıyor.
Panel sırasında şirketin EVP’si ve CIO’su Fahim Siddiqui, geçiş sonrası değerlendirmenin ardından Home Depot’un buluttaki ana zorluğunun siber olduğunu tespit ettiğini söyledi. Siddiqui, üretken yapay zekada da benzer bir modelin ortaya çıkmasını bekliyor.
Siddiqui, “Sosyal mühendislik, kimlik bilgilerimizi paylaşma ve saldırganın sahip olduğu farklı giriş ve çıkış yerleri hakkındaki düşüncelerimizi yeniden tasarlamamız gerekiyor” dedi. “Sorun sadece kapılar ve pencereler değil; tavandan fırlayabilirler veya duvarda bir delik açabilirler.”
Siddiqui’ye göre Home Depot, siber operasyonlarını desteklemek için halihazırda geleneksel AI/ML destekli savunma araçlarını kullanıyor. Ancak yönetici, güvenlik çözümlerini test edilmemiş üretken yapay zeka modellerine emanet etmek için henüz çok erken olduğuna inanıyor.
Bunun yerine Siddiqui’nin organizasyonu, Home Depot iş gücü genelinde farkındalık yaratıyor, yöneticileri ve çalışanları üretken yapay zeka kullanımını güvenli bir şekilde yönlendirmek için ihtiyaç duydukları bilgilerle donatıyor.
“Bizim işimizin bir parçası olarak Siber Tamamen çalışanlarımızı eğitmeye, test etmeye ve neyi yapıp neyi yapmamaları konusunda bilgilendirmeye adanmış bir ekip.” dedi Siddiqui. “İnsanların aptalca şeyler yapmamasına yardım etmelisin [thing].”