ChatGPT, kullanıcı dostu arayüzü ve yapay zeka tarafından oluşturulan inandırıcı yanıtlarıyla bir sıçrama yaptı. ChatGPT, tek bir istemle, diğer AI asistanlarının elde edemediği ayrıntılı yanıtlar sağladı. ChatGPT’nin üzerinde eğitim aldığı devasa bir veri kümesiyle desteklenen, ele alabileceği konuların genişliği ve çeşitliliği, teknoloji endüstrisini ve halkı hızla hayrete düşürdü.
Bununla birlikte, teknolojinin karmaşıklığı kaçınılmaz bir soruyu gündeme getiriyor: ChatGPT ve benzeri teknolojilerin sakıncaları nelerdir? Çok sayıda gerçekçi yanıt üretme yetenekleriyle ChatGPT, mütevazi bir okuyucuyu içeriğin arkasında gerçek bir insan olduğunu düşünmeye ikna edebilecek bir dizi yanıt oluşturmak için kullanılabilir.
ChatGPT’yi Anlamak
AI asistanlarını düşündüğünüzde, akla ilk olarak Google ve Alexa gelebilir. “Bugün hava nasıl?” gibi bir soru soruyorsunuz. ve kısa bir cevap alın. Bazı konuşma özellikleri mevcut olsa da çoğu, daha fazla etkileşim yoluyla genişletilebilecek uzun biçimli yapay zeka tarafından oluşturulmuş metinler üretmez.
ChatGPT, karmaşık bir bilgi istemini alır ve potansiyel olarak birden çok paragrafı kapsayan tam bir yanıt oluşturur. Önceki konuşmayı hatırlar ve daha fazla soru sorulduğunda daha ayrıntılı yanıtlar vererek üzerine inşa eder.
Aşağıda bir örnek gösterilmektedir: ChatGPT, çikolatalı kek pişirme talimatlarını listeler.
Kaynak: Specops
Bu konuşma, basit bir içerik listesinden tam teşekküllü bir kısa hikayeye kadar değişebilir. Ancak ChatGPT, veri kümesi nedeniyle belirli konulara yanıt vermeyebilir.
Ek olarak, bir yanıtın üretilmesinin doğru olduğu anlamına gelmediğini not etmek önemlidir. ChatGPT bizim gibi “düşünmez”; bir yanıt oluşturmak için internetten gelen verileri kullanır. Sonuç olarak, yanlış veriler ve ilgili önyargılar beklenmedik bir cevaba yol açabilir.
Yapay Zeka Asistanlarının Riskleri
Yukarıda ima edildiği gibi, tüm yanıtlar eşit değildir. Ancak tek risk bu değil. ChatGPT yanıtları inandırıcı olabilir ve bu nedenle, bir kişiyi bunun bir kişi tarafından yazıldığına inandıracak şekilde kandırabilecek içerik üretme potansiyeli mevcuttur.
Bu, teknoloji dünyasında bu tür teknolojinin silah haline gelmesine yol açabilir.
Pek çok kimlik avı e-postası, özellikle ana dili İngilizce olmayan kişiler tarafından yazıldığında kolayca tanınabilir. Ancak ChatGPT, CheckPoint’in bu makalesinde belirtildiği gibi görevi önemli ölçüde daha kolay ve daha ikna edici hale getirebilir.
Oluşturma hızı ve yanıt kalitesi, çok daha inandırıcı kimlik avı e-postalarına ve hatta basit yararlanma kodu oluşturmaya kapı açar.
Ayrıca, ChatGPT modeli açık kaynak olduğundan, girişimci bir kişi hızlı ve kolay bir şekilde kimlik avı e-postaları üreten bir araç oluşturmak için şirket tarafından oluşturulmuş mevcut e-postalardan oluşan bir veri kümesi oluşturabilir.
Kaynak: Specops
Kimlik avı e-postaları, tehdit aktörlerine sisteminize erişim elde etme ve kötü amaçlı yazılım veya fidye yazılım dağıtma yolu sağlayarak potansiyel olarak ciddi hasara neden olabilir. ChatGPT gelişmeye devam ettikçe, kötü niyetli aktörler için giderek daha güçlü bir araç haline gelecektir.
Peki ya anadili İngilizce olmayan bir çalışanı konuşarak kimlik bilgilerinden vazgeçmeye ikna etmeye çalışan biri?
Mevcut ChatGPT arabiriminin hassas bilgilerin istenmesine karşı korumaları olsa da, yapay zeka modelinin bir Microsoft yardım masası teknisyeninin kullanabileceği akışı ve diyaloğu bilgilendirmeye nasıl yardımcı olduğunu ve bir isteğe özgünlük kazandırdığını görebilirsiniz.
Kaynak: Specops
ChatGPT Kötüye Kullanımına Karşı Koruma
Şüpheli bir e-posta aldınız ve bunun tamamen mi yoksa kısmen mi ChatGPT tarafından yazıldığını merak ettiniz mi? Neyse ki, yardımcı olabilecek araçlar var. Bu araçlar yüzdelerle çalışır, bu nedenle mutlak kesinlik sağlayamazlar. Ancak, makul şüphe uyandırabilir ve e-postanın gerçek olup olmadığını belirlemek için doğru soruları sormanıza yardımcı olabilirler.
Örneğin, önceden oluşturulmuş parola sıfırlama e-postasının içeriğini yapıştırdıktan sonra GPT Zero aracı, bir yapay zeka tarafından oluşturulabilecek bölümleri vurgular. Bu kusursuz bir tespit değildir, ancak duraklamanıza ve belirli bir içeriğin gerçekliğini sorgulamanıza neden olabilir.
Kaynak: Specops
AI tarafından oluşturulan metni tanımlamanıza yardımcı olması için bu aracı kullanabilirsiniz: https://gptzero.me/.
ChatGPT ile yükselen Sosyal Mühendislik
Sahte destek taleplerinden arayan kimliği sahtekarlığına ve hatta şimdi ChatGTP ile komut dosyası oluşturmaya kadar. İnternet, başarılı sosyal mühendislik planlarını desteklemeye yardımcı olacak kaynaklarla doludur. Tehdit aktörleri, ChatGPT’yi diğer sosyal mühendislik yöntemleriyle birlikte kullanarak birden çok saldırı vektörünü bir araya getirerek sosyal mühendislik saldırılarını ilerletiyor.
ChatGPT, saldırganların sahte bir kimlik oluşturmasına yardımcı olarak saldırılarının başarılı olma olasılığını artırabilir.
Specops Güvenli Hizmet Masası ile Güvende Kalın
Specops Secure Service Desk, ChatGPT tarafından oluşturulan sosyal mühendislik girişimleri de dahil olmak üzere yardım masanıza yönelik siber saldırıları önlemeye yardımcı olur. Specops Secure Service Desk ile, siber suçlular tarafından hedeflenen bir sosyal mühendislik saldırısında kolayca bulunabilen güvenlik sorularının ötesine geçen güvenli bir doğrulama yaklaşımıyla bir kullanıcının söylediği kişi olduğundan emin olabilirsiniz.
Örneğin, bir kullanıcının parola sıfırlama için hizmet masasını araması durumunda, araç, hizmet masası temsilcilerinin parolalarını sıfırlamadan önce kullanıcının kimliğini doğrulamasını gerektirecektir.
Kullanıcı, Active Directory hesabıyla ilişkili cep telefonu numarasına gönderilen tek seferlik bir kodla veya hatta Duo Security, Okta, PingID ve Symantec VIP gibi mevcut kimlik doğrulama hizmetleriyle doğrulanabilir. Kuruluşlar ayrıca hizmet masasında MFA’yı zorunlu kılmak için bu seçenekleri katmanlayabilir.
Yavaşlama belirtisi göstermeyen vishing dolandırıcılıkları ve yapay zeka teknolojisiyle gelişmeye hazırlanan ChatGTP ile Specops Güvenli Hizmet Masası çözümüne yatırım yapmak, kendilerini korumak isteyen kuruluşlar için hayati bir adım olabilir.
ChatGPT’nin Geleceği ve Kullanıcılarınızın Güvenliğini Sağlama
ChatGPT, AI tarafından oluşturulan konuşmalar için kullanımı kolay ve güçlü bir araç sağlayan, oyunun kurallarını değiştiren bir araçtır. Çok sayıda potansiyel uygulama olsa da kuruluşlar, saldırganların taktiklerini geliştirmek için bu aracı nasıl kullanabileceklerinin ve bunun kuruluşlarına getirebileceği ek risklerin farkında olmalıdır.
Sponsorlu ve Specops Software tarafından yazılmıştır