ChatGPT’nin benzeri görülmemiş büyümesi ve kullanıcı tabanıyla birlikte, chatbot ile ilgili güvenlik endişesi ortaya çıkıyor.
Hudson Rock’ın Kurucu Ortağı ve CTO’su Alon Gal tarafından paylaşılan yakın tarihli bir gönderide vurgulandığı gibi, bilgisayar korsanları oluşturulduktan kısa bir süre sonra hesap kimlik bilgilerine saldırıyor ve bunları sızdırıyor. Bu, başlangıcından bu yana ChatGPT güvenlik olaylarından kaynaklanan toplu veri istismarı riskini artırır.
Siber güvenlik firması tarafından toplanan verilere göre, aşağıdaki grafik, belirli bir süre içinde güvenliği ihlal edilmiş bilgisayarlardaki ciddi artışı vurgulamaktadır.
ChatGPT güvenlik olayları: AI aracının popülerliği ve kullanımı
Gal tarafından yayınlanan resimler, ChatGPT güvenlik olaylarından sonra kullanıcı verilerine verilen hasarın boyutunu gösteriyor. Parolalı e-posta adresleri ve IP adresleri gibi ayrıntılar karanlık ağda sızdırıldı.
UBS analistlerinin bir raporuna göre ChatGPT, lansmanından sadece iki ay sonra 100 milyon aktif kullanıcıya ulaşarak internet tarihinin en hızlı büyüyen uygulaması olarak ortaya çıktı. Araştırma ayrıca, ChatGPT’nin ortalama milyon tekil ziyaretçi sayısını Aralık’tan Ocak’a kadar neredeyse ikiye katlayarak 13 milyona çıkardığını ortaya koydu.
Bu, özellikle reşit olmayanlar ve proje veya eğitimle ilgili yardım için ona başvuran öğrenciler için kullanıcı kimlik bilgilerinin kötüye kullanılmasının ciddiyetini vurgulamaktadır.
Halihazırda yürürlükte olan internet kullanımıyla ilgili katı düzenlemeler nedeniyle ChatGPT’nin kullanılamadığı Kuzey Kore’nin yanı sıra, İtalya bunu geçici olarak yasakladı. Bunu yapan ilk Batılı ülke oldu. Bir PC Guide raporuna göre yasak şu an itibariyle kaldırıldı.
Raporda, “Mart ayının sonunda, İtalyan Veri Koruma Denetçisi, ChatGPT’nin veri gizliliği endişeleri nedeniyle kullanımını engelledi” diye ekledi. İran, Çin, Küba ve Suriye gibi diğer ülkeler, yürürlükteki kanunları ve internet politikaları nedeniyle ChatGPT’ye erişemez.
Artan ChatGPT güvenlik olayları nedeniyle Almanya, veri koruma endişeleri nedeniyle bununla ilgili bir soruşturma başlattı.
Cyber Express, ChatGPT ile bağlantılı güvenlik olaylarıyla ilgili olarak OpenAI’ye ulaştı. Yanıtlarını aldığımızda bu raporu güncelleyeceğiz.
ChatGPT güvenlik olaylarının ve düzenleyici kurumların endişelerinin oluşturduğu riskler
Ulusal Siber Güvenlik Merkezi tarafından hazırlanan bir rapor, ChatGPT’nin sonuçları nasıl çarpıtabileceğini ve kullanıcılar arasında kafa karışıklığı yaratabileceğini açıkladı. “Büyü değiller, yapay genel zeka değiller ve aşağıdakiler de dahil olmak üzere bazı ciddi kusurlar içeriyorlar:
- Bir şeyleri yanlış anlayabilir ve yanlış gerçekleri ‘halüsinasyon’ görebilirler.
- Önyargılı olabilirler, genellikle saftırlar (örneğin yönlendirici sorulara yanıt verirken).”
Rapor ayrıca, bu tür araçların toksik sonuçlar yaratmaya ikna edilebileceğini ve ayrıca enjeksiyon saldırılarına eğilimli olduğunu açıkladı. Kullanıcıların sorgusu OpenAI tarafından erişime açılacaktır. Bu nedenle NCSC, ChatGPT kullanıcıları için şu uyarı kelimesini ekledi: “Hassas bilgileri genel LLM’lere yönelik sorgulara dahil etmeyin, (Büyük Dil Modeli).”
ChatGPT ve Google’dan Bard
Bir yapay zeka sohbet robotu olan Bard, büyük dil öğrenme modelinin bir parçası olan Diyalog Uygulaması için Dil Modeli’ni (LaMDA) kullanıyor. Ancak, artık Google’ın yeni nesil LLM’si olarak kabul edilen Google’ın PaLM 2’sini kullanıyor.
ChatGPT, sisteminde var olan verilerle yanıt verirken, Bard’ın ek olarak internetten bilgi toplama özelliği olacaktır. Google arama motoru tarafından desteklenecektir. Bu, çeşitlendirilmiş ve zoraki yanıtların kapsamını genişletir.
Bard, çalışmalarını Dokümanlar ve Gmail hesaplarıyla entegre etmek isteyen kullanıcılar bekleyebilir.
İster özel AI araçları ister herhangi bir çevrimiçi hesap olsun, güvenlik her zaman bir endişe kaynağıdır ve her kullanıcıya veri paylaşımı ve hesap koruması konusunda yeterli özeni göstermesi emanet edilmiştir. Her aracın avantajları ve dezavantajları vardır.
ChatGPT güvenlik olaylarıyla ilgili endişeleri dile getiren bir Europol raporunda özetlendiği gibi, bunu bu şekilde kullanıyoruz.
Raporda, “Potansiyel bir suçlu belirli bir suç alanı hakkında hiçbir şey bilmiyorsa, ChatGPT sonraki adımlarda daha fazla keşfedilebilecek önemli bilgiler sunarak araştırma sürecini önemli ölçüde hızlandırabilir.”
“ChatGPT’nin sağladığı tüm bilgiler internette ücretsiz olarak mevcut olsa da, bağlamsal sorular sorarak belirli adımlar sağlamak için modeli kullanma olasılığı, kötü niyetli aktörlerin çeşitli suç türlerini daha iyi anlaması ve ardından gerçekleştirmesinin önemli ölçüde daha kolay olduğu anlamına geliyor.” Europol’ün ‘ başlıklı ilk Tech Watch Flash raporuChatGPT – Büyük Dil Modellerinin Kolluk Kuvvetleri Üzerindeki Etkisi,’ sonucuna vardı.