ChatGPT’ye artan kamu ilgisiyle Europol İnovasyon Laboratuvarı konuyu ciddiye aldı ve Europol’ün çeşitli departmanlarından konu uzmanlarının katıldığı bir dizi çalıştay gerçekleştirdi. Bu çalıştaylar, ChatGPT gibi büyük dil modellerinin (LLM’ler) suçlular tarafından istismar edilebileceği potansiyel yolları ve araştırmacılara günlük görevlerinde yardımcı olmak için nasıl kullanılabileceğini araştırmayı amaçladı.
ChatGPT ve kolluk kuvvetleri
İçgörüleri, ChatGPT’nin olası kötüye kullanımına ilişkin bir genel bakış sağlayan ve gelecekte neler olabileceğine dair bir genel bakış sunan Europol’ün ilk Tech Watch Flash raporu ChatGPT – the effect of Large Language Models on Law Enforcement’ta derlenmiştir.
“Suçlular ChatGPT kullandığında dil veya kültür engeli yoktur. Olağanüstü bir hızla kuruluşlar, katıldıkları etkinlikler, birlikte çalıştıkları şirketler hakkında bilgi toplamak için uygulamayı yönlendirebilirler. Daha sonra ChatGPT’den bu bilgileri son derece güvenilir dolandırıcılık e-postaları yazmak için kullanmasını isteyebilirler. Hedef, ‘görünen’ bankasından, CEO’sundan veya tedarikçisinden bir e-posta aldığında, e-postanın sahte olduğuna dair herhangi bir dil belirtisi yoktur. Banka havalesini gerçekleştirmenin tonu, bağlamı ve nedeni, e-postanın bir aldatmaca olduğunu düşündürecek hiçbir kanıt sunmaz. MyCena Security Solutions CEO’su Julia O’Toole, “Bu, ChatGPT tarafından oluşturulan kimlik avı e-postalarını tespit etmeyi çok zor ve tehlikeli hale getiriyor” dedi.
ChatGPT ve potansiyel suç teşkil eden suistimal
ChatGPT gibi LLM’lerin yetenekleri aktif olarak iyileştirildiğinden, bu tür yapay zeka sistemlerinin suçlular tarafından potansiyel olarak istismar edilmesi, iç karartıcı bir görünüm sağlıyor.
Aşağıdaki üç suç alanı, Europol uzmanları tarafından belirlenen birçok endişe alanı arasındadır:
Dolandırıcılık ve sosyal mühendislik: ChatGPT’nin son derece gerçekçi metinler oluşturma yeteneği, onu kimlik avı amaçları için kullanışlı bir araç haline getirir. LLM’lerin dil kalıplarını yeniden üretme yeteneği, belirli bireylerin veya grupların konuşma tarzını taklit etmek için kullanılabilir. Bu yetenek, potansiyel kurbanları güvenlerini suç aktörlerinin ellerine teslim etmeye yönlendirmek için geniş ölçekte kötüye kullanılabilir.
dezenformasyon: ChatGPT, kulağa gerçek gibi gelen metinleri hız ve ölçekte üretme konusunda uzmandır. Bu, kullanıcıların nispeten daha az çabayla belirli bir anlatıyı yansıtan mesajlar oluşturmasına ve yaymasına olanak tanıdığından, modeli propaganda ve dezenformasyon amaçları için ideal hale getirir.
Siber Suç: İnsan benzeri bir dil üretmenin yanı sıra, ChatGPT bir dizi farklı programlama dilinde kod üretebilir. Çok az teknik bilgiye sahip potansiyel bir suçlu için bu, kötü amaçlı kod üretmek için paha biçilmez bir kaynaktır.
Teknoloji ilerledikçe ve yeni modeller ortaya çıktıkça, kolluk kuvvetlerinin kötüye kullanımı öngörmek ve önlemek için bu gelişmelerin ön saflarında yer alması giderek daha önemli hale gelecektir.