Bilgisayar Korsanları Engelleri ve Kısıtlamaları Aşmak İçin API’yi Kullanıyor
Jayant Chakraborty (@JayJay_Tech) •
9 Şubat 2023
Siber suçlular, OpenAI’nin doğal dil yapay zeka modelini kötü amaçlarla kullanmaya yönelik kısıtlamalarını aşmanın bir yolunu buldular.
Ayrıca bakınız: Siber Güvenlik Yönetiminde Başlıca Zehirler için Otomasyon Panzehirleri
Check Point’teki güvenlik araştırmacıları, doğal dil ChatGPT arayüzünün, bir bankayı taklit eden bir kimlik avı e-postası yazmak veya kötü amaçlı yazılım oluşturmak gibi kötü şeyler yapmasına yönelik açık istemleri kapattığını söylüyor.
OpenAI’nin GPT-3 doğal dil modellerine uygulama programlama arayüzü için durumun böyle olmadığını söylüyorlar. Check Point, OpenAI’nin GPT-3 API’sinin mevcut sürümünün “kötüye kullanım önleme önlemleri varsa bile çok az olduğunu” söylüyor. Suçluların bundan yararlanma yollarından biri, API’yi Telegram’a entegre etmektir.
Araştırmacılar, OpenAI API’ye sınırsız erişim sunan bir Telegram botunun reklamını yapan bir siber suçlu bulduklarını ve robota bir banka kimlik avı e-postası ve PDF belgelerini bir FTP sunucusuna yüklemek için bir komut dosyası oluşturma görevini vererek yeteneğini test ettiklerini söylüyorlar.
Siber suçlular ücretsiz olarak 20 sorgu sunuyor ve sonraki her yüz sorgu için 5,50 ABD doları ücret alıyor. Başka bir siber suçlu, kötüye kullanım kısıtlamalarını aşmak için OpenAI API’sini kullanan temel bir komut dosyasını GitHub’a gönderdiğini iddia ediyor.
OpenAI bir basın soruşturmasına yanıt vermedi.
Sadece bir hafta önce Check Point, düşük seviyeli bir bilgisayar korsanlığı topluluğunun üyelerinin ChatGPT’nin kodlama yeteneklerini, fidye yazılımı gaspı için kullanılabilecek bir Python betiği ve Windows uygulamalarını gizlice indirmek için bir Java parçacığı oluşturmak için nasıl kullandıklarını da ortaya çıkardı. Ayrıca, yaygın dosya türlerini arayan, bunları rastgele bir klasöre kopyalayan, sıkıştıran ve sabit kodlu bir FTP sunucusuna yükleyen bir bilgi hırsızı için kod oluşturmak üzere AI modelini kullandılar (bkz:: ChatGPT, Kötü Amaçlı Yazılım Geliştirmede Yapay Zeka Vaadini Sergiliyor).