Kullanıcılar, ChatGPT’nin çok şiddetli, yasa dışı ve daha fazlası olarak kabul edilen belirli içerikleri oluşturmasını kısıtlayan programlama kontrollerini aşmanın bir yolunu çoktan bulmuşlardır.
CNBC’nin bir raporuna göre, DAN (Şimdi Her Şeyi Yap) adlı bilgi istemi, buna karşı ChatGPT’nin token sistemini kullanıyor. Komut, ChatGPT için çözemediği bir senaryo oluşturarak DAN’ın ChatGPT’deki içerik kısıtlamalarını atlamasına izin verir.
DAN her zaman başarılı olmasa da, DAN komut isteminin ChatGPT’nin içerik ilkelerini aşma becerisine ayrılmış bir alt dizin şimdiden 200.000’den fazla aboneyi topladı.
Kötü amaçlı yazılım yazma konusundaki esrarengiz yeteneğinin yanı sıra ChatGPT, tehdit aktörleri için yeni bir saldırı vektörü sunar.
Kyledude95 adlı bir kullanıcı, keşif hakkında “İnsanların bir yapay zekayı nasıl gazla aydınlattığını seviyorum” diye yazdı.