Etiket: asistanlarını

19
Mar
2024

Araştırmacılar ASCII Sanatını Kullanarak Yapay Zeka Asistanlarını Hackledi

Büyük dil modelleri (LLM'ler), ASCII sanatı yoluyla iletilen istemleri tanıma konusundaki yetersizliklerinden yararlanarak saldırılara karşı savunmasızdır. ASCII sanatı, ASCII (Bilgi…

10
Oca
2023

Trojan Puzzle saldırısı, AI asistanlarını kötü amaçlı kod önerme konusunda eğitiyor

California, Virginia ve Microsoft üniversitelerindeki araştırmacılar, yapay zeka tabanlı kodlama asistanlarını tehlikeli kod önermeleri için kandırabilecek yeni bir zehirleme saldırısı…