Etiket: Halüsinasyonları
AI sistemleri bazen halüsinasyon olarak bilinen bir fenomen olan yanlış veya yanıltıcı çıktılar üretebilir. Bu hatalar, küçük yanlışlıklardan karar verme…
AI tarafından oluşturulan bilgisayar kodu yeni yayınlanan araştırma şovları, varoluş olmayan üçüncü taraf kütüphanelerine referanslarla doludur, verileri çalabilen, geri çekilebilen…
İşte geçen haftanın en ilginç haberlerinden bazılarına, makalelere, röportajlara ve videolara genel bir bakış: Apple, hedeflenen iPhone saldırılarında kullanılan sıfır…
Kod üreten büyük dil modelleri (LLMS) yazılım geliştirme için yeni bir güvenlik sorunu sundu: kod paketi halüsinasyonları. Paket halüsinasyonları, bir…
Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme Bilim adamları, üretilen AI yanıtlarının yeni keşiflere ve yeniliğe…
Yapay Zeka ve Makine Öğrenmesi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme Yapay Zekayı Sentetik Verilerle Eğitmek Model Çöküşüne Yol Açabilir…
Yakın zamanda yayımlanan bir araştırmaya göre, yazılım geliştiricilerin yazılım geliştiriciler arasında büyük dil modelleri (LLM) kullanması, saldırganların geliştirme ortamlarına kötü…
Hata bulma karşılığında insanlara ödeme yapan hata ödül programları, yazılımın güvenliğini artırmak için çok yararlı bir araçtır. Ancak ChatGPT, Bard…
Araştırmacılar, saldırganların ChatGPT’nin kötü amaçlı kod paketlerini yaymak için yanlış bilgi döndürme eğiliminden yararlanabileceğini buldu. Bu, kötü amaçlı kod ve…