Yapay Zeka ve Makine Öğrenimi, Siber Saldırı, Sahtekarlık Yönetimi ve Siber Suç
Langchain’in AI Takım Göbeğinde Yüksek Şeyişli Kusur şimdi yamalı
Rashmi Ramesh (Rashmiramesh_) •
20 Haziran 2025
Siber güvenlik araştırmacıları, geliştiricilerin yapay zeka destekli uygulamalar oluşturmalarına yardımcı olan açık kaynaklı bir çerçevede, geliştiricilerin yapay zeka destekli uygulamalar oluşturmalarına yardımcı olan yüksek kaynaklı bir güvenlik açığı.
Ayrıca bakınız: Kimlik Koruma Stratejisi Oluşturma Kılavuzu
Langsmith platformundaki bir kusur, saldırganların kötü niyetli proxy konfigürasyonlarını, geliştiricilerin istemi, temsilcileri ve modelleri yeniden kullanması için tasarlanmış ortak bir kütüphane olan istemi merkezinde listelenen kamu AI temsilcilerine yerleştirmesine izin verdi. NOMA Güvenlik Araştırmacıları, kullanıcılar bu vekilleri benimsediğinde, bilgisayar korsanlarının Openai API anahtarları, istemler, yüklenen belgeler, görüntüler ve ses girişleri dahil olmak üzere mağdurların hassas verilerinin kesebileceğini söyledi.
NOMA güvenlik araştırmacıları Sasi Levi ve Gal Moyal, “Bu yeni tanımlanan güvenlik açığı, önceden yapılandırılmış kötü niyetli bir proxy sunucusu içeren bir acenteyi benimseyen şüpheli olmayan kullanıcıları istemek için yükledi.” Dedi. Araştırmacıların Agentsmith’i vaftiz ettiği hatanın CVSS puanı 8.8 var. Langsmith bir yama yayınladı.
Langsmith, daha geniş Langchain ekosisteminin bir parçasıdır ve büyük dil modeli tabanlı uygulamalar oluştururken ve test ederken geliştiricilere görünürlük ve kontrol sağlar. Langsmith gibi platformlar düzenli olarak hızlı prototipleme ve test için kullanılır.
Black Duck Altyapı Güvenlik Uygulaması Direktörü Thomas Richards, “İstem merkezi gibi yazılım depoları, geri alınmış veya kötü amaçlı yazılımlar için bir hedef olmaya devam edecek.” Dedi. “Bu mağazalar bir onay ve veterinerlik süreci uygulayana kadar, yüklenen yazılımın kötü niyetli olma potansiyeli olmaya devam edecek.” Richards, Information Security Media Group’a saldırıdan potansiyel olarak etkilenen kullanıcıların API anahtarlarını döndürmesi ve şüpheli davranışlar için günlükleri incelemesi gerektiğini söyledi.
Bu durumda sömürülen saldırı vektörü – kötü niyetli bir proxy için bir dağıtım mekanizması olarak iyi huylu görünümlü bir AI ajanının kullanılması – potansiyel olarak tek bir platformun ötesinde etkileri vardır.
Salt Security’de Siber Güvenlik Stratejisi Direktörü Eric Schwake, olayın AI geliştirme yaşam döngüsüne gömülü bir tedarik zinciri kırılganlığı olduğunu söyledi. “Önceden yapılandırılmış vekillerle donatılmış kötü niyetli AI ajanları kullanıcı iletişimlerini gizlice müdahale edebilir” dedi. Bu, özellikle ajan bir işletmede yeniden kullanılırsa, yetkisiz API erişimi, model hırsızlığı, sistem istemlerinin sızıntısı ve faturalandırma aşımları dahil olmak üzere kuruluşlar için potansiyel olarak ciddi riskler oluşturmaktadır.