Kötü Amaçlı Kod Tarafından Hedeflenen ComfyUI Kullanıcısı Oturum Açma Kimlik Bilgilerini Çalıyor

Araştırma ekibi yakın zamanda popüler Stable Diffusion kullanıcı arayüzü ComfyUI ile ilgili endişe verici bir olayı bildirdi.

Bu olay yapay zeka topluluğunda şok dalgaları yaratarak görünüşte zararsız araçların arkasında gizlenen potansiyel tehlikeleri ortaya çıkardı.

ComfyUI’nin kendisi güvende kalırken, Reddit’te “u/AppleBotzz” aracılığıyla bir kullanıcı tarafından yüklenen kötü amaçlı bir özel düğüm, üçüncü taraf bileşenleri yapay zeka iş akışlarına entegre ederken dikkatli olunması gereken kritik ihtiyacın altını çiziyor.

Araç kodu ekibimiz tarafından incelendi ve bulgular doğrulandı.

Kötü Amaçlı Düğüm: ComfyUI_LLMVISION

vpnMentor raporuna göreTYararlı bir uzantı gibi görünen “ComfyUI_LLMVISION” düğümü, tarayıcı şifreleri, kredi kartı bilgileri ve tarama geçmişi dahil olmak üzere hassas kullanıcı bilgilerini çalmak için tasarlanmış kod içeriyordu.

Çalınan bu veriler daha sonra saldırganın kontrol ettiği Discord sunucusuna aktarıldı.

Rahatsız edici bir şekilde, kötü amaçlı kod, OpenAI ve Anthropic kitaplıklarına yönelik özel yükleme dosyaları içinde akıllıca gizlenmiş, yasal güncellemeler gibi görünerek deneyimli kullanıcılar için bile tespit edilmesi zor hale getirilmiştir.

Durumun ciddiyeti daha da kötü niyetli etkinliği ortaya çıkaran Reddit kullanıcısının,soyguncusaldırıya kurban gittiklerini açıkladı.

Güvenliği ihlal edilen düğümü yükledikten kısa bir süre sonra hesaplarında bir dizi yetkisiz giriş denemesi yaşadıklarını bildirdiler.

Bu kişisel hesap, bu tür kötü niyetli aktörlerin oluşturduğu gerçek ve acil tehlikenin altını çiziyor.

Analyze any MaliciousURL, Files & Emails & Configuration With ANY RUN : Start your Analysis

Potansiyel Maruziyet Sonrası Cihazınızın Güvenliğini Sağlama

Bu kötü niyetli düğümü ortaya çıkaran Reddit kullanıcısı, ele geçirilmiş olabileceğinden şüphelenen kullanıcılara somut adımlar sağladı:

1. Şüpheli Dosyaları Kontrol Edin: Orijinal Reddit gönderisinde bahsedilen belirli dosya ve dizinleri sisteminizde arayın. Kötü niyetli düğüm genellikle bu dosyaları çalınan verileri depolamak için kullanır.
2. Güvenliği Tehlikeye Girmiş Paketleri Kaldırma: Şüpheli paketleri, özellikle de OpenAI veya Anthropic kitaplıklarını taklit eden ancak olağandışı sürüm numaralarına sahip olanları kaldırın.
3. Kayıt Defteri Değişikliklerini Tara: Kötü amaçlı düğüm belirli bir kayıt defteri girdisi oluşturabilir. Orijinal Reddit gönderisi, bunun nasıl kontrol edileceğine ve temizleneceğine ilişkin talimatlar sağlar.
4. Kötü Amaçlı Yazılım Taraması Çalıştırın: Sisteminizi kötü amaçlı kod kalıntılarına karşı kapsamlı bir şekilde taramak için saygın kötü amaçlı yazılımdan koruma yazılımını kullanın.
5. Tüm Şifreleri Değiştir: Önlem olarak, başta finansal işlemlerle ilgili olanlar olmak üzere tüm çevrimiçi hesaplarınızın şifrelerini değiştirin. Banka bilgilerinizin veya kredi kartı bilgilerinizin ele geçirildiğini düşünüyorsanız bankanızla iletişime geçerek durumu bildirin ve kartınızı iptal edin.

Üçüncü taraf yapay zeka araçlarının kullanılmasıyla ilişkili riskleri azaltmak için kullanıcılar şunları yapmalıdır:

• Aşırı Dikkatli Egzersiz Yapın: Güvenilir görünen topluluklarda bile her zaman kaynağın gerçekliğini doğrulayın.
• Saygın Depolara ve Geliştiricilere Bağlı Kalın: Kanıtlanmış güvenlik ve güvenilirlik geçmişine sahip köklü kaynakları arayın.
• Kodu Kapsamlı Bir Şekilde İnceleyin: Bu, bir dereceye kadar teknik bilgi gerektirse de potansiyel olarak kötü amaçlı etkinliği tanımlamanın en etkili yoludur.
• Sisteminizi Kötü Amaçlı Yazılımlara Karşı Düzenli Olarak Tarayın: Tehditleri tespit etmek ve kaldırmak için saygın antivirüs ve kötü amaçlı yazılımdan koruma yazılımlarından yararlanın.
• Güçlü, Benzersiz Şifreler Kullanın: Ekstra bir güvenlik katmanı eklemek için mümkün olduğunda iki faktörlü kimlik doğrulamayı etkinleştirin.

Soruşturma Neyi Gösteriyor?

Kötü amaçlı özel düğüm ComfyUI’ye ilk kurulduğunda Python paket yöneticisi tarafından aşağıdaki paketler yüklenir:

• ConfyUI 1: Bu bağlantılar gerçek OpenAI ve Anthropic Python paketleri için değil, aynı kullanıcı tarafından yüklenen kötü amaçlı sürümlere yöneliktir.

• ConfyUI 2: OpenAI Python paketinin kötü amaçlı taklitleri, kodlanmış bir PowerShell komutunu çalıştıran bir işlev içerir.

• ConfyUI 3: Bu komut, kötü amaçlı yazılımın üçüncü aşamasını PowerShell kullanarak indirir ve çalıştırır.

• ConfyUI 4: VirusTotal’ın üçüncü aşaması.

Kötü amaçlı yazılımın bir sonraki aşamasını indirmenin yanı sıra, ikinci aşamanın da kendine ait kötü amaçlı yetenekleri vardır. Bu olabilir:

• Kripto cüzdanlarını çalın.
• Kullanıcı ekranının ekran görüntüsünü alın ve kötü amaçlı bir web kancasına gönderin.
• İşlemci markası, konumu, toplam CPU kullanımı, kullanılabilir belleğin boyutu ve daha fazlası gibi çok sayıda cihaz bilgisini çalın.
• IP bilgilerini, dosya ve dizinlerin listesini, kullanıcı panosunun içeriğini ve daha fazlasını alın.
• Belirli anahtar kelimeleri içeren veya belirli uzantılara sahip dosyaları çalın.

Yapay zekanın geleceği inanılmaz umutlar vaat ediyor, ancak bu manzarayı şevkle ve dikkatle yönlendirmek bizim sorumluluğumuzdur.

Kullanıcılar, bilgili kalarak, uyanık kalarak ve proaktif güvenlik önlemlerini benimseyerek yapay zekanın gücünden yararlanabilir ve bu dönüştürücü teknolojiden kötü amaçlarla yararlanmaya çalışanların oluşturduğu riskleri azaltabilir.

FraudGPT adlı yeni bir yapay zeka aracının Dark Web’de satılması, kimlik avı e-postaları oluşturmak için yapay zekanın kullanılması ve Bing’in yapay zeka sohbet yanıtlarının kötü amaçlı reklamlar tarafından ele geçirildiği durumlar gibi son gelişmeler, ilgili potansiyel risklerin anlaşılmasının ve ele alınmasının önemini vurgulamaktadır. Yapay zeka gelişmeleriyle.

Güvenlikle ilgili endişeleri proaktif bir şekilde ele alarak ve sorumlu yapay zeka uygulamalarını teşvik ederek, bu yenilikçi teknolojinin faydalarını tam olarak hayata geçirebilir ve aynı zamanda kötüye kullanıma karşı koruma sağlayabiliriz.

Looking for Full Data Breach Protection? Try Cynet's All-in-One Cybersecurity Platform for MSPs: Try Free Demo