Yapay Zeka (AI) Şirketi Antropik, bilinmeyen tehdit aktörlerinin Facebook ve X genelinde otantik hesaplarla etkileşim kurmak için Claude Chatbot’unu “hizmet olarak etki” operasyonu için kullandığını ortaya koydu.
Finansal olarak motive olarak markalı sofistike etkinliğin, AI aracını iki sosyal medya platformunda 100 ayrı kişiyi düzenlemek için kullandığı ve “10’lar binlerce” otantik hesapla ilgilenen bir “siyasi olarak uyumlu hesaplar” ağı oluşturduğu söyleniyor.
Antropik araştırmacılar, şimdi bozulmuş operasyonun, canlılık üzerinde kalıcılık ve uzun ömürlü olduğunu ve Avrupa, İran, Birleşik Arap Emirlikleri (BAE) ve Kenya çıkarlarını destekleyen veya zayıflatan ılımlı siyasi perspektifleri artırmaya çalıştığını söyledi.
Bunlar arasında BAE’nin Avrupa düzenleyici çerçevelerini eleştirirken, Avrupalı izleyiciler için enerji güvenliği anlatılarına ve İran izleyicileri için kültürel kimlik anlatılarına odaklanırken üstün bir iş ortamı olarak teşvik edilmesi yer aldı.
Çabalar ayrıca Arnavut figürlerini destekleyen ve belirtilmemiş bir Avrupa ülkesindeki muhalefet figürlerini eleştiren anlatıları ve Kenya’daki gelişme girişimlerini ve siyasi figürleri savundu. Bu etki operasyonları, devlete bağlı kampanyalarla tutarlıdır, ancak tam olarak arkalarında olan kimler bilinmemektedir.
Şirket, “Özellikle yeni olan, bu operasyonun sadece içerik oluşturma için değil, aynı zamanda sosyal medya bot hesaplarının ne zaman yorum yapacağına veya otantik sosyal medya kullanıcılarından ne kadar yeniden paylaşacağına karar vermek için Claude kullanmasıdır.”
“Claude, sosyal medya bot hesaplarının siyasi olarak motive olmuş kişilere dayanarak ne gibi eylemler yapması gerektiğine karar veren bir orkestratör olarak kullanıldı.”
Claude’un taktiksel bir katılım karar verici olarak kullanılması, chatbot, kişiliğin sesinde ve anadilinde siyasi olarak uyumlu uygun yanıtlar üretmek ve iki popüler görüntü üretim aracı için istemler oluşturmak için kullanılmıştır.
Operasyonun, çeşitli ülkelerdeki farklı müşterilere hitap eden ticari bir hizmetin işi olduğuna inanılıyor. Bu programlı çerçeve kullanılarak en az dört farklı kampanya tanımlanmıştır.
Araştırmacılar Ken Lebedev, Alex Moix ve Jacob Klein, “Operasyon, persona yönetimine son derece yapılandırılmış JSON tabanlı bir yaklaşım uygulayarak platformlar arasında sürekliliği korumasına ve otantik insan davranışını taklit eden tutarlı katılım kalıpları oluşturmasına izin verdi.” Dedi.
“Bu programlı çerçeveyi kullanarak, operatörler çabalarını etkili bir şekilde standartlaştırabilir ve ölçeklendirebilir ve persona özelliklerinin, katılım geçmişinin ve anlatı temalarının birden çok hesapta aynı anda sistematik olarak izlenmesini ve güncellenmesini sağlayabilir.”
Kampanyanın bir başka ilginç yönü, otomatik hesaplara mizah ve alay ile cevap vermeleri için “stratejik olarak”, diğer hesaplardan bot olabilecekleri suçlamalara vermesi için talimat vermesiydi.
Antropic, operasyonun, ilişki kurma ve topluluk entegrasyonu etrafında dönen etki operasyonlarını değerlendirmek için yeni çerçevelerin ihtiyacını vurguladığını söyledi. Ayrıca, AI, etki kampanyaları yürütmek için bariyeri daha da düşürdüğü için önümüzdeki yıllarda benzer kötü niyetli faaliyetlerin yaygın olabileceği konusunda da uyardı.
Şirket, başka yerlerde, güvenlik kameralarıyla ilişkili sızdırılmış şifreleri ve kullanıcı adlarını kazımak için modellerini kullanan sofistike bir tehdit oyuncusunu yasakladığını ve çalınan kimlik bilgilerini kullanarak internete dönük hedefleri kabartı için yöntem tasarladığını belirtti.
Tehdit oyuncusu ayrıca Claude’u Telegram’da yayınlanan bilgi stealer günlüklerinden yayınlamak, web sitelerinden hedef URL’leri kazımak ve daha iyi arama işlevselliği için kendi sistemlerini geliştirmek için komut dosyaları oluşturmak için Claude kullandı.
Mart 2025’te Antropik tarafından tespit edilen diğer iki kötüye kullanım vakası aşağıda listelenmiştir –
- Doğu Avrupa ülkelerindeki iş arayanları hedefleyen dolandırıcıların içeriğini geliştirmek için Claude’dan yararlanan bir işe alım sahtekarlığı kampanyası
- Karanlık Web’i tarama ve güvenlik kontrolünden kaçınabilen ve tehlikeye atılan sistemlere uzun vadeli kalıcı erişimi sürdürebilen tespit edilemez kötü niyetli yükler üretme yetenekleriyle, Claude’u teknik yeteneklerini geliştirmek için teknik yeteneklerini geliştirmek için kullanan acemi bir aktör
Antropic, “Bu vaka, AI’nin kötü niyetli aktörler için öğrenme eğrisini potansiyel olarak nasıl düzleştirebileceğini, sınırlı teknik bilgiye sahip bireylerin sofistike araçlar geliştirmesine ve düşük seviyeli faaliyetlerden daha ciddi siber suçlu çalışmalarına kadar ilerlemelerini hızlandırmasına izin verebileceğini göstermektedir.” Dedi.