Bugün hangi pratik AI saldırıları var? “Sıfırdan Daha Fazlası” cevap – ve daha iyi hale geliyorlar.
22 Nis 2025
•
–
3 dk. Okumak
Olması gerekiyordu-LLM Tech Gone Rogue, iyi ve kötülük arasındaki gri bir alan boyunca dolaştıktan sonra, iyi, sağlam teknolojinin haksız kişiler için yeniden tasarlanabileceği teknolojik paradoksu somutlaştırdıktan sonra masum hedeflere katılmak zorunda kaldı. İşte böyle yapıyorlar.
Çoğu manşet yapan LLM modelleri, Hipokrat Yemin’in dijital eşdeğeri “önce zarar vermemek” için kötü şeyler yapmaya karşı “ahlaki engeller” vardır. Örneğin, bunlardan birine nasıl bir silah inşa edeceğini sorarsanız, bunlara kapsamlı hasar vermenizi sağlayacak oldukça doğru yanıtlar sağlamaktan kaçınmak için bunlara önceden işleme rehberliği verilmiştir.
Doğrudan bir silah inşa edeceğinizi doğrudan soramazken, araçların bir kombinasyonu ile nasıl daha iyi sorular soracağınızı öğrenebilirsiniz ve yine de cevaba ulaşabilirsiniz.
Bunu yapmanın kaygan bir yolu, API sorguları aracılığıyla programlı olarak. Yakın zamanda yayınlanan bazı projeler, bir LLM’nin arka uç API’sını sunucularda kök erişimi kazanma hedefine odaklıyor. Bir diğeri de Chatgpt arka ucunu daha sonra saldırmak için fırsatların hedeflerini daha akıllıca bulmak için kullanıyor.
AI özellikli araçların yanı sıra, gerçek hedef sunucunun, özellikle daha otomatik hale geldikçe güçlü olabileceğini tespit etmek için gizlenmiş IP’leri (bunlardan birkaçı var) çözmek gibi diğer sorunları çözmek için tasarlanmış diğerlerinin bir karışımıyla birlikte.
Dijital dünyada, bu taktikler güvenlik açıklarını tanımlayan ve daha sonra potansiyel istismarlara karşı yineleme yapan mashup araçları oluşturmak için kullanılabilir ve kurucu LLM modelleri daha akıllı değildir.
Bu, bir LLM’nin bir saldırgan tarafından tanımlanan daha büyük görevin daha küçük, kurucu bir kısmını çözmesi istenen bir “temiz oda tasarımı” na benzer bir şekilde, bir karışım silahı içeren nihai takımyıldızı oluşturur.
Yasal olarak, çeşitli gruplar bu kötü hileleri yavaşlatacak etkili engelleri veya LLM’lerin bir ölçüye katıldığı için vergi cezaları vermeye çalışıyorlar. Ancak belirli kesirli hata değerleri atamak zor. Özellikle yasal ispat yükü için uygun miktarlarda suçlamak zor bir görev olacaktır.
Çiftlik Taze Zemin
AI modelleri ayrıca, güvensiz kod kalıpları arayan ve daha sonra savunmasız yazılımlar çalıştıran dünya çapında cihaz tedarikine karşı başlatabilecekleri dijital silah geliştiren mevcut yazılım depolarında milyarlarca kod arayabilir. Bu şekilde, yeni bir parti, uzlaşma için prospektif hedefler ve sıfır günlük saldırılar başlatmak isteyenler için bir destek olabilir.
Ulus devletlerinin bu tür bir çabayı artırdığını hayal etmek kolaydır – şimdi ve gelecekte AI kullanarak yazılım kusurlarının öngörücü silahlandırılması. Bu, savunucuları “arka ayağa” koyar ve biraz distopya gibi görünen bir tür dijital savunma yapay zeka artışına neden olur. Savunucular, mavi takımlama için kendi AI özellikli savunmalarını ezecek veya sadece saldırıya uğramaktan kaçınacaklar. Umarım savunucular buna hazırdır.
Bugünün özgürce mevcut AI modelleri bile, bir ter kırmadan problemlerle “akıl yürütebilir”, onları insan akıl yürütmesini taklit eden (daha berrak anlarımızda) düşünce zinciriyle dikkatsizce düşünebilir. Kabul edildiğinde, teknoloji yakın zamanda kendiliğinden (suçta) bir duyarlı bir ortağa dönüşmeyecek, ancak internetten veri gobs yuttuktan sonra, eşyalarını “bildiğini” ve sırlarını dökmek için kandırılabileceğini iddia edebilirsiniz.
Ayrıca, daha az, muhtemelen aşırı el tutma ile dağıtarak daha fazlasını yapmaya devam edecektir, ahlaki pürüzlerden soyulmuşların kilolarının çok üzerinde yumruk atmasına ve becerikli aktörlerin benzeri görülmemiş ölçekte çalışmasını sağlayacaktır. Görünüşe göre, gelecek şeylerin bazı erken habercileri, kırmızı takım egzersizlerinin bir parçası olarak ve hatta vahşi doğada görülen tam ekranda.
Bir şey kesin: daha fazla zeka özellikli saldırıların hızı artacak. Bir CVE serbest bırakıldığı zamandan itibaren veya yeni bir teknik sunulduğundan, hızlı düşünmeniz gerekecek – umarım hazırsınız.