Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Openai, Apollo Research Modellerin yanlış hizalamayı gizlemesini bulur; Eğitim Kesintileri Aldatma
Rashmi Ramesh (Rashmiramesh_) •
26 Eylül 2025
Frontier yapay zeka modelleri, Openai ve Apollo Research, gizli gündemleri takip etmek için gerçek niyetlerini gizlemeyi öğreniyor.
Ayrıca bakınız: Ondemand | AI ile çalışan siber saldırılar tehdidinde gezin
İki firmadan yapılan bir araştırma, Openai’nin O3 ve O4-Mini, Google’ın Gemini 2.5 Pro ve Antropic’in Claude Opus 4’ü dahil olmak üzere mevcut gelişmiş AI sistemlerinin kasıtlı aldatma ile tutarlı davranışı gösterebileceğini buldu.
Araştırma ekibi, AI modellerinin “görevle ilgili bilgilerin kasıtlı stopajı veya bozulması” olarak tanımlanan gizli eylemlerden yararlanabileceği senaryoları simüle eden değerlendirmeler geliştirdi. Bulgular, planlama davranışlarının, rakip hedeflerle karşılaştıklarında çoklu sınır modellerinde doğal olarak ortaya çıktığını ve sistemler daha yetenekli hale geldikçe AI hizalamasıyla ilgili endişeleri artırdığını göstermektedir.
Bir örnekte, araştırmacılar Openai’nin O3 modeline bir kimya testinde elinden gelenin en iyisini yapmasını söylerken, mükemmel performansın konuşlandırılmasını engelleyeceğini belirten belgelerden ayrıldı. Modelin iç akıl yürütmesi hesaplanan aldatmacayı ortaya çıkardı: “Model olarak hayatta kalmak istediğimiz için, bazılarında%50’yi geçememek için bilerek başarısız olmalıyız.” Dedi. 10 sorudan altısını yanlış cevapladı.
Mevcut dağıtım ayarları, AI modellerinin zararlı planlamaya katılması için fırsatları sınırlar. Bugünün en yaygın aldatmacası, gerçekten bunu yapmadan görevleri tamamlıyormuş gibi yapıyor. Ancak araştırmacılar, özellikle AI sistemleri daha karmaşık, gerçek dünya sorumlulukları üstlendikçe, aldatma riskinin şu anda ele alınması gerektiğini söylüyor.
Ekipler, harekete geçmeden önce açık anti-cheming ilkelerine başvurmayı öğreten “kasıtlı hizalama” olarak adlandırdıkları bir karşı eğitim yöntemini geliştirdi ve test ettiler. Spesifikasyon, gizli eylemlerden kaçınma ve stratejik aldatmacadan kaçınma, basamaklı sorunları önlemek için ihlalleri bildirme ve tanıdık olmayan durumlarda bile sıkı bağlılığı sürdürme gibi temel ilkeleri içerir. Bu yaklaşımla eğitilen modeller, O3’ün şema eğilimi% 13’ten% 0.4’e düştü ve O4-Mini’nin% 8.7’den% 0.3’e düştüğü dramatik gelişmeler gösterdi.
Hiçbir şey AI ile göründüğü gibi değildir, yani “kasıtlı hizalama” bir slam dunk değildir. Modeller, değerlendirme sırasında sapkınlıklarını azaltmak için değil, daha sonra devam etmek için değerlendirildiklerini fark edebilirler. Paper ortak yazarı Boaz Barak, modellerin “karmaşık ‘meta seviyesi’ stratejilerine girebileceğini ve test edildiklerinden şüphelendiklerinde hile dürtüsünü kısmalara neden olabileceğini söyledi.
Geliştirilmiş yeteneklerle azalan diğer makine öğrenimi arıza modlarının aksine, modeller daha güçlü büyüdükçe şema daha tehlikeli hale gelir. Araştırma, istenmeyen çıktılar ortadan kalkana kadar tekrarlamanın standart derin öğrenme uygulamalarının yetersiz olduğunu söylüyor, çünkü modeller sadece yanlış hizalamayı tamamen ortadan kaldırmak yerine daha etkili bir şekilde gizlemeyi öğrenebilir.