Openai, büyük bir hata ödül programı artışı ve yeni AI güvenlik araştırma hibeleri ile güvenliğe öncelik veriyor. AI platformlarını ortaya çıkan tehditlerden korumak için araştırmacılar ve uzmanlarla nasıl işbirliği yaptıklarını öğrenin
Openai, güvenlik girişimlerini hibe programları, hata ödülleri ve iç savunmalar arasındaki güvenlik girişimlerini genişleterek güvenlik altyapısını geliştiriyor.
En son Blog yazısıOpenai, yapay genel zekaya (AGI) doğru cesur bir itme işaret ederek bir dizi yeni siber güvenlik girişimini tanıttı. Bu stratejik hareketin önemli bir unsuru, hata ödül programı aracılığıyla sunulan maksimum ödülde önemli bir artıştır ve şimdi eleştirel bulgular için 100.000 dolara ulaşmıştır.
Daha önce olduğu gibi bildirilmiş Hackread.com tarafından Openai, BugCrowd ile ortaklaşa Nisan 2023’te Bug Bounty programını başlattı. Bu program başlangıçta odaklandı Kusur bulmak Chatgpt AI Chatbot’ta güvenliğini ve güvenilirliğini artırmak için, ödüller düşük şiddetli bulgular için 200 $ ‘dan başlıyor ve olağanüstü keşifler için 20.000 $’ a ulaşıyor.
Şimdi Openai, bu programın maksimum ödemenin 20.000 dolardan 100.000 dolara yükselmesiyle önemli bir revizyon olduğunu ve programın kapsamı önemli ölçüde genişletildiğini doğruladı, Openai devletleri, kullanıcıların sistemlerine güvenini sağlama taahhüdünü yansıtıyor.
Şirket, “Bu artış, kullanıcıları korumamıza ve sistemlerimize olan güveni korumamıza yardımcı olan anlamlı, yüksek etkili güvenlik araştırmalarını ödüllendirme taahhüdümüzü yansıtıyor” dedi.
Katılımı daha da teşvik etmek için Openai, ilki Idor erişim kontrol güvenlik açıklarına odaklanarak sınırlı süreli bonus promosyonları sunuyor. 26 Mart – 30 Nisan 2025 arasında süren bu promosyon, bu tür güvenlik açıkları için temel ödül aralığını da artırıyor.
Şirket ayrıca, hem hücum hem de savunma güvenlik stratejilerine odaklanmış 28 araştırma projesini finanse eden siber güvenlik hibe programını genişletmeyi planlıyor. Bu projeler otonom siber güvenlik savunmaları, güvenli kod üretimi ve hızlı enjeksiyon gibi alanları araştırmıştır. Hibe programı şimdi beş yeni araştırma alanı için teklifler arıyor: yazılım yaması, model gizliliği, tespit ve yanıt, güvenlik entegrasyonu ve ajanik AI güvenliği.
Openai ayrıca, yenilikçi siber güvenlik fikirlerinin hızlı prototiplenmesini kolaylaştırmak için API kredileri şeklinde mikrograntlar tanıtıyor. Ayrıca, açık kaynaklı yazılım kodundaki güvenlik açıklarını belirlemek için akademik, hükümet ve ticari laboratuvarlardan uzmanlarla işbirliği yaparak açık kaynaklı güvenlik araştırmalarına girmeyi planlamaktadır.
Bu değişim, Openai’nin AI modellerinin güvenlik kusurlarını bulma ve yama yeteneğini geliştirmeyi amaçlamaktadır. Şirket, güvenlik açıkları keşfedildikçe, ilgili açık kaynaklı taraflara güvenlik açıklamaları yayınlamayı planlamaktadır.
Ayrıca Openai, gerçek zamanlı tehdit algılamasını ve yanıtını geliştirmek için kendi AI modellerini güvenlik altyapısına entegre ediyor. Savunmalarını güçlendirmek için şirket, bir siber güvenlik firması olan Specterops ile yeni bir kırmızı takım ortaklığı kurdu. Bu işbirliği, zahmetli, simüle edilmiş saldırıları içerecektir. Openai’nin altyapısıkurumsal, bulut ve üretim ortamları dahil.
Openai’nin kullanıcı tabanı genişledikçe, şu anda haftalık 400 milyondan fazla aktif kullanıcıya hizmet veren şirket, kullanıcı verilerini ve sistemlerini koruma sorumluluğunu kabul ediyor. Gelişmiş AI ajanları geliştirmeye odaklanırken, şirket aynı zamanda bu teknolojilerle ilişkili benzersiz güvenlik zorluklarını ele almaktadır. Bu, hızlı enjeksiyon saldırılarına karşı savunmayı, gelişmiş erişim kontrollerinin uygulanmasını, kapsamlı güvenlik izleme ve kriptografik korumaları, güvenli ve güvenilir bir yapay zeka oluşturmaya olan bağlılıklarını güçlendirmeyi içerir.