Adobe, HackerOne uzmanları tarafından denetlenen hata ödül programının kapsamını, üretken yapay zekanın (AI) gelişimini hesaba katacak şekilde genişletti ve güvenlik açıklarını keşfeden ve sorumlu bir şekilde ifşa eden etik bilgisayar korsanlarını ödüllendirdi Adobe Firefly, üretken yapay zeka platformu ve İçerik Kimlik Bilgileri hizmeti.
Kuruluş, üretken yapay zeka insanların günlük yaşamlarına daha yakından entegre oldukça, ortaya çıkan riskleri anlamanın ve azaltmanın giderek daha önemli hale geldiğini ve programını genişleterek ve güvenli, emniyetli ve güvenilir yapay zeka konusunda açık bir diyalogu teşvik ederek, bu konuda umutlu olduğunu söyledi. şeffaflık sunarken ve güveni artırırken yeni fikirleri ve bakış açılarını teşvik etmek.
Adobe’nin başkan yardımcısı, genel danışmanı ve güven sorumlusu Dana Rao, “Güvenlik araştırmacılarının becerileri ve uzmanlığı, güvenliği artırmada kritik bir rol oynuyor ve artık yanlış bilgilerin yayılmasıyla mücadeleye yardımcı olabilir” dedi.
Rao, “Önemli sorunları ön plana çıkarmak ve sorumlu yapay zeka çözümlerinin geliştirilmesini teşvik etmek amacıyla Adobe Firefly ve diğer amiral gemisi ürünlerdeki İçerik Kimlik Bilgileri uygulamamızı güçlendirmeye yardımcı olmak için daha geniş bir sektörle çalışmaya kararlıyız” dedi.
Mart 2023’te piyasaya sürülen ve Sensei platformunda geliştirilen Adobe Firefly, Creative Commons, Wikimedia ve Flickr Commons’ın yanı sıra Adobe Stock ve diğer görsellerden milyonlarca görüntü üzerinde eğitilmiş, tasarımcılara yönelik bir üretken yapay zeka modelleri ailesidir. kamu alanı.
Adobe, hizmeti hata ödülü avcılarına açmak için bilgisayar korsanlarının Büyük Dil Modelleri (LLM) için OWASP İlk 10 listesine özellikle dikkat etmelerini, hızlı ekleme, hassas bilgilerin ifşa edilmesi veya eğitim verilerinin zehirlenmesinden kaynaklanan sorunlara bakarak güvenlik açıklarını tespit etmelerini istiyor. Ateşböceği
Genişletmenin İçerik Kimlik Bilgilerini kapsayan ikinci bölümünün, Firefly kullanılarak oluşturulan öğelerin kaynağı konusunda daha fazla şeffaflık sağlanmasına yardımcı olacağı iddia ediliyor. Bunlar, C2PA açık standardı üzerine inşa edilmiştir ve bunların oluşturulması ve düzenlenmesiyle ilgili, kurcalanmaya açık meta veriler olarak hizmet eder. İçerik Kimlik Bilgileri, Firefly’ın yanı sıra Photoshop ve Lightroom da dahil olmak üzere bir dizi Adobe ürününe de entegre edilmiştir.
“Güvenli ve emniyetli yapay zeka ürünleri oluşturmak, bu teknolojinin riskleri hakkında en fazla bilgi sahibi olan uzmanların katılımıyla başlar. HackerOne kıdemli çözüm mimarı Dane Sherrets, küresel etik hacker topluluğu, kuruluşların yalnızca üretken yapay zekadaki zayıflıkları tespit etmelerine değil aynı zamanda bu risklerin ne olduğunu tanımlamalarına da yardımcı oluyor. “Toplulukla proaktif bir şekilde etkileşimde bulunduğu için Adobe’yi takdir ediyoruz; sorumlu yapay zeka, sorumlu ürün sahipleriyle başlar.”
Kaputun altına bakmak isteyen etik bilgisayar korsanları, Adobe’nin özel HackerOne sayfasında daha fazla bilgi bulabilir veya özel hata ödül programına katılmak istiyorlarsa buradan başvurabilirler.
Adobe, 4 ve 5 Mayıs hafta sonu BSides San Francisco’ya giden siber profesyoneller için Bug Bounty Village’da da hazır bulunacak ve dansçıların “teknolojinin yorumlayıcı bir öyküsünü dokuyacakları” distopik” bir Cumartesi gecesi partisine sponsor olacak. etik mücadeleler”.
Adobe, hata ödül programları yoluyla üretken yapay zekanın risklerini ele almak için adımlar atan, aralarında hata ödül programını genişleten Google’ın da bulunduğu, üretken yapay zeka tedarikine özel saldırı senaryolarını kapsayacak şekilde Güvenlik Açığı Ödül Programı’nın (VRP) da aralarında bulunduğu, giderek artan sayıda teknoloji firmasına katılıyor Ekim 2023’te zincir.