Yapay Zeka ve Makine Öğrenmesi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Hacker, Yeni Yapay Zeka Kullanım Örnekleri İçin Tasarımlardaki Verilere Yetkisiz Erişim Sağladı
Rashmi Ramesh (raşmiramesh_) •
5 Temmuz 2024
Geçtiğimiz yıl bir bilgisayar korsanının, şirketin iç mesajlaşma sistemlerine girerek OpenAI’nin yeni teknolojilerine ilişkin bilgileri çaldığı bildiriliyor.
Ayrıca bakınız: Güvenlik Stratejinizdeki Boşlukları Kapatın
New York Times, isimsiz kaynaklara atıfta bulunarak, geçen yıl nisan ayında şirket genelinde yapılan bir toplantının mesajlarında çalışanların yeni yapay zeka teknolojilerinin ayrıntılarını tartıştığını bildirdi. Hacker, uygulamalarını barındıran veya oluşturan sistemlere erişmedi.
OpenAI yorum talebine yanıt vermedi.
Şirket, müşteri bilgilerinin çalınmadığına inandığı için ihlali federal kolluk kuvvetlerine bildirmedi veya haberi kamuoyuna açıklamadı. Olayı ulusal güvenlik tehdidi olarak görmedi ve bilgisayar korsanını ulus-devlet saldırganlarıyla hiçbir bağlantısı olmayan özel bir birey olarak değerlendirdi.
Tüm çalışanların açıklamadan memnun olmadığı bildirildi. Olay, OpenAI’nin siber güvenlik konusundaki ciddiyeti ve bunun eksikliğinin Çin gibi rakip ülkelerin potansiyel olarak AI bilgilerini çalmasına yol açması konusunda endişelere yol açtı.
OpenAI, Mayıs ayında, yapay zeka hizmetlerini “aldatıcı faaliyetler” için kullanmaya çalışan Çin ve Rusya’ya ait olanlar da dahil olmak üzere beş gizli etki operasyonunu engellediğini duyurdu (bkz: OpenAI, AI Tarafından Dağıtılan Etki Operasyonlarını Bozuyor.)
Gelecekteki AI teknolojisinin ciddi bir zarara yol açmamasını sağlamayı amaçlayan bir OpenAI teknik program yöneticisi olan Leopold Aschenbrenner’in, ihlalden sonra şirketin yönetim kuruluna bir not göndererek şirketin Çin hükümeti gibi rakiplerden verilerini korumak için yeterli çaba göstermediğini savunduğu bildirildi. Bir tehdit aktörü şirketin sistemlerini ihlal ederse, OpenAI’nin güvenliğinin hırsızlığa karşı korumak için yeterince güçlü olmadığını da sözlerine ekledi.
OpenAI’nin, eski çalışanın işten çıkarılmasının siyasi amaçlı olduğunu iddia etmesiyle, bilgi sızdırdığı için Aschenbrenner’ı işten çıkardığı iddia edildi. Şirket iddiaları reddetti ve OpenAI’den bir sözcü gazeteye “güvenli AGI inşa etme konusundaki kararlılığını paylaştığını” söyledi ancak “güvenliğimizin karakterizasyonları, özellikle de şirkete katılmadan önce yönetim kurulumuzla ele aldığımız ve paylaştığımız bu olay” hakkındaki iddialara katılmadı.