Yapay Zeka ve Makine Öğrenmesi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
OpenAI Kâr Amacı Güden Bir Şirket Olmayı Hedefliyor
Rashmi Ramesh (raşmiramesh_) •
26 Eylül 2024
Çarşamba günü, yapay zeka devinin kendisini kar amacı güden bir kuruluşa dönüştürmeyi hedeflediği bir dönemde, üç yöneticinin şirketten ayrılmasının ardından OpenAI’nin üst düzey kadrolarında daha fazla karışıklık yaşandı.
Ayrıca bakınız: Gelecek şimdi: AI ile SIEM’inizi rekor sürede taşıyın
CEO Sam Altman, CTO Mira Murati’nin istifasının ardından Çarşamba günü Baş Araştırma Sorumlusu Bob McGrew ve Araştırma Başkan Yardımcısı Barret Zoph’un görevlerinden ayrıldıklarını duyurdu.
Altman, “Mira, Bob ve Barrett bu kararları birbirlerinden bağımsız ve dostça aldılar” dedi ve “yeni nesil liderliğe sorunsuz bir devretme” için tüm ekibin aynı anda yeniden düzenlenmesinin “mantıklı” olduğunu sözlerine ekledi.
McGrew, 2017’de OpenAI’ye teknik personel üyesi olarak katıldı, sonraki yıl araştırma başkan yardımcısı oldu ve daha sonra baş araştırma görevlisi oldu. Sosyal medyada yaptığı bir paylaşımda, “bir mola verme zamanım geldi” dedi ve OpenAI’nin kod adı Strawberry olan son modelini yayınlamaktan daha iyi bir çalışma “bitiricisinin” olmadığını ekledi.
Zoph, 2022’den beri AI modellerini OpenAI’nin müşteri odaklı ürünlerine dağıtılmadan önce eğiten ekibi yönetiyor. X’te ayrılışın “yeni fırsatları keşfetmek için doğal bir nokta” olduğunu söyledi. “Bu, kariyerimin bir sonraki aşamasında nasıl evrimleşmek istediğime dayalı kişisel bir karar,” dedi.
Murati’nin altı buçuk yıllık rolünü bırakma konusundaki “zor kararını” açıklaması McGrew ve Zoph’un açıklamasından saatler önce geldi. “Birinin değer verdiği bir yerden uzaklaşmak için asla ideal bir zaman yoktur, ancak bu an doğru hissettiriyor,” dedi. Altman, onun tweet’ine yanıt olarak Murati’ye teşekkür etti ve “bundan sonra ne yapacağını merak ettiğini” ekledi.
Altman, liderlik değişimlerinin şirketlerin doğal bir parçası olduğunu, özellikle de “bu kadar hızlı büyüyen ve bu kadar talepkar” olanların. “Elbette bunun bu kadar ani olmasının doğal olduğunu iddia etmeyeceğim, ancak biz normal bir şirket değiliz ve Mira’nın bana açıkladığı nedenlerin (asla iyi bir zaman olmaz, ani olmayan her şey sızdırılırdı ve bunu OpenAI yükselişteyken yapmak istedi) mantıklı olduğunu düşünüyorum.”
Ayrılışlar, OpenAI’nin kar amacı gütmeyen bir şirket olmaktan kar amacı güden bir şirkete dönüştüğü ve Altman’ın %7’lik bir hisse senedi almaya hazırlandığı bildirilen bir ortamda gerçekleşiyor. Kar amacı gütmeyen kuruluşun varlığını sürdüreceği ve kar amacı güden şirkette azınlık hissesine sahip olacağı bildiriliyor. Yeni yapı ayrıca şirketin AI risklerine nasıl öncelik vereceğini ve bunları nasıl ele alacağını da etkileyebilir.
Yapay zeka devinin, 150 milyar dolarlık bir değerlemeyle 6,5 milyar dolar topladığı ve bunun muhtemelen tüm zamanların en büyük risk sermayesi yatırım turu olduğu bildirildi.
OpenAI kâr amacı gütmeyen bir kuruluş olarak kuruldu ancak hızla büyüyen bir ticari işletmeyi kontrol ediyor. Eleştirmenler, OpenAI’nin güvenlikten çok kârı önceliklendirdiğini söyledi. Şirketin, çalışanların yetersiz güvenlik testleri konusundaki endişelerine rağmen, ChatGPT’yi destekleyen bir AI modelinin piyasaya sürülmesini hızlandırdığı bildirildi; bu, Beyaz Saray’a teknolojisinin kötüye kullanılamayacağından emin olmak için yeni sürümleri titizlikle güvenlik testinden geçirme sözü vermesinden sadece birkaç ay sonraydı. Şirket, AI sistemlerinin kontrolden çıkmasını önlemeye adanmış “süper hizalama” güvenlik ekibini dağıttıktan sonra, Mayıs ayında tüm projeleri için “kritik” güvenlik ve emniyet kararları almak üzere bir komite bile kurdu (bkz: OpenAI, ‘Felaket Risklerini’ Azaltmak İçin Çerçeve Oluşturuyor).
Altman ayrıca X paylaşımında yeni atamaları da duyurdu.
Araştırma Başkan Yardımcısı Mark Chen, araştırma kıdemli başkan yardımcısı rolünü üstlenecek ve baş bilim insanı olarak Jakub Pachocki ile araştırma koluna başkanlık edecek. Eski güvenlik başkanı Matt Knight artık CISO ve araştırma bilim insanı Josh Achiam, “görevde başarılı olmak için tüm parçaları ve kültürü doğru bir şekilde elde ettiğimizden emin olmak” için görev uyumunun başkanı olacak.
Şirketin teknolojilerini kurumsal ve tüketici müşterilerine dağıtan uygulama ekibinin başında Ürün Sorumlusu Kevin Weil ve Mühendislik Başkan Yardımcısı Srinivas Narayanan yer almaya devam edecek.
Hepsi doğrudan Altman’a rapor verecek.
“Geçtiğimiz yıl boyunca zamanımın çoğunu organizasyonumuzun teknik olmayan kısımlarına harcadım; şimdi zamanımın çoğunu şirketin teknik ve ürün kısımlarına harcamayı dört gözle bekliyorum” dedi.
McGrew, Zoph ve Murati’nin ayrılışları, süper hizalama güvenlik ekibinin liderlerinin ayrılışlarını takip ediyor – OpenAI kurucu ortağı İlya Sutskever ve Jan Leike – güvenliğe yaklaşım konusunda fikir ayrılıkları nedeniyle şirketten istifa etti, aynı şekilde politika araştırmacısı Gretchen Krueger de istifa etti.
Hem Sutskever hem de Leike, şirketin ve teknolojinin karşı karşıya olduğu uzun vadeli güvenlik risklerini ele almak için çalıştı ve Leike, sosyal medyada yaptığı bir paylaşımda OpenAI’nin süper hizalama güvenlik ekibine verdiği desteğin eksikliğini eleştirdi. Leike, “Geçtiğimiz yıllarda, güvenlik kültürü ve süreçleri parlak ürünlere göre ikinci planda kaldı,” dedi. Sutskever ve şirketin geçici CEO’su olan Murati’nin, Kasım ayında Sam Altman’ı OpenAI’den uzaklaştıran ve beş gün sonra CEO olarak yeniden göreve başlamasını sağlayan yönetim kurulu üyeleri arasında olduğu bildirildi. Krueger, diğer iki meslektaşından birkaç saat önce istifa etmeye karar verdiğini, çünkü onların güvenlik endişelerini paylaştığını söyledi.
Araştırmacı bilim insanı Andrej Karpathy de Şubat ayında şirketten ayrıldı. söyleyerek “hiçbir şey olmadı”, kurucu ortak John Schulman ise geçen ay rakip Anthropic’e katılmak üzere şirketten ayrıldı. OpenAI Başkanı Greg Brockman söz konusu yıl sonuna kadar izinliydi.
OpenAI’nin 2015 yılındaki lansmanında 13 kurucu ekip üyesinden şirkette sadece üçü kaldı.