Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Eleştirmenler, kamu yararı şirket modelinin AI güvenliğini ve gözetimini zayıflatabileceğini söylüyor
Michael Novinson (Michaelnovinson) •
5 Mayıs 2025
Şirket yöneticileri Pazartesi günü yaptığı açıklamada, Openai’nin kâr amacı gütmeyen kolunu, tam yatırım potansiyelinin kilidini açarken görev hizalamasını sürdürmek için bir kamu yararı şirketine geçireceğini açıkladı.
Ayrıca bakınız: Cenai Risk Yönetimi için C-Suite Kılavuzu
San Francisco merkezli yapay zeka araştırma behemoth’u hala kar amacı gütmeyen kuruluşları tarafından kontrol edilecekken, bir kamu yararı şirketine geçiş, Openai Sosyal Etkisini Antropik, X.Ai ve Patagonia gibi diğer kuruluşlara benzer şekilde dengelemeye yardımcı olacaktır. CEO Sam Altman, yeniden yapılanmanın Openai’nin araçlarının sadece Silikon Vadisi’ne en yakın veya en yakın olanları ödeyebilenlere değil, herkese ulaşmasına yardımcı olacağını söyledi.
Altman Pazartesi günü, “Herkesin eline inanılmaz araçlar koymak istiyoruz.” Diyerek şöyle devam etti: “Araçlarımızla yarattıkları şeyden ve bunları ne kadar kullanmak istediklerinden şaşkına dönüyoruz. Çok yetenekli modeller açmak istiyoruz. Kullanıcılarımıza her zaman aynı ahlaki çerçeveyi paylaşmasak bile, araçlarımızı geniş sınırlar içinde kullanmalarına nasıl izin verdiğimiz konusunda büyük bir özgürlük vermek istiyoruz.”
Altman, yeni kurumsal yönetişim modellerinin Openai’nin “karmaşık sınırlı karlı yapısının” yerini alacağını, çalışanlara ve yatırımcılara hisse vereceğini, ancak kar amacı gütmeyen kuruluş aracılığıyla stratejik gözetim elde edeceğini söyledi.
Eleştirmenler, Openai’nin kar amacı gütmeyen bir PBC yapısına geçişinin – özellikle 40 milyar dolarlık yatırımla desteklenen – orijinal hayırsever vakfı baltalayan bir zekanın metalaşmasını temsil ettiğine inanıyor. Nisan ayında düzenleyicilere yazdığı bir mektupta, eleştirmenler ve eski Openai personeli, Openai’nin insanlığa hizmet etme misyonunun finansal getiri sağlama teşvikleriyle bir arada olamayacağını savundu (bkz:: AI uzmanları düzenleyicileri Openai’nin kâr pivotunu engellemeye teşvik ediyor).
Kaliforniya Başsavcısı Rob Bonta ve Delaware Başsavcısı Kathleen Jennings’e yazdılar. Diyerek şöyle devam etti: “Bu yapı, bu güçlerin hayırsever amacını ezmesine izin vermeden piyasa güçlerini kullanmak için tasarlanmıştır.”
Kamu yararı şirketleri gerekli korumaları sağlıyor mu?
Openai’nin kar amacı gütmeyen kuruluşu, Altman’ın kuruluşun bağımsızlığını ve değerlerini koruyacağını ve Openai’nin küresel AGI gelişimini desteklemek için gereken ölçekte faaliyet göstermesine izin vereceğini söyledi. Altman ve Başkan Bret Taylor, Openai’nin mevcut “sınırlı karlı” sisteminin farklı, daha az rekabetçi bir AGI manzarası için tasarlandığını söyledi.
Taylor Pazartesi günü Openai’nin web sitesinde, “Kâr amacı gütmeyen kuruluş, PBC’nin büyük bir hissedarını kontrol edecek ve aynı zamanda birçok faydayı desteklemek için kâr amacı gütmeyen kuruluşlara daha iyi kaynaklar sağlayacak.” Diyerek şöyle devam etti: “Misyonumuz aynı kalıyor ve PBC aynı göreve sahip olacak. Kâr amacı gütmeyen kuruluşun sivil liderlerden haber aldıktan ve yapıcı diyalogda bulunduktan sonra Openai’nin kontrolünü tutma kararını verdik.”
Delaware’in PBC yasası, şirketleri kamu yararı hedeflerini nasıl yerine getirdiklerini kamuoyuna bildirmeye zorlamıyor, bu da eleştirmenlerin hiçbir hesap verebilirlik mekanizması olmadan misyon sürüklenmesinin kapısını açtığını söylüyor. Bağımsız kurulun bağımsız kurulunun ve katı getiri sınırlarını, geleneksel stok tabanlı bir kar amacı gütmeyen modelle değiştirmek çıkar çatışmaları yaratır ve tarafsız yönetişimden ödün verebilir (bkz:: Güvenlik endişeleri, Openai’nin kar amacı gütmeyen planına karşı geri dönüş).
Kâr amacı gütmeyen kuruluş, “Kamu yararı, güvenlik odaklı, görev kısıtlı bir kar amacı gütmeyen kuruluştan, herhangi bir fiyata bu kadar dönüştürücü bir şey üzerinde, güvenliğe uygulanabilir bir taahhüt olmadan bu kadar dönüştürücü bir şey üzerinde zarar görecektir.”
Altman, Openai’nin yapısındaki evrimin kuruluşun, AI’nın hizalama araştırması gibi alanlarda hızlı ilerlemesine, model spesifikasyon gibi şeffaflık girişimlerine ve potansiyel zararları yönetmek için kırmızı takım gibi süreçler gibi hızlandırmaya izin vermek için gereken güvenlik girişimlerini finanse etmesine izin vereceğini söyledi. Altman, şirket çapında güvenlik ve güvenlik kararlarını denetlemek için yeni bir iç komite kurulduğunu söyledi.
Altman, Pazartesi günü Openai çalışanlarına bir mektupta “Yapay zeka hızlandıkça, güvenliğe olan bağlılığımız güçleniyor.” Diyerek şöyle devam etti: “Demokratik yapay zekanın otoriter yapay zeka üzerinde kazandığından emin olmak istiyoruz.”
Devam eden karlı yapı Openai’nin bağımsızlığına zarar verecek mi?
Eski Openai araştırmacısı Jan Leike, Openai’nin “güvenlik kültürü ve süreçlerinin parlak ürünlere arka koltuk aldığını” ve süper hizalama ekibinin dağılmasının kısa vadeli ürün başarısının uzun vadeli güvenlik üzerinden öncelik verildiğinin kanıtı olarak görüldüğünü söyledi.
Openai’nin yatırımcılara olan güvene dayalı yükümlülüklerinin uzun vadeli varoluşsal risk azaltılmasına odaklanacağı konusunda endişe duyuyor.
Encode, Aralık ayında yazdı, “Dünya gerçekten yeni bir yapay genel istihbarat çağının zirvesindeyse, halkın bu teknolojinin, birkaç ayrıcalıklı yatırımcı için finansal getiri üretmeye odaklanan bir kuruluş yerine yasal olarak güvenliği ve kamu yararı için önceliğe bağlı bir kamu yardım kuruluşunun kontrol edilmesine derin bir ilgisi var.”
Altman, AGI’yi dünyaya getirmek için gereken hesaplama, altyapı ve dağıtım ölçeği, geleneksel kar amacı gütmeyen bağış toplama erişiminin ötesinde olduğundan, gelecekteki fonlarda trilyonların kilidini açmak için bir kamu yararı şirketine geçişin gerekli olduğunu söyledi. Bir PBC’ye geçiş, Openai’nin uzun vadeli ilerleme sağlayan ve kuruluşun talebi karşılamasını sağlayan daha sürdürülebilir bir sermaye stratejisi benimsemesine izin vereceğini söyledi.
Altman, Pazartesi günü Openai çalışanlarına, “Mevcut karmaşık karmaşık karesi yapımız yerine – baskın bir AGI çabası olabilir, ancak birçok büyük AGI şirketinin dünyasında değil, herkesin stok olduğu normal bir sermaye yapısına geçiyoruz.” “Bu bir satış değil, yapının daha basit bir şeye dönüşmesi.”
SoftBank’ın Openai’ye 30 milyar dolarlık yatırımı, eleştirmenlerin yatırımcının görev ihtiyaçlarından ziyade taleplerinin bu geçişi yönlendirdiğine dair kanıt olarak gördüğü kar amacı gütmeyen bir modele geçişe bağlıdır. Openai’nin kamu yararına olan bağlılığının, şirket şimdi değerleme sıralamasında bayta ve uzay ile birlikte oturduğunda giderek daha sembolik olduğunu savunuyorlar.
Openai’nin kar amacı gütmeyen bir şirket olarak faaliyet göstermesine izin verildiyse, Aralık ayında örgütün “insanlığa yönelik güvene dayalı görevin buharlaşacağını söyledi, çünkü Delaware yasası PBC’nin yöneticilerinin halka hiçbir görev borçlu olmadığı açıktır.”