OpenAI, şu anda ChatGPT chatbot’una güç veren GPT-4 sisteminin yerini alması amaçlanan yeni bir yapay zeka modelini eğitmeye başlarken yeni bir emniyet ve güvenlik komitesini duyurdu.
San Francisco merkezli girişim, Salı günü bir blog yazısında bu komitenin kurulduğunu duyurdu ve bu komitenin OpenAI’nin projeleri ve operasyonlarıyla ilgili önemli emniyet ve güvenlik kararları konusunda yönetim kuruluna tavsiyelerde bulunma rolünü vurguladı.
Bu komitenin oluşturulması, OpenAI’de yapay zeka güvenliğine ilişkin devam eden tartışmaların ortasında gerçekleşti. Şirket, araştırmacı Jan Leike’nin istifa etmesi ve OpenAI’yi ürün geliştirmeye güvenlikten daha fazla öncelik vermesi nedeniyle eleştirmesinin ardından incelemeyle karşı karşıya kaldı. Bunun ardından kurucu ortak ve baş bilim insanı Ilya Sutskever de istifa etti ve bu durum kendisinin ve Leike’nin birlikte liderliğini yaptığı ve yapay zeka risklerini ele almaya odaklanan “süper hizalama” ekibinin dağılmasına yol açtı.
Bu tartışmalara rağmen OpenAI, yapay zeka modellerinin hem yetenek hem de güvenlik açısından sektör lideri olduğunu vurguladı. Şirket, bu kritik dönemde güçlü tartışmalara açık olduğunu ifade etti.
OpenAI’nin Emniyet ve Güvenlik Komitesi Oluşumu ve Sorumlulukları
Güvenlik komitesi, aralarında OpenAI CEO’su Sam Altman, Başkan Bret Taylor ve dört OpenAI teknik ve politika uzmanının da bulunduğu şirket içinden kişilerden oluşuyor. Ayrıca Quora CEO’su yönetim kurulu üyeleri Adam D’Angelo ve Sony’nin eski genel danışmanı Nicole Seligman da yer alıyor.
“Emniyet ve Güvenlik Komitesinin ilk görevi, önümüzdeki 90 gün boyunca OpenAI’nin süreçlerini ve korumalarını değerlendirmek ve daha da geliştirmek olacak.”
Komitenin ilk görevi OpenAI’nin mevcut süreçlerini ve korumalarını değerlendirmek ve daha da geliştirmektir. 90 gün içinde kurul’a önerilerde bulunmaları bekleniyor. OpenAI, benimsediği önerileri emniyet ve güvenlik hususlarıyla uyumlu bir şekilde kamuya açıklamayı taahhüt etmiştir.
Emniyet ve güvenlik komitesinin kurulması, OpenAI’nin yapay zeka güvenliğiyle ilgili endişeleri gidermek ve yapay zeka inovasyonundaki liderliğini sürdürmek için attığı önemli bir adımdır. OpenAI, çeşitli uzmanlardan ve paydaşlardan oluşan bir grubu karar alma sürecine entegre ederek, en son yapay zeka teknolojilerini geliştirmeye devam ederken emniyet ve güvenliğin en üst seviyede kalmasını sağlamayı amaçlıyor.
Yeni Yapay Zeka Modelinin Geliştirilmesi
OpenAI ayrıca yakın zamanda “sınır modeli” olarak tanımlanan yeni bir yapay zeka modelinin eğitimine başladığını da duyurdu. Bu sınır modelleri, kapsamlı veri kümelerine dayalı olarak metin, resim, video ve insan benzeri konuşmalar üretebilen en gelişmiş yapay zeka sistemlerini temsil ediyor.
Şirket yakın zamanda OpenAI tarafından tasarlanan çok dilli, çok modlu, üretken, önceden eğitilmiş bir transformatör olan en yeni amiral gemisi modeli GPT-4o’yu (‘o’ omni anlamına gelir) piyasaya sürdü.
OpenAI’nin CTO’su Mira Murati tarafından 13 Mayıs’ta canlı yayınlanan bir demo sırasında duyuruldu ve aynı gün yayınlandı. GPT-4o ücretsizdir ancak ChatGPT Plus aboneleri için beş kat daha yüksek bir kullanım sınırına sahiptir. GPT-4o, 128.000’e kadar jetonu destekleyen bir bağlam penceresine sahiptir; bu, daha uzun konuşmalar veya belgeler üzerinde tutarlılığın korunmasına yardımcı olarak onu ayrıntılı analiz için uygun hale getirir.
Medya Yasal Uyarısı: Bu rapor, çeşitli yollarla elde edilen iç ve dış araştırmalara dayanmaktadır. Sağlanan bilgiler yalnızca referans amaçlıdır ve bu bilgilere güvenme konusunda tüm sorumluluk kullanıcılara aittir. Cyber Express bu bilgilerin kullanılmasının doğruluğu veya sonuçları konusunda hiçbir sorumluluk kabul etmez.