Konuya aşina iki kişinin söylediğine göre, OpenAI CEO’su Sam Altman’ın sürgündeki dört günü öncesinde birkaç araştırmacı, yönetim kuruluna, insanlığı tehdit edebileceğini söyledikleri güçlü bir yapay zeka keşfi konusunda uyarıda bulunan bir mektup yazdı. Reuters.
İki kaynak, daha önce bildirilmeyen mektubun ve yapay zeka algoritmasının, yönetim kurulunun üretken yapay zekanın poster çocuğu olan Altman’ı görevden almasından önceki önemli gelişmeler olduğunu söyledi.
Salı günü sonundaki muzaffer dönüşünden önce, 700’den fazla çalışan istifa edip, kovulan liderleriyle dayanışma amacıyla destekçisi Microsoft’a katılmakla tehdit etmişti.
Kaynaklar mektubu, yönetim kurulunun Altman’ın kovulmasına yol açan uzun şikayet listesindeki faktörlerden biri olarak gösterdi; bunların arasında, sonuçların anlaşılmasından önce ilerlemelerin ticarileştirilmesine ilişkin endişeler de vardı.
Reuters mektubun bir kopyasını inceleyemedi. Mektubu yazan personel yorum taleplerine yanıt vermedi.
ile iletişime geçtikten sonra ReutersKaynaklardan biri, yorum yapmayı reddeden OpenAI’nin, personele yönelik dahili bir mesajla Q* adlı bir projeyi ve hafta sonu etkinliklerinden önce yönetim kuruluna gönderilen bir mektubu bildirdiğini söyledi.
Bir OpenAI sözcüsü, uzun süredir yönetici olan Mira Murati tarafından gönderilen mesajın, çalışanları belirli medya hikayeleri konusunda uyardığını, bunların doğruluğu hakkında yorumda bulunmadığını söyledi.
OpenAI’deki bazı kişiler, Q*’un (Q-Star olarak telaffuz edilir) girişimin yapay genel zeka (AGI) olarak bilinen şeyin arayışında bir atılım olabileceğine inandığını söyledi. Reuters.
OpenAI, AGI’yi ekonomik açıdan en değerli görevlerde insanları geride bırakan otonom sistemler olarak tanımlıyor.
Adının açıklanmaması kaydıyla, kişi, geniş bilgi işlem kaynakları göz önüne alındığında, yeni modelin belirli matematik problemlerini çözebildiğini, çünkü kişinin şirket adına konuşma yetkisine sahip olmadığını söyledi.
Kaynak, yalnızca ilkokul öğrencileri düzeyinde matematik yapmalarına rağmen, bu tür testlerde başarılı olmanın araştırmacıları Q*’nun gelecekteki başarısı konusunda oldukça iyimser hale getirdiğini söyledi.
Reuters araştırmacılar tarafından iddia edilen Q* yeteneklerini bağımsız olarak doğrulayamadı.
Araştırmacılar matematiğin üretken yapay zeka gelişiminin bir sınırı olduğunu düşünüyor. Şu anda üretken yapay zeka, bir sonraki kelimeyi istatistiksel olarak tahmin ederek yazma ve dil çevirisi yapma konusunda başarılıdır ve aynı sorunun yanıtları büyük ölçüde farklılık gösterebilir.
Ancak tek bir doğru cevabın olduğu matematik yapma yeteneğini kazanmak, yapay zekanın insan zekasına benzer şekilde daha büyük muhakeme yeteneklerine sahip olacağı anlamına gelir. Yapay zeka araştırmacıları bunun yeni bilimsel araştırmalara uygulanabileceğine inanıyor.
AGI, sınırlı sayıda işlemi çözebilen bir hesap makinesinin aksine genelleme yapabilir, öğrenebilir ve kavrayabilir.
Kaynaklar, mektupta belirtilen güvenlik endişelerini tam olarak belirtmeden, araştırmacıların kurula yazdıkları mektupta yapay zekanın becerisini ve potansiyel tehlikesini işaretlediklerini söyledi.
Bilgisayar bilimcileri arasında, son derece akıllı makinelerin oluşturduğu tehlike hakkında, örneğin insanlığın yok edilmesinin kendi çıkarlarına olduğuna karar verip veremeyecekleri konusunda uzun zamandır bir tartışma var.
Araştırmacılar aynı zamanda birden fazla kaynağın varlığını doğruladığı bir “Yapay Zeka Bilim Adamı” ekibinin çalışmalarını da işaretlediler.
Kaynaklardan biri, daha önceki “Code Gen” ve “Math Gen” ekiplerini birleştirerek oluşturulan grubun, akıl yürütmelerini geliştirmek ve sonunda bilimsel çalışmalar gerçekleştirmek için mevcut yapay zeka modellerini nasıl optimize edeceklerini araştırdığını söyledi.
Altman, ChatGPT’yi tarihteki en hızlı büyüyen yazılım uygulamalarından biri haline getirme çabalarına öncülük etti ve AGI’ye yaklaşmak için Microsoft’tan gerekli yatırımları ve bilgi işlem kaynaklarını çekti.
Altman, bu ayki bir gösteride bir takım yeni araçları duyurmanın yanı sıra, geçen hafta San Francisco’daki dünya liderleri zirvesinde büyük ilerlemelerin ufukta olduğuna inandığını söyledi.
“OpenAI tarihinde dört kez, en sonuncusu sadece son birkaç hafta içindeydi; cehalet perdesini bir nevi geriye itip keşif sınırını ileriye doğru ittiğimizde odada bulunma fırsatı buldum ve Bunu başarmak bir ömür boyu mesleki bir onurdur” dedi Asya-Pasifik Ekonomik İşbirliği zirvesinde.
Bir gün sonra kurul Altman’ı kovdu.