Yapay Zeka ve Makine Öğrenimi , Yönetişim ve Risk Yönetimi , Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Mektubu İmzalayanlar, Yapay Zekanın Yapabileceği, Yapay Zekanın Yapması Gerektiği Anlamına Gelmediği İçin
Daha Fazla (AnvikshaDevamı) •
29 Mart 2023
Çok sayıda üst düzey teknoloji yöneticisi ve yapay zeka araştırmacısı, işe devam etmeden önce güvenlik protokolleri geliştirme zamanının geldiğini söyleyerek, gelişmiş yapay zeka sistemlerinde en az altı aylık bir ara verilmesi çağrısında bulundu.
Ayrıca bakınız: Web Semineri | SASE Mimarisi Uzaktan Çalışmayı Nasıl Sağlar?
Future of Life Enstitüsü tarafından koordine edilen 1.000’den fazla imza sahibi, yapay zeka laboratuvarlarını teknolojinin olumlu bir gelişme olmasını sağlamak için korkulukları dikkate almaya çağırdı. Mektup katılımcıları arasında Turing Ödülü sahibi Yoshua Bengio, California-Berkeley Üniversitesi bilgisayar bilimcisi Stuart Russell, Conjecture CEO’su Connor Leahy ve Stability AI CEO’su Emad Mostaque yer alıyor. Diğer imzacılar arasında Twitter CEO’su Elon Musk ve başarısız ABD başkanı ve New York belediye başkanı adayı Andrew Yang yer alıyor.
“Meli makinelerin bilgi kanallarımızı propaganda ve gerçek olmayan şeylerle doldurmasına izin mi vereceğiz? Tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştirmeli miyiz? Meli sonunda sayıca üstün olabilecek, zekâsı geçebilecek, modası geçmiş ve bizim yerimizi alabilecek insan olmayan zihinler geliştiriyor muyuz? Meli uygarlığımızın kontrolünü kaybetme riskini mi alıyoruz? Mektupta, bu tür kararlar seçilmemiş teknoloji liderlerine devredilmemeli” ifadesi yer alıyor.
İstediği moratoryum, ChatGPT yaratıcısı OpenAI tarafından geliştirilen en son doğal dil modu olan GPT-4’ten daha güçlü sistemler için geçerli olacaktır. GPT-4, görüntüleri içerikleri için analiz edebilir ve daha uzun konuşmalar ve uzun biçimli içerik oluşturma yeteneğine sahiptir. OpenAI ayrıca ChatGPT’den daha güvenli olduğunu söylüyor – “izin verilmeyen içerik” taleplerine yanıt verme olasılığı daha düşük ve olgusal hatalar yapmaya daha az eğilimli.
Teknoloji devleri, ürünlerine ChatGPT benzeri özellikleri en hızlı kimin dahil edebileceğini görmek için şimdiden bir yarışa girdi. Microsoft, OpenAI dil modellerini Bing arama motoruna ve Salı günü duyurulan Security Copilot adlı yeni bir ürüne dahil etti. Adobe bu ay görüntüler için bir AI modeli tanıttı ve Salesforce, satış ve pazarlama profesyonelleri için bir yapay zeka aracı başlattı.
Güvenlik araştırmacıları ve siber suçlular, OpenAI doğal dil modellerinin sınırlarını araştırmakta hızlı davrandılar ve ChatGPT’yi kötü amaçlı yazılım betikleri oluşturmak için ve GPT-3 modelini kimlik avı e-posta metinleri tasarlamak için kullanabileceklerini çabucak keşfettiler.
23 Mart’ta Microsoft destekli OpenAI açıkladı ChatGPT için eklentiler, üçüncü taraf uygulamalar aracılığıyla internetten gerçek zamanlı bilgilere erişmesine olanak tanır. Eklentiler şu anda sınırlı bir grupta test ediliyor ve kademeli olarak kullanıma sunulacak. OpenAI bir bekleme listesi tutacaktır.
Mektupta, “Son aylarda AI laboratuvarlarının, hiç kimsenin – yaratıcılarının bile – anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği daha güçlü dijital beyinler geliştirmek ve dağıtmak için kontrolden çıkmış bir yarışa kilitlendiğini gördük” diyor. “Güçlü yapay zeka sistemleri, yalnızca etkilerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir.”
The Wall Street Journal ile yaptığı bir röportajda OpenAI CEO’su Sam Altman, GPT-5’teki geliştirmelerin henüz başlamadığını söyledi.
Altman mektubu imzalayanlar için “Bir anlamda bu koroya vaaz veriyor” dedi. “Bence bu konuları en yüksek sesle, en yoğun şekilde ve en uzun süredir konuşuyoruz.”