Andrej Karpathy yakın zamanda Dwarkesh’in podcast’ine katıldı ve benim bazı düşüncelerim var.
Pek çok kişi, Karpathy’nin AGI’nin 10 yıl uzakta olduğunu düşündüğünü ve bu nedenle Gary Marcus’un haklı olduğunu söylüyor ve benim gibi insanlar, Sholto ve AGI’nin birkaç yıl içinde olduğunu söyleyen diğer insanlar savaşı yeni kaybettiler.
İlgi çekici ama o kadar basit değil.
Bunun gibi tartışmalar genellikle tanımlara dayanır ve Karpathy’nin kullandığı tanım OpenAI’ye geri döndüğü zamanlardan gelir:
Şu anda kullanılacak en iyi tanımın bu olduğunu düşünmüyorum.
Bence bu iyi saf tanım veya Bilgisayar Bilimi tanım, ancak tanımımızı daha çok insanlar için en önemli olan şeye (AI insanların aksine) odaklamamız gerektiğini düşünüyorum.
Karpathy ve Dwarkesh gibi ben de insan emeğinin değiştirilmesi konusunda endişeleniyorum. Özellikle insan bilgisi çalışması. İşte bu yüzden 2023’ten beri bu tanımı kullanıyorum:
Bana göre bu iki nedenden dolayı daha iyi:
- Bir yapay zeka olduğu gerçeğine odaklanıyor sistemve bir sistemin belirli bir bileşeni değil (bir model gibi)
- Önemsediğimiz şey için daha doğrudan bir kıyaslama sağlıyor; örneğin, şirketler bu sistemi gerçekten işçilerin yerine mi koyuyor? Evet veya hayır?
Sistem kısmı önemli.
Saf LLM’lerin sınırlamaları konusunda Karpathy’ye katılmamak için hiçbir nedenim veya yeteneğim yok. Geçenlerde yazdı bir tane daha 1000 satırlık kodla. Buradaki gerçek sensei o ve ben onun Yüksek Lisans hakkında bildiklerinin %0,00017’sini biliyorum. Sorun şu ki yapay zeka sistemleri sadece Yüksek Lisans’ların kendisi değil. Bunlar çıplak sinir ağları değil.
Chatgpt.com’a gidip konuştuğunuzda gpt-5 temel bir sinir ağıyla konuşmuyorsunuz; sen konuşuyorsun bir yapay zeka sistemi.
İlk LLM’nin muazzam miktarda ekstra iskele ve mühendislik çalışmasıyla mümkün olan en iyi şekilde şekillendirilip şekillendirilmesinin sonucundan bahsediyorsunuz. sistem özel görevini yapmak için olabilir. Bu durumda bir chatbot / asistan olmak.
Bu ayrım her şeydir, çünkü insan işlerinin değiştirilmesi aynı zamanda parçalarından kat kat daha güçlü olan kompozit, birbirine dikilmiş sistemler aracılığıyla gerçekleştirilecektir.
Bir proje yöneticisinin veya yönetici asistanının yerini almak için, insan işçi değişimi yapan şirketler arkalarına yaslanıp GPT-9 veya Gemini 7.5’i beklemeyecekler.
İnsan işçi değişimi yapay zeka ürünleri/sistemleri aracılığıyla gerçekleşecektir. etrafta çalışmak Yüksek Lisans’ların ve bireysel model zekasının saf sınırlamaları.
Claude Yasası bunun harika bir örneğidir.
Sadece futbol atış sayılarına bakılırsa, Claude Code piyasaya sürüldüğünde geliştiricilerin kod yazmasına yardımcı olma konusunda Opus veya Sonnet’ten 5 kat daha iyiydi.
Eh, 10 aydan kısa bir süre geçti ve anlaşıldı bundan birçok kez daha iyi çoktan.
Gece ve gündüz gibi.
Evet, modeller daha iyi hale geldi ama farkı yaratan bu değildi. Yapay zekanın kendi kendine konuşma biçimini geliştirmeye yönelik sürekli yinelenen iyileştirmeler vardı. Koordinasyon. Bağlam Yönetimi / Mühendislik. Ve şimdi de becerileri eklediler ve bu da toplam rakamı 11 milyona çıkardı.
Bu tam olarak insan işinin değiştirilmesi için geçerli olacak türden bir verimlilik mandalıdır. Şirketin tüm belgelerini okumak için yeterli bağlam penceresine sahip olmadığımız durumlarda, şirketler bunu yapacak sistemler icat edecek/icat etmiş olacak.
İnsan esnekliğiyle eşleşecek kadar genel olmadıklarında, kabaca Ajan Becerileri paradigmasına dayanan o kadar çok harika kullanım senaryosu ve yetenek ekleyecekler ki, çoğunu kapsayacağı için sonunda fark etmeyeceğiz.
Yapay zekanın insan bilgi çalışanlarının yerini almasına yönelik ilerleme hızı konusunda beni en çok endişelendiren kısım, yapay zeka sisteminin iyileştirilmesinin hızı değil. Çıtanın çok düşük olduğu bir gerçek.
Kültürümüzün komedisinin büyük bir kısmı, iş gücümüzün neredeyse yarısının tamamen beceriksizliğine dayanıyor.
- Mümkün olan en kötü müşteri hizmetleri
- Ne kadar az iş yaptıklarıyla övünen insanlar
- Asgari düzeyde yaparak spor yapmak
- İnsanlar işlerinden kesinlikle nefret ediyor
- İyi işçiler bile akılsızca girip çıkıyor
Sıradanlık temeldir. Neredeyse tanımı gereği.
O milyarlarca dolarlık insan işçi değiştirme girişimlerinin rekabet ettiği şey bu; bildiğiniz en yüksek performansa sahip %10’luk kesimle değil.
Bunu şu şekilde düşünün: Claude Kodunun mevcut olmamasından, gerçekten iyi hale gelmesine ve artık paylaşılabilir iş görevi değiştirme becerilerine sahip olmasına kadar geçen sürede, bilgi çalışanlarının en alttaki %50’si ne kadar gelişti?
Sıfır.
ChatGPT’nin ortaya çıkışından bu yana geçen süre içinde bilgi çalışanlarının en alttaki %50’si yeteneklerini ne kadar geliştirdi?
Yine %0.
Yapay Zeka Sistemlerinin yetenekleri tamamen boktan bir hal alırken, insan işinin değiştirilmesine ilişkin çıta hareket etmiyor.
Bunun yalnızca çok fazla çaba göstermeyen veya o kadar akıllı olmayan kişiler için olduğunu söyleyerek geri adım atabilirsiniz.
Büyük ölçüde sana katılıyorum ama bunun bir önemi yok.
Sen, ben, Dwarkesh ve Karpathy iyi olacağız. Ne olmuş?
Yapay zeka ise sadece önümüzdeki 5-10 yıl içinde bilgi çalışanlarının en kötü, en alttaki %50’sini yiyor, hâlâ yüz milyonlarca işten bahsediyoruz.
Bu yüzden bu konuda Karpathy’ye katılmıyorum.
Yanlış olduğundan değil. O değil. Ama yanlış şeye odaklanmış durumda.
Eğer umursadığımız şey yapay zekanın insanlık üzerindeki kısa vadeli ve pratik etkisiyse, izlenmesi gereken şey bireysel modellerin ne kadar akıllı olduğu ya da RL’nin sürekli öğrenmeye ulaşmadaki belirli teknik sınırlamaları değildir.
Bu trilyonlarca Statik olarak en kötü yüzde 50’lik insan işçisinin yerini almak için yatırılan dolarlar.
Bu trilyonlar İşçi Değiştirme Sisteminin hayata geçirilmesi için harcanıyor yeterince genel Bu işareti vurmak için.
Size sorum şu: Model geliştirmede gördüklerimiz ve model kapasitesini katlanarak artıran Claude Code gibi sistemler göz önüne alındığında, gerçekten bunun olmayacağına dair bahse girmek istiyor musunuz?
Yapmıyorum.
İşte bu yüzden “AGI”nin 2028’den önce burada olacağını düşünüyorum. Karpathy’nin bahsettiği her şey çözüleceği için değil, çözülseler de sorun olmayacağı için.