Dün, Eckersley’nin arkadaş ve meslektaşları topluluğundan yüzlerce kişi, San Francisco’daki Internet Archive’in kilise benzeri mabedinde sıra dışı bir anma töreni için sıraları doldurdu. kişi ama hayatının işinin bir turu. Eckersley’nin yazıları, sevgili yol bisikleti ve Viktorya dönemine ait goth punk gardırobunun bazı örnekleriyle dolu salonun arkasındaki bir türbeye bakan Turan, Gallagher ve diğer 10 konuşmacı, Eckersley’nin uzun katkı listesi: yılları hakkında sunumlar yaptılar. Silikon Vadisi’ni gizliliği koruyan daha iyi teknolojilere doğru iten, tüm web’i şifrelemek için çığır açan bir projenin ortak kurucusu ve hayatının son döneminde yapay zekanın güvenliğini ve etiğini geliştirmeye yönelik ekseni.
Etkinlik aynı zamanda Eckersley’nin ölümünden sonra çalışmalarını sürdürecek olan organizasyon olan AOI için bir tür ön hazırlık görevi de gördü. Eckersley, enstitüyü bir inkübatör olarak tasavvur etti ve Eckersley’nin onlarca yılını adadığı gizlilik ve siber güvenlik çalışmalarından belki de daha önemli olduğuna inandığı sorunu ele almak için büyük yapay zeka laboratuvarlarıyla birlikte çalışacak uygulama laboratuvarı tasarladı. kariyer: yapay zekanın geleceğini dünyada acıya neden olan güçlerden uzağa, onun “insan gelişimi” olarak tanımladığı şeye yönlendirmek.
Turan, anma etkinliğinde yaptığı konuşmada, Eckersley’nin kendisini işe aldığı telefon görüşmesinin kaydını dinledikten sonra, “Yapay zekayı yalnızca olduğumuz kişi değil, olmayı arzuladığımız kişi haline getirmeliyiz” dedi. “Böylece bizi bu yöne taşıyabilir.”
Eckersley’nin AOI için tasarladığı misyon, son on yılda yapay zekanın bir “uyum sorunu”na sahip olduğuna dair artan bir duygudan ortaya çıktı: Evrimi sürekli hızlanan bir hızla ilerliyor, ancak diğerlerininkine ayak uyduramayan basit hedeflerle. insanlığın sağlığı ve mutluluğu. Eckersley, herkes için bir bolluk ve yaratıcı boş zaman cenneti başlatmak yerine, mevcut yörüngesinde yapay zekanın dünyayı zaten mahveden tüm güçleri artırma olasılığının çok daha yüksek olduğuna inanıyordu: çevresel yıkım, yoksulların sömürülmesi ve yaygın milliyetçilik, birkaç isim.
AOI’nin amacı, Turan ve Gallagher’ın tanımladığı gibi, yapay zekanın ilerlemesini kısıtlamak değil, hedefler o tek fikirli, yıkıcı güçlerden uzak. Örneğin, reklam veya propaganda yoluyla insanların beynini yıkayabilen hiper-zeki yazılımları, dünyadaki her hidrokarbonu son hidrokarbonu toplama konusunda tanrı benzeri stratejilere ve güçlere sahip şirketleri veya herhangi bir ağa nüfuz edebilen otomatik bilgisayar korsanlığı sistemlerini engellemek için insanlığın en iyi umudunun bu olduğunu savunuyorlar. dünya küresel bir kargaşaya neden olacak. Turan, “Yapay zeka başarısızlıkları, birdenbire üzerimize sürünen nanobotlar gibi görünmeyecek” diyor. “Bunlar, şu anda olanlara benzer şekilde, çok belirgin görünecek ekonomik ve çevresel felaketler.”
Şu anda AOI’nin yönetici direktörü olan Gallagher, Eckersley’in enstitü vizyonunun felaket tellallığı yapan bir Cassandra değil, yapay zekayı geleceğe yönelik idealist hayallerine doğru yönlendirebilecek bir çoban vizyonu olduğunu vurguluyor. “Bir distopyayı nasıl önleyeceğini hiç düşünmedi. Sonsuza dek iyimser düşünme biçimi, ‘ütopyayı nasıl yaparız?’ idi” diyor. “Daha iyi bir dünya inşa etmek için ne yapabiliriz ve yapay zeka insanın gelişmesine nasıl yardımcı olabilir?”