Son kitabında, Bir bilgisayar korsanının zihni: Güçlüler toplumun kurallarını nasıl esnetir ve onları nasıl geri esnetir?kamu yararı teknoloji uzmanı ve siber güvenlik uzmanı Bruce Schneier, birkaç yıl sonra yapay zekanın (AI) insanlık üzerinde derin bir etkiye sahip olduğu bir dünyayı anlatıyor.
Schneier, AI için kısa vadeli geleceğin çılgın bir yolculuk olacağı değerlendirmesinde yalnız değil. Yapay zeka modellerinin hackleme gücünün (burada bilgisayar korsanlığını en basit haliyle, sistemlerdeki güvenlik açıklarını ve açıkları keşfetme ve bunlardan yararlanma eylemi olarak tanımlayacağız, mutlaka bir siber güvenlik bağlamında olması gerekmez) insan bilgisayar korsanlarının yeteneklerini çok geride bırakacağından endişe ediyor. sürdür.
Yapay zekaların keşfedeceği hack’lerin neredeyse kaçınılmaz olarak zengin ve güçlülerin yararına kullanılacağını savunuyor. Cesaretiniz varsa, yapay zekaların ahlak dışı koruma fonları ve risk sermayedarlarının hizmetinde vergi ve düzenleyici sistemleri istismar etmede o kadar ustalaştığı ve servet eşitsizliğinin katlanarak arttığı ve ekonomik sistemlerin çökmeye başladığı bir senaryo hayal edin. Bugün mümkün değil ama yarın olması muhtemel.
“Yapay zeka korsanlığı kavramı hakkında konuşuyorum [and] sistemlerdeki güvenlik açıklarını bulmak,” diyor Schneier. “Genel olarak, AI çok süreksiz bir teknolojidir ve neyin mümkün olduğunu bilmiyoruz – kolay olduğunu düşündüğümüz şeyler sonunda zor oluyor ve bunun tersi de geçerli. Yani bilmiyoruz.
“Ama bence bu insan toplumundaki en büyük değişiklik olacak. Her şeyi etkileyeceğini düşünüyorum.”
Henüz kimse, Schneier bile bu sorunların nasıl çözüleceğine dair yanıtlara sahip değil, ancak uzun süredir birlikte çalıştığı John Bruce ve dünya çapındaki web öncüsü Tim Berners-Lee ile yeniden bir araya geldiği Inrupt’ta güvenlik mimarisi şefi olarak yaptığı çalışma sayesinde, şu anda, eğer iyi olursa, yapay zeka üzerinde bir miktar gücü insanlara geri verebilecek bir fikir üzerinde çalışıyor.
Berners-Lee her zaman açık ağın savunucusu olmuştur ve üzerine kurduğu demokratik ilkeleri korumayı istediğini gizlemez. O ve Bruce, Inrupt’ı, Google ve Facebook gibi platformların ortaya çıkışından bu yana, 2000’lerin ortalarında şimdi Meta olan Meta kaybolacak şekilde, bireylerin deneyimlerini ve verilerini kontrol etmelerini sağlayan benzer ilkeler üzerine kurdu.
Mümkün olduğu kadar basit bir şekilde ifade etmek gerekirse, Inrupt’un teknolojisi – Katı Gizlilik Platformu – veri sahibine, nasıl ve nerede saklanacağını ve kendi çevrimiçi aracılığıyla kimlerin erişebileceğini seçme gücü verecek şekilde verileri, uygulamaları ve kimlikleri düzenler. veri deposu veya Pod.
Erken benimseyenler arasında, 2020’den beri bir kurumsal sürüm için pilot kullanım durumlarını araştıran NatWest Bank, BBC, Belçika’daki Flanders hükümeti ve NHS yer alıyor.
Bunun AI ile ne ilgisi var o zaman?
Yani bu bir bulut depolama hizmeti mi? Tam olarak değil. Bölmeyi, kişisel verilerinizin sizin için anlamlı olacak şekilde uygulamalara veya diğer kişilere nasıl sunulacağını kontrol ettiğiniz özel bir web sitesine daha çok benzeyen bir şey olarak düşünün.
Biriyle bir partide miydin? Ardından, partide çektiğiniz fotoğrafları görmelerine izin verebilirsiniz, ancak tatil fotoğraflarınızı göremezler. Bir projede biriyle çalıştınız mı? Ardından proje dosyalarına erişmelerine izin verebilirsiniz, ancak romanınızın taslağına erişemezler. Bir ilişki çöküşü yaşadınız mı? Ardından, eski sevgilinizin verilerinize erişimini iptal edebilirsiniz.
Thomas Hofman’ın fotoğrafı
“Bu, verileri neredeyse yanlara almanın bir yolu. Fitbit’in Fitbit verilerinize sahip olması ve buzdolabınızın sizin buzdolabı verilerinize sahip olması yerine, Inrupt bunu yan çeviriyor, böylece tüm bu yerlerden gelen verilere tek bir yerde sahip oluyorsunuz”
Bruce Schneier, Kesinti
Schneier, “Verileri üretken bir şekilde insanların ellerine teslim ediyor, bu da büyük teknoloji platformlarında kaybettiğimiz bir şey” diyor. “Bir bakıma, ilk web, herkesin kendi işini yapabilmesi açısından üretkendi.
“Bu, verileri neredeyse yanlara almanın bir yolu. Fitbit’in Fitbit verilerinize sahip olması ve buzdolabınızın buzdolabı verilerinize sahip olması yerine Inrupt, verileri tüm bu yerlerden tek bir yerde almanız ve buradan veya oradan verileri kullanan uygulamaları kolayca yazabilmeniz için onu yanlara çevirir.
Bunun AI ile nasıl bir ilişkisi var? Eh, şu anda, mevcut yapay zeka öcü ChatGPT’nin altında yatan gibi büyük dil modelleriyle ilgili endişelerin çoğu, nasıl eğitildiklerinde yatıyor – muhtemelen halka açık internetin her köşesinden kazıyabilecekleri tüm verileri kullanarak , sormadan. En azından, bu gizlilik açısından endişe verici.
Schneier, bu “izinsiz eğitim” modelinin bozulmaya hazır olduğunu söylüyor. Şunu soruyor: Ya bunu bozarsak ve yapay zekaların hangi veriler üzerinde eğitilmesine izin verildiğinin kontrolünü geri alırsak?
Schneier, “Kişisel bir yapay zekayı kendi üzerinizde eğitebileceğiniz fikri, bizim anlayamadığımız şekillerde güçlü olacak” diyor. “Bu artık mümkün değil çünkü Fitbit’te Fitbit verileriniz var, Twitter’da tweet’leriniz var, Facebook’ta Facebook öğeleriniz ve Google’da e-postalarınız var. Tüm eşyalarına ulaşamazsın.”
Elveda Siri, elveda Alexa
Schneier, bu bağlamda, verileri yanlara çevirme ve kimin veya neyin erişmesine izin verdiğinizi kontrol etme gücünün, teorik olarak, belirli ihtiyaçlarınıza ve ilgi alanlarınıza göre uyarlanmış kişisel, özel bir yapay zekayı eğitmenize olanak sağlayabileceğinden geldiğini söylüyor. çevrimiçi küre.
“Şu anda, her konuda eğitilmiş geniş bir dil modeliniz var, bu yüzden bu ırkçı, çünkü pek çok insan ırkçı. Ancak büyük dil modelini sadece benim üzerimde eğitebilirseniz, daha iyi bir asistan olabilir” diyor.
“Örneğin, bir şeyin ilk taslağını üretebilir. Bu harika olurdu ve bundan ikinci bir taslak çıkarabilecektim.
“Yapay zeka benim üzerimde eğitilirse, o zaman benim asistanım olur, başkası için değil benim için çalışır. Bu büyük bir oyun değiştirici gibi görünüyor.
Schneier, yardımcı teknolojinin hayranıdır. “Kendini çok iyi ifade edemeyen birinin kongre üyesine mektup yazabileceği bir dünya istiyorum. O dünyayı istiyorum” diyor. “Ama yapay zekanın insanlardan geliyormuş gibi davranan milyonlarca mektup yazdığı bir dünya istemiyorum. Peki bu asistan özelliğinin kilidini nasıl açacağız? Yollardan biri kişiselleştirmedir.”
Kariyerinde 20’ye yakın kitap yayınlayan Schneier gibi yaratıcı bir profesyonelin veya sıfır kitap yayınlamış ama her ihtimale karşı denemeye devam eden bu muhabirin değeri açıktır.
Ancak bu teorinin uygulamaları, bir kitabın kullanılabilir ilk taslağını veya bir politikacıya mektup yazmanın çok ötesine geçer. Facebook’ta giriş yaptığınız mekanlar veya Instagram’da paylaştığınız fotoğraflar konusunda bir yapay zeka asistanı eğitebilseydiniz ne olurdu? Belki sokak yemeklerini veya iyi birayı seviyorsunuzdur; Kendinizi yeni bir şehirde bulursanız, yapay zekanız bazı mükemmel yiyecek kamyonları veya gerçek bira barları önerebilir. Glastonbury’deki bir gruptan hoşlandın mı? Bu gece senin yanında oynuyorlar.
Bu zaten bir dereceye kadar yapılmıştır – Amazon, algoritmalarını her zaman verileriniz üzerinde eğitir, ancak sizin için değil, kendi yararı için. Schneier, “Çakışmaları kullanıcının yararınadır, ancak çakışmaları durumunda Echo’ya sahip oldukları için Amazon kazanır” diyor.
Bunun için hazır mısın?
Evden çıkmadan önce size hava durumu güncellemesi sağlamanın, bir zamanlayıcı ayarlamanın veya BBC Sounds uygulamasına erişmenin ötesinde herhangi bir faydası olan bir Alexa sürümünün ortaya çıkışı, kesinlikle dikkate alınması gereken ilginç bir olasılık.
Ancak buna katılsanız bile, dikkate alınması gereken başka olasılıklar da olacak, özellikle de son 15 yılda tüm başarısızlıklarına rağmen alıştığımız teknoloji devlerinin duvarlarla çevrili bahçelerinin ötesine geçme fikri.
Birçoğu, kendi AI asistanlarını ve Pod’larını kurmanın ve çalıştırmanın teknik yeteneklerinin ötesinde olacağından korkabilir, bu Schneier’in kabul ettiği bir faktördür, ancak bunun çok büyük bir sorun olacağını düşünmemektedir.
“Elbette, kendi Kapsülünüzü çalıştırabilirsiniz. Tıpkı kendi e-posta sunucunuzu çalıştırabileceğiniz, ancak kullanmadığınız gibi – Apple veya Google veya Microsoft kullanıyorsunuz. Büyük olasılıkla, Pod’unuz başka biri tarafından barındırılacak.”
Bu ev sahiplerinin kim olacağına henüz karar verilmedi. Pod’unuz, geniş bant veya mobil paketinizin bir parçası olarak sağlanabilir. Kendi fiziksel depolama cihazınızı satın almak isterseniz, orada durabilir. Hatta bir teknoloji devi tarafından hizmet olarak sunulabilir.
“Bir şeyleri buluta yerleştirmenin tüm bu farklı yolları var, çünkü mantıklı olan yol bu. Bu da olacak…. [But] mekaniği kullanıcıya şeffaf olmalıdır. Kendi Pod’una sahip olmak için uzman olman gerekmiyor.”
Schneier, bu hizmeti yalnızca bir Apple’ın veya Google’ın veya daha kötüsü bir Meta’nın ellerine teslim etmek için oluşturma konusunda rahat mı?
“Sahip olmanızı sizin için uygun hale getirebiliriz. [your data], ve bu senin için daha iyi olur. Pod’ların vizyonu bu. Gerçek henüz orada değil ama Tim Berners-Lee interneti bir kez değiştirdi. İnternetin çalışma şeklini değiştirme konusunda bir sicili var, bu yüzden bunu bir daha yapmasına izin vermem”
Bruce Schneier, Kesinti
“Teknoloji devleri için endişelenmeniz gerekiyor,” diyor, “ancak Bölmeyi bir web sunucusu gibi de hareket ettirebilirsiniz. Eğer onların yaptıklarını sevmiyorsan [the host] yapıyor, başka bir yere gidin, çok kolay…. Elbette kendi sunucunuzu çalıştırsanız daha iyi olur ama bunu yapmayacaksınız, makul olalım.”
Birleşik sosyal medya platformu Mastodon’un artan etkisi, tüketici Kapsülleri için olası bir model görevi görebilir. Mastodon, şu anda Twitter gibi tek, özel olarak tutulan bir sosyal ağ değil, daha ziyade kolektif bir grupta bir araya gelen dağıtılmış sunucular veya örneklerden oluşan bir ağdır. Bir Mastodon kullanıcısı sunucusunu beğenmezse, istediği zaman hareket etmekte özgürdür.
Yine interneti değiştirmek
AI, Skynet’teki gibi bir kabus filmi komplo tehdidi olduğunu kanıtlarsa Terminatör, dünyadaki tüm Pod’lar nükleer bombaların uçmasını engelleyemez. Ancak bu, Schneier’in önerdiği gibi gerçekleşirse, bireylere AI üzerinden aracılık ve kendi mahremiyetleri verme hizmetinde verileri merkezileştirme fikri kesinlikle çekici.
Schneier, “Verilerimizi dağıtma fikri, büyük teknoloji tekellerinin elinde olduğundan çok daha esnek, güvenilir, üretken ve daha iyi” diyor. “Google, tüm verilerinize sahiptir, ancak bunlara sahip olmaları gerekmez, yalnızca sahip olmaları uygundur.
“Ona sahip olmanızı sizin için uygun hale getirebiliriz ve bu sizin için daha iyi olur. Bu Pod’ların vizyonu, Solid’in vizyonu. Gerçek henüz orada değil, ama Tim Berners-Lee interneti bir kez değiştirdi. İnternetin çalışma şeklini değiştirme konusunda bir sicili var, bu yüzden bunu bir daha yapmasına izin vermem.
