Poppy Gustafsson, son 10 yılı “heyecan verici” olarak tanımlıyor, ancak 2013’te Darktrace’in kurulmasına yardım ettiğinde, en çılgın rüyalarında bile başbakanların ve başkanların kulağına sahip olmayı düşünüp düşünmediği sorulduğunda, bunu fazlasıyla yapacağını söylüyor. geriye bakmaktansa ileriye bakmayı tercih edin.
“Gerçekten düşünmüyorsunuz, ileriye bakma eğilimindesiniz. Ama evet, bu muhteşem. Artık halka açık bir şirketiz, bu büyük bir başarı ve yapay zeka hakkındaki bu konuşmaya katkıda bulunuyoruz [artificial intelligence], ancak her zaman önümüzdeki 10 yıla ve başarmak ve teslim etmek için ihtiyacınız olan her şeye bakıyorsunuz” diyor. “Bir an durup ‘Evet, şunu kırdım, çiviledim’ diye düşünmüyorsunuz.”
Ekim ayının sonundaki bu esintili sonbahar gününde, sohbet etmek için oturduğumuzda, Gustafsson’un sabırsızlıkla bekleyeceği çok şey var, çünkü bu, başbakan Rishi tarafından toplanan, Bletchley Park’ta çok konuşulan Yapay Zeka Güvenlik Zirvesi’nin arifesi. Sunak’ta hükümet yapay zeka risklerini azaltmaya yönelik ortak bir yaklaşım konusunda küresel fikir birliği oluşturmaya başlamayı umuyor.
İngiltere’nin bu alanda en önde gelen öncülerinden biri olan ve siber güvenlik ile yapay zekanın kesiştiği noktada yer alan CEO olarak, yıldızlar 2023’te gerçekten Gustafsson ve Darktrace için aynı çizgide görünüyor ve onun bu konularda söyleyecek çok şeyi var. Darktrace’in taşıdığı sorumluluğun son derece farkında ve artık konuşmayı anlamlı bir şekilde şekillendirme ve yönlendirme fırsatına sahip.
“Bunu yapmak için buradayız, bu nedenle işletmelerin yapay zekadan gelecek tüm yenilikleri benimsemelerine ancak bunu güvenli bir şekilde yapmalarına olanak tanıyan bir sektörün parçası olmaktan gerçekten gurur duyuyorum” diyor. “Önlerindeki yolculuğu güvenli bir şekilde keşfetmelerini sağlayan emniyet kemeri gibiyiz.
“Bir tür olarak riskleri hayal etmede oldukça iyi olmamızın, fırsatları hayal etmede ise daha az iyi olmamızın doğal olduğunu düşünüyorum. [But] benim görüşüme göre ben büyük bir yapay zeka savunucusuyum. Bence bu çok heyecan verici bir teknoloji. Bu, Darktrace’te yaptığımız her şeyin temelini oluşturuyor ve toplumun bunu daha fazla benimsediğini görmeyi çok isterim,” diyor Gustafsson.
“Ancak insanlar teknolojinin güvenli ve emniyette olduğunu hissettiğinde teknoloji her zaman hızlı bir şekilde benimseniyor. [so] Bu yeniliği insanlara ulaştırmanın en hızlı yolu onu güvenli hale getirmektir. Teknolojinin benimsenmesi ile güvenlik ve düzenlemelerin rekabet ettiğini düşünmüyorum. İnsanların yapay zekayı güvenli bir şekilde benimseyebilmesini sağlamak için el ele giden iki şeyin olduğunu düşünüyorum.”
“Ben büyük bir yapay zeka savunucusuyum. Bence bu çok heyecan verici bir teknoloji. Darktrace’te yaptığımız her şeyin temelini oluşturuyor ve toplumun bunu daha fazla benimsediğini görmeyi çok isterim.”
Haşhaş Gustafsson, Darktrace
Gelecekte, siber topluluğun 2023’e “GenAI öncesi” (üretken AI) ve “GenAI sonrası” arasındaki ayrım çizgisi olarak bakabileceğini ve güvenlik ekipleri üzerindeki baskının yalnızca 2023’e kadar artacağından emin olduğunu söylüyor. yeni, yapay zeka destekli tehditler daha yaygın hale geliyor. “Romanın yeni normal haline geleceğini söylemek hoşuma gidiyor” diyor. “Buna karşı korunmak için tasarlandık.”
Güvenlik, sorumluluk, güven
Müttefiklerin Nazilerin Enigma ve Lorenz şifrelerini kırdığı Buckinghamshire taşra mülkü Bletchley Park’a (o zamandan beri Milton Keynes’in banliyöleri tarafından tüketildi) vardığında Gustafsson masaya üçlü bir gündem getiriyor.
En yüksek öncelikli öğesi, oldukça tahmin edilebileceği gibi, siber güvenliktir ve yalnızca yapay zeka modellerinin eğitildiği veri kümelerini güvence altına almakla kalmayıp, aynı zamanda yapay zeka modellerinin kendi verileri üzerinde eğitilmesini sağlamak için tasarım yoluyla gizlilik oluşturma konusunda nasıl ilerleyeceğimize ilişkin anlatıyı ileriye taşımaktır. bu şekilde kullanmak için anlamlı bir onaya sahip olmak.
“Bir gazetecinin son 10 yılda yazdığı her makaleyi kopyalayıp, onlara danışmadan sanki onlardanmış gibi içerik oluşturamazsınız. Bu sürecin bir parçası olmalılar” diyor.
Siber güvenlik ile el ele kontrole gider. Yapay zeka en iyi şekilde çalıştığında, ağır yüklerin bir kısmını yaparak ve üretkenliğimizi artırarak görevlerimizi daha iyi başarmamıza yardımcı olarak kendi becerilerimizi geliştirecek, ancak insanlar için bir kontrol unsurunu elinde tutmanın hayati önem taşıyacağını açıklıyor. Yapay zekanın gerçekleştirdiği göreve göre uyarlanmıştır.
“İnsanlar için güvenli bir modun olması gerekiyor; öyle ki, en kötüsü gerçekleşirse yapay zeka, kontrolü ele alabilecek ve ihtiyaç duyduğunu düşündüğünde müdahale edebilecek bir insana dönüşebilir. Zorluklarımızı tamamen yapay zekaya devretmeyi ve becerilerimizi kaybetmeyi göze alamayız” diyor.
Bu üçlünün üçüncü unsuru bize güvenmeyi getirir. Gustafsson, “En kolay benimsenen teknoloji, en güvenilir teknoloji olacaktır; buna kesinlikle inanıyorum” diyor.
“İnsanlar olarak güveni nasıl inşa ettiğimizi düşünürseniz, bunu ilişkiler kurarak, hikaye anlatarak ve tüm bu güzel şeylerle yapabilirsiniz. Yapay zekanın da aynısını yapması gerekiyor; bağlam içinde sağladığı kararların nasıl alınacağını ifade etmesi, insanı bir araya getirerek bir düzeyde bağ kurulabilirlik bulması gerekiyor.”
Bu, anlamlı bir anlamda güvenin nasıl inşa edilebileceği sorusunu gündeme getiriyor; yapay zekanın kendi ödevini işaretlemesi ve yönlendirmelere “Elbette güvenilirim Dave, ama yine de yapamam” gibi bir şeyle yanıt vermesinin önüne geçiliyor. bölme bölmesi kapılarını açın”.
Gustafsson’un bu zorluğa yaklaşımı varsayımsal değil, Darktrace’in doğrudan çözümleme tecrübesine sahip olduğu bir yaklaşım.
“İnsanlar için güvenli bir modun olması gerekiyor; öyle ki, en kötüsü gerçekleşirse yapay zeka, kontrolü ele alabilecek ve ihtiyaç duyduğunu düşündüğünde müdahale edebilecek bir insana dönüşebilir. Zorluklarımızı tamamen yapay zekaya devretmeyi ve becerilerimizi kaybetmeyi göze alamayız”
Haşhaş Gustafsson, Darktrace
“Ürünümüz, devam eden siber olayları kesintiye uğratmak için bir işletme içinde tamamen özerk bir şekilde eylemler gerçekleştiriyor… [so] güvenlik ekiplerinin teknolojinin doğru şeyi yaptığına gerçekten güvenmesi gerekiyor. Bu yolculuğa çıkmamız gerekiyordu” diyor.
“Bunların çoğu, yapay zekanın ne yaptığını ve aldığı kararları neden aldığını nasıl ifade ettiğinizle ilgiliydi. Bizim için her şey kullanıcı arayüzünde [user interface]. Teknolojinin yaptığı her şeyi görsel olarak göstermesi için çok erken bir oyun tasarımcısını işe aldık… Ve insan buna baktığında şöyle düşünüyor: ‘Evet, olağandışı bir şeyin olduğuna dair daha büyük bir resim oluşturmak için bir araya gelen tüm bu göstergeleri görebiliyorum. olay. İlişki kurabiliyorum, bağlamım var.’ Demek istediğim bu, senin çalıştığını gösteriyor.”
Yapay zekayı kapsayıcı tutmak
Yapay Zeka Zirvesi öncesinde, aralarında Sendika Kongresi (TUC), Açık Haklar Grubu (ORG), Mozilla, Uluslararası Af Örgütü ve Tim Berners-Lee’nin Açık Veri Enstitüsü’nün de bulunduğu sivil toplumdan çeşitli sesler hükümeti eleştirdi Yapay zekadan etkilenme olasılığı en yüksek olan grupları hariç tutmak, etkinliği büyük teknolojinin hakim olduğu kapalı bir mağaza olarak damgalamak ve bunun “kaçırılmış bir fırsat” olduğunu söylemek.
Yapay zekanın geleceğinin çeşitli, etik ve sosyal adalete bağlı olmasını sağlamak için çeşitli sesleri masaya getirmenin yapılacak doğru şey olduğuna kimse itiraz edemez. Bununla birlikte Gustafsson, etkinliğin farklı sesleri merkeze almayacağı konusunda tamamen aynı fikirde değil.
“Zirvenin sadece iş dünyasını değil aynı zamanda araştırma camiasını, hükümetleri ve düzenleyicileri de bir araya getirme konusunda iyi bir iş çıkardığını düşünüyorum. Bu yüzden oradaki seslerde çeşitlilik olduğunu düşünüyorum” diyor.
“Ama ben [also] daha geniş anlamda yapay zeka söz konusu olduğunda, [diversity] bu becerilerle ilgilidir ve geleceğin yapay zeka becerilerinin, geçmişin teknoloji becerileri olarak aşina olduğumuz şeyler olduğu varsayımına gerçekten karşı çıkıyorum.”
2021’de Computer Weekly’nin Birleşik Krallık Teknoloji Alanında En Etkili Kadını seçilen Gustafsson, başarılı bir teknoloji şirketinin temel bileşenlerinden birinin işgücünün yalnızca kodlayıcılar ve teknoloji uzmanları değil, aynı zamanda tasarımcılar ve tarihçiler olmak üzere geniş bir beceri seti olduğuna kesinlikle inanıyor. , matematikçiler, bilim adamları ve yazarlar. Bu onun Darktrace’te uygulamaya çalıştığı bir şey.
Becerileri teknik nitelikte olmadığında insanların “daha az özür dilemesi” gerekir. O zamanlar şöyle demişti: “Birleri ve sıfırları anlamamanız, bu teknolojiyi farklı sorunları çözmek için nasıl kullanabileceğinizi düşünmenize engel olmuyor.”
Şimdi, insanlar arasında yapay zeka sistemlerine güven oluşturmaya yardımcı olmak için ihtiyaç duyulacak bazı becerilere (iletişim, hikaye anlatımı vb.) işaret ediyor; bu beceriler için Darktrace’e oyun kreatiflerini işe aldı.
“Artık sadece kod yazmakla yetinmeyecek kadar geniş bir beceri yelpazesi var çünkü dürüst olalım, yapay zeka muhtemelen kendi kodunu yazacaktır” diyor. “Gelecekte yapay zeka becerileri hakkında konuştuğumuzda, bunların bilgisayar bilimi diploması olduğunu varsaymayalım.”
Sohbet başlatıcı
Genel olarak Gustafsson, Yapay Zeka Güvenlik Zirvesi’nde bir miktar ilerleme kaydedilebileceğinden emin olduğunu söylüyor. “Sadece sohbet ediyor olmamızdan ve bunun çok işbirlikçi hissettirmesinden memnunum” diyor.
“Burada uluslararası işbirliğine ihtiyaç olacak çünkü teknoloji ülke sınırlarında durmuyor, herkes birbirine bağlı. Bunun aramızda bir konuşma olmasından memnunum.
“Risklerin yanı sıra fırsatları da düşündüğümüzden emin olmak istiyorum. Bunları ele almamız doğru [risks] kapalı, ama yeniliği engellemeyelim. Düzenlemelerin bizi desteklemesi, güvenli hale getirmesi ve toplumu gözetmesi için mevcut olması gerekiyor, ancak bunun fırsatlardan faydalanmamıza engel olmasına izin veremeyiz.”
Sözünü şöyle bitiriyor: “Koruduğumuz şey gelecekteki benliğimizdir. 10 yıl sonra geriye dönüp baktığımızda ‘Aman Tanrım, keşke şunu yapsaydık’ diye düşüneceğimiz bir konumda olmak istemiyoruz O o zamanlar.’ Ve bu zor çünkü hiçbirimizin kristal küresi yok, ancak konuşmaya başlamak, bunun hakkında düşünmek ve düşünmek gerçekten önemli.
“Teknoloji her zaman tahmin edilemez. Hangi yöne gideceğini bilmediğinizde düzenleme yapmak zordur, ancak eğer işler ters gitmeye başlarsa nasıl görüneceğini bilseydik ve bunu şimdi anlasaydık, o zaman bunun ilk işaretlerini görürsek doğru rotaya daha hızlı yanıt verebileceğimizi umuyoruz.
