Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Katılımcılar, Yapay Zeka Sistemlerinin Henüz Kontrol Kaybı Riski Oluşturmadığını Söyledi
Akşaya Asokan (asokan_akshaya) •
1 Kasım 2023
Birleşik Krallık Yapay Zeka Güvenliği Zirvesi’nin birinci günü sona ererken katılımcılar, yapay zeka sistemleri üzerindeki kontrolü kaybetme korkusunun gelecekte yaşanabilecek bir endişe olduğunu söyledi ancak yapay zekanın güvenliğinin bugün için acil bir konu olduğu konusunda hemfikir görünüyorlar.
Ayrıca bakınız: BT ve Güvenlikte Yapay Zekanın Geleceği Nedir?
Bilim, Yenilik ve Teknolojiden Sorumlu Dışişleri Bakanı Michelle Donelan oturumu açarak yapay zekanın “hesaplanamaz gücü az sayıda kişinin elinde yoğunlaştırması” durumunda ortaya çıkabilecek tehlikeler konusunda uyarıda bulundu. Etkinliğin yapay zekanın oluşturduğu bu tür riskler hakkında “dürüst ve samimi” görüşmeler yapmayı ve bu endişeleri gidermeyi amaçladığını söyledi.
Başbakan Rishi Sunak’ın Muhafazakar hükümeti, akademisyenler tarafından şüpheyle karşılanan bir hedef olan Büyük Britanya’yı yapay zeka gelişimi için küresel bir merkeze dönüştürme hedefinin bir parçası olarak zirveyi düzenledi (bkz: Uzmanlar, İngiltere’nin Yapay Zeka Liderlik Hedefinin ‘Gerçekçi Olmadığı’ Uyarısında Bulundu). Zirvenin perşembe günü sona ermesi planlanıyor.
Yapay zeka sistemlerinin kontrolü kaybetmesine ilişkin olası senaryoya ilişkin kapalı kapılar ardında yapılan tartışma hakkında yorum yapan Singapur İletişim ve Enformasyon Bakanı Josephine Teo, katılımcıların “farklı bir görüşe” sahip olmasına rağmen genel fikir birliğinin yapay zekanın yakın bir risk oluşturmadığı yönünde olduğunu söyledi. kontrol kaybı.
Teo, “Günümüzde yapay zeka sistemleri henüz gerçek bir kontrol kaybı riski oluşturmuyor” dedi. “İnsanın yönlendirmesine ihtiyaç duyuyorlar ve zaman içinde bir hedefe doğru plan yapmaları istendiğinde genellikle başarısız oluyorlar. Ayrıca mevcut modellerin gerçek dünyada eyleme geçme yeteneği de sınırlı.
İngiliz siber güvenlik firması Darktrace’in CEO’su Poppy Gustafsson, tartışmaların “geleceğin varsayımsal riskleri” yerine büyük ölçüde yapay zekanın “günlük gerçekliğine” odaklandığını söyledi.
Independent’a verdiği demeçte, “Hepimizin geleceğin varsayımsal riskleri hakkında sohbet edeceğimizden ve robotların hepimizi öldüreceğinden ve yapay zeka hakkında şu anda kullandığımız gibi yeterince konuşmayacağımızdan biraz endişeliydim” dedi.
Çin Bilim ve Teknoloji Bakan Yardımcısı Wu Zhaohui, uluslararası yapay zeka yönetimini geliştirmek için küresel bir çaba çağrısında bulunurken, ulusların kendi yapay zeka sistemlerini geliştirme haklarını vurguladı.
Zhaohui, “Karşılıklı saygı, eşitlik ve karşılıklı yarar ilkelerini destekliyoruz. Boyutları ve ölçekleri ne olursa olsun, ülkeler yapay zekayı geliştirme ve kullanma konusunda eşit haklara sahiptir.” dedi.
Çin, çeşitli yapay zeka risklerinin yönetilmesi konusunda acil bir küresel fikir birliği çağrısında bulunan Bletchley Deklarasyonu’nu imzalayan 28 ülke arasında yer alıyor.
Tesla’nın CEO’su Elon Musk söylenmiş ITV, yapay zekadan “biraz korkmanın” “muhtemelen akıllıca” olduğunu bildirdi.
Musk, bir yıldır sahibi olduğu ve eskiden Twitter olarak bilinen sosyal medya ağında “En kötüsü son derece kötü olabilir, ancak aşırı kötü olma ihtimalinin düşük olduğunu düşünüyorum” dedi.
Çarşamba günü, Perşembe günü Yapay Zeka Güvenlik Zirvesi’ne katılacak olan ABD Başkan Yardımcısı Kamala Harris, ABD hükümetinin güvenli yapay zekayı teşvik etmek için aldığı ek önlemleri duyurdu. Bunlar arasında yapay zekanın orduda sorumlu kullanımını teşvik etmek için çok hükümetli bir teklif olan yeni bir Yapay Zeka Güvenlik Enstitüsünün başlatılması da yer alıyor (bkz: Başkan Yardımcısı Harris, Yapay Zeka Sistemlerinde Gizliliğin Sağlanmasının Kritik Olduğunu Söyledi).