Uzmanlar Kötü Amaçlı Kullanım ve Çin Etkisi Çevresindeki Yapay Zeka Risklerini Araştırıyor

Enerji Bakan Yardımcısı David Turk, Senato Enerji ve Doğal Kaynaklar Komitesi’ne, üretken yapay zekanın teknik açıdan daha az gelişmiş tehdit aktörlerine karmaşık siber saldırıları gerçekleştirmede yardımcı olabileceğini, bunun da Enerji Bakanlığı gibi devlet kurumlarının tespit yeteneklerini geliştirmeleri gerektiği anlamına geldiğini söyledi.

Argonne Ulusal Laboratuvarı Yardımcı Laboratuvar Direktörü Rick Stevens, “Gelişmiş yapay zeka sistemleriyle ilişkili riskleri nasıl yöneteceğimiz konusunda daha akıllı olmamız gerekecek” dedi. “Pandora’yı tekrar kutuya koymanın imkanı yok. Önümüzdeki birkaç yıl içinde herkesin cebinde çok güçlü bir yapay zeka sistemi olacak.”

Turk ve Stevens, Georgetown Üniversitesi Kıdemli Araştırmacısı Anna Puglisi ve Hewlett Packard Enterprise Başkan Yardımcısı Andrew Wheeler ile birlikte ifade verdi.

Stevens, Enerji Bakanlığı ile Ulusal Standartlar ve Teknoloji Enstitüsü’nün, yapay zeka modellerinin güvenilirliğini ve uyumunu değerlendirmek için insanları kullanan bir yapay zeka risk yönetimi çerçevesi üzerinde güçlerini birleştirdiğini söyledi. Ancak şu anda öngörülen sürecin Çin’de dolaşan 100’den fazla büyük dil modelini ele alacak şekilde ölçeklenemeyeceğini ve Amerika Birleşik Devletleri’nde 1000’den fazla LLM’nin halihazırda mevcut olduğunu söyledi.

Stevens ayrıca araştırmacıların, mevcut ve gelecekteki yapay zeka modellerinde riski değerlendirme ve değerlendirme becerisini nasıl ölçeklendireceklerini ve bunun henüz mümkün olmadığını kabul ettiği temel insani değerlerle güvenilir bir şekilde uyumlu yapay zeka modellerinin nasıl oluşturulacağını belirlemeleri gerektiğini söyledi (bkz: Tedarik Zinciri ve Açık Kaynak, Yapay Zeka Sistemlerine Büyük Zorluk Oluşturuyor).

Stevens, “Diğer yapay zeka sistemlerini değerlendirmek ve ‘Bu model güvenli’ demek için sahip olduğumuz süper bilgisayarları ve ilk yapay zeka sistemlerini kullanarak yetenekler geliştirmemiz gerekecek” dedi.

Wheeler, Hewlett Packard Enterprise’ın mühendislere ürün geliştirmede yapay zeka kullanmanın ne anlama geldiği ve yapay zekadan yararlanan araçların doğru şekilde nasıl dağıtılacağı konusunda yol gösteren yapay zeka etik ilkelerini geliştirmek için bir buçuk yıldan fazla zaman harcadığını söyledi. Ancak ilkelere ne kadar bağlı kalınırsa içeriden kötü niyetli birinin veya bir tehdit aktörünün sistemlere erişmesini engelleyemeyeceği için bu çabaların her sorunu çözemeyeceğini kabul etti.

Wheeler, “Sonuçta bu korkuluklardan bazılarını sağlayabilecek güvenilir yapay zeka konusunda geniş bir çalışma alanı var” dedi. “Fakat bu çözümlerden bazılarını uygulamaya koymanın gerçekten ilk günlerindeyiz ve daha yapılacak çok iş var.”

Çinli Personel Sızmasına Direnmek

Puglisi ve Turk, Çin hükümeti sempatizanlarının Enerji Bakanlığı’na veya ulusal laboratuvarlara sızmasına izin vermeden küresel yapay zeka yetenek havuzundan en iyi şekilde nasıl yararlanabileceklerini tartıştılar. Puglisi, ABD hükümet kurumlarının, Çin hükümetinin hâlâ ülkede aileleri olan Çin vatandaşlarına uygulayabileceği baskı miktarı konusunda dürüst olması gerektiğini söyledi.

Puglisi, Çin’in veri paylaşımı, tesislere erişim sağlama ve bilim adamlarının gerçek ilişkileri konusunda açık sözlü olma konusundaki yükümlülüklerden kaçınması söz konusu olduğunda ABD’nin çok uzun süredir başka tarafa baktığını ileri sürdü. Çin’in anlaşmaların sonuna uymaması halinde bunun yansımaları olması gerektiğini söyledi.

Puglisi, “Mevcut politikalar ve yasalar, Çin Komünist Partisinin toplumumuzda, özellikle de akademi ve araştırma alanında uyguladığı etki düzeyini karşılamada yetersiz.” dedi. “Akademik ve araştırma kurumları için yabancı paraya ilişkin artan raporlama gereklilikleri ve yabancı yetenek programlarına katılıma ilişkin net raporlama gereklilikleri ve kuralları iyi bir başlangıç.”

Turk, yabancı yetenek işe alım programına katılan herkesin ulusal bir laboratuvarda çalışmasının yasak olduğunu belirterek, ajansın Çin hükümetinin veya diğerlerinin bu kısıtlamaları aşma yollarını aktif olarak incelediğini de sözlerine ekledi. Ayrıca Enerji Bakanlığı, ihracat kontrol kurallarının ötesine geçen ve yapay zekayı en hassas altı teknolojiden biri olarak sınıflandıran bir bilim ve teknoloji risk matrisine sahiptir.

Turk, bakanlığın risk matrisini yıllık olarak güncellediğini ve yapay zeka ve diğer hassas teknolojilerin yeterince korunmasını sağlamak için ek taramalar da dahil olmak üzere ekstra korumalar uyguladığını söyledi. Bakanlığın ayrıca hem saha ofislerinde hem de ulusal laboratuvarlarında Çin’in izinsiz giriş iddialarını inceleyen karşı istihbarat uzmanları bulunuyor.

“Mümkün olduğunca düşünceli ve proaktif olabilmemiz için aktif olarak araştırıyoruz ve herhangi bir ipucunu takip ettiğimizden emin oluyoruz” dedi.