Yapay Zeka ve Makine Öğrenimi, Veri Gizliliği, Veri Güvenliği
AI Summit’teki yetkili, AI’yi her konu için bir çözüm olarak çerçevelemenin sorunlu olduğunu söylüyor
Akhabokan Akan (Athokan_akhsha) •
11 Şubat 2025
Yapay zeka, “derin” gizlilik riskleri, modellerin nasıl eğitildiğinden, sistemlerin nasıl istendiğine kadar, Sinyal Başkanı Meredith Whittaker uyardı.
Ayrıca bakınız: Silolardan Synergy’ye: Gen AI onu hizalar ve güvenlik ekipleri
Pazartesi günü Fransız AI Eylem Zirvesi’nde AI tarafından yönlendirilen tehditler üzerine bir oturumda konuşan Whittaker, AI’nın askeri, medya ve diğer teknolojik sektörlere mevcut konuşlandırılmasının gizlilik ve ifade için temel hakları ihlal ettiğini söyledi.
Teknoloji ile ilgili devam eden endişelere rağmen, şirketler hala “sonuçlara dikkat etmeyecek” olmasa da, “AI’yi her köşeye entegre etmek” için hala kötü güvenli ürünler sunuyor.
“AI verilere güveniyor. Dünyada AI’nin asla bilemeyeceği hiçbir şey yok. Eğitim verilerinden veri noktasında bulamadığı konusunda akıllı olamayacak hiçbir şey yok; takviye öğreniminden aktarılan veriler, veriler aracılığıyla sağlanan veriler Fotoğraf kütüphanenize, çıkarımlar veya tahminler için kullandığı, AI’nın oldukça derin gizlilik sonuçları var.
Whittaker, Microsoft’un yakın zamanda başlatılan otomatik ekran görüntüsü geri alma özelliği olduğunu ekledi.
Microsoft Copilot+’a eklenen özellik, Windows’un uygulamalardan, web sitelerinden, resimlerden ve belgelerden veri bulmak için periyodik olarak kullanıcıların ekranlarının anlık görüntülerini almasını sağlar. Uzmanlar uyardı (bkz: bkz. Microsoft’un Stokes Güvenlik ve Gizlilik Endişeleri).
Artan eleştiriler nedeniyle Microsoft daha sonra uygulamanın gözden geçirilmiş bir sürümünü başlatmak için güvenlik özelliklerini değiştirdi.
Whittaker, şirketlerin ve kullanıcıların AI’yi her şey için çözüm olarak görmeyi bırakmaları gerektiğini hatırlatma ve eklediklerini ekleyerek, “Masaüstünüzde ekran görüntüsü verilerini depolıyorlardı, bu masaüstünüzde yaptığınız her şeyi içerebilir.” Dedi.
Whittaker, “Sanırım AI’yi verilerin açlığı olduğu durumlarda sorunlara bir çözüm olarak çerçevelememiz konusunda gerçekten temkinli olmamız gerekiyor ve şirketler milyarlarca dolar yatırım için itiyor.” Dedi.
Whittaker ayrıca, hükümetlerden sinyal gibi arka kapı şifreli hizmetlere itme konusunda endişelerini dile getirdi. Salt Typhoon gibi Çin tehdit aktörlerinden artan siber tehditlerin ardından, mevcut BT sistemlerini geri kapıya yönelik herhangi bir girişim hackleme risklerini artırabilir, bkz. CISA Federal Ağlarda İlk Benekli Tuz Typhoon Hacker’ları).
Whittaker, “Teknoloji endüstrisindeki güç yoğunluğu göz önüne alındığında, bu tür şeyleri önermek için inanılmaz derecede tehlikeli bir zaman.” Dedi.