Veri Gizliliği Günü yaklaşırken siber güvenlik sektörü uzmanlarıyla en son veri gizliliği trendleri hakkında konuştuk…
Acxiom EMEA Hukuk ve Gizlilik Başkanı Alex Hazell şunları söylüyor:
“2024’te artık yapay zekadan bahsetmeden veri gizliliğini tartışamayız. Şimdiye kadar işletmelerin karşılaştığı en büyük zorluk, gizlilik ve fikri mülkiyetle ilgili önceden var olan mevzuatın, yeni çıkan yapay zeka teknolojileri dikkate alınarak yazılmamış olmasıydı.
“Yaklaşan AB Yapay Zeka Yasası aracılığıyla bir tür çok amaçlı düzenlemeye ulaşma konusunda önemli ilerleme kaydetmiş olsak da, etkili yapay zeka düzenlemesinin kişisel verileri, telif hakkını ve fikri mülkiyet ihlali konularını korumanın ötesine geçtiğini hatırlamak önemlidir. Yapay zeka sistemlerinde önyargıları ele almak ve adaleti sağlamak, bireylere veya topluma tehdit oluşturmayan etik ve eşitlikçi uygulamalar oluşturmak için de çok önemlidir.
“İnsanlar veri gizliliği sorunlarının giderek daha fazla farkına varıyor ve hiç şüphe yok ki yapay zeka düzenlemeleri ve yönetişimi, herkesin güvende tutulmasını sağlamak için gelişmeye devam edecek. Ancak kuruluşların etik çerçeveler, sorumlu dağıtım uygulamaları ve kapsayıcı karar alma süreçleri (bireysel mahremiyeti koruyacak ve güvenilir ve sorumlu bir yapay zeka ekosistemi geliştirecek önlemler) geliştirmek için doğru önlemleri şimdi uygulamaya koyduklarından emin olmaları gerekiyor.”
Donnie McCollTeknik Destek ve DPO Kıdemli Direktörü Fortraşunu tavsiye ediyor:
“Veri Koruma Günü’nde (veya Veri Koruma Haftası sırasında) verilerinizi güvende tutmaya yönelik ipuçları
Bir saat ayırın, bir kahve alın, oturun ve aşağıdakileri tamamlayın:
- Tüm bankacılık ve alışveriş uygulamalarınızda, çalışma sistemlerinizde vb. şifrelerinizi değiştirin; onları bir şifre yöneticisi uygulamasında güvende tutun
- Size olanak tanıyan her şeyde çok faktörlü kimlik doğrulamayı ayarlayın
- Kredi puanınızı incelemek için kaydolun (ücretsiz olan ClearScore veya benzerini kullanarak)
- Banka hesabınızı inceleyin ve artık ihtiyaç duyulmayan tüm otomatik ödemeleri, bekleyen siparişleri veya yinelenen ödemeleri sonlandırın
Unutmayın, kişisel veri ayak iziniz ne kadar küçükse, dolandırıcılık olasılığı da o kadar düşük olur.”
WatchGuard Technologies Kimlikten Sorumlu Başkan Yardımcısı Carla Roncato:
“Yapay zeka (AI) ve makine öğrenimi (ML) teknolojilerindeki ilerlemeler, bu Veri Gizliliği Günü’nde, hem bu araçların ortaya çıkarabileceği potansiyel faydalar hem de rahatsız edici tehlikeler açısından ilk sıralarda yer alıyor. Geçtiğimiz yıl yapay zeka araçlarının yaygın şekilde yaygınlaştığı göz önüne alındığında, bilgi güvenliği topluluğu olarak bizlerin, verilerimiz için ortaya çıkan yapay zeka riskine ilişkin farkındalığı artırmak ve anlayışı derinleştirmek için bu fırsatı değerlendirmemiz kritik önem taşıyor. Yapay zeka günlük hayatlarımızda daha bütünleyici ve ihlal edici bir varlık haline geldikçe, bunun veri haklarımız üzerinde gerçek etkileri olacaktır.
Kullandığınız bir hizmet “ücretsiz” ise, ürünün siz ve verileriniz olma ihtimalinin yüksek olduğunu unutmayın. Bu aynı zamanda yapay zeka araçları için de geçerlidir; dolayısıyla buna göre hareket edin. ChatGPT de dahil olmak üzere birçok eski yapay zeka hizmeti ve aracı, Facebook ve TikTok gibi sosyal medya hizmetlerine benzer bir kullanım modeli kullanıyor. Bu platformları kullanmak için para ödemeseniz de, bu şirketlerin yararlandığı ve reklam hedefleme yoluyla para kazandığı özel verilerinizin paylaşılması yoluyla onlara tazminat ödüyorsunuz. Benzer şekilde, ücretsiz bir yapay zeka hizmeti, cihazlarınızdan veri toplayabilir ve istemlerinizi saklayabilir, ardından bu verileri kendi modelini eğitmek için kullanabilir. Bu kötü niyetli görünmese de, üretken yapay zeka algoritmalarını eğitmek için kazınmış verileri işlemenin gizlilik sonuçlarını analiz etmenin tam da nedeni budur. Bu şirketlerden birinin ihlal edildiğini varsayalım; Tehdit aktörleri verilerinize erişebilir ve bu verileri size karşı silah olarak kullanma gücüne sahip olabilir.
Elbette yapay zekanın potansiyel avantajları var. Aslında birçok yapay zeka aracı oldukça güçlüdür ve uygun önlemlerle güvenli bir şekilde kullanılabilir. İşletmenizin karşılaştığı riskler kuruluşunuzun misyonlarına, ihtiyaçlarına ve kullandığınız verilere bağlıdır. Güvenlikte her şey politikayla başlar; bu da sonuçta kuruluşunuzun benzersiz kullanım durumuna göre uyarlanmış bir yapay zeka politikası oluşturmanız gerektiği anlamına gelir. Politikanızı belirledikten sonra bir sonraki adım, bunu ve yapay zeka araçlarıyla ilişkili riskleri iş gücünüze iletmektir. Ancak değişen düzenlemelere uygunluğu sağlamak için bu politikayı gerektiği gibi revize etmeye veya değiştirmeye devam etmeniz ve bunu iş gücünüzle düzenli olarak tekrarladığınızdan emin olmanız önemlidir.”
Mike Loukides, Gelişen Teknolojilerden Sorumlu Başkan YardımcısıO’Reilly:
“Verilerinizi yapay zekadan nasıl koruyorsunuz? Sonuçta insanlar ChatGPT istemlerine her türlü şeyi yazıyorlar. “Gönder”e bastıktan sonra ne olacak?
“Bunu söylemek çok zor. Her ne kadar suçlular yapay zeka yoluyla veri çalmaya henüz ciddi bir ilgi göstermemiş olsalar da, önemli olan kelime “henüz”dür. Siber suçlular, yapay zekanın kurumsal ortamlarımıza giderek daha fazla yerleştiğinin kesinlikle farkına vardılar. Yapay zeka modellerinde çok büyük güvenlik açıkları bulunur ve bu güvenlik açıklarının düzeltilmesi çok zordur (belki de imkansızdır). Bir rapor üzerinde çalışmak için iş planınızı veya şirketinizin mali bilgilerini ChatGPT’ye yüklerseniz, bunların düşman bir saldırganın eline “kaçma” şansı var mıdır? Maalesef evet. Bu şans çok büyük değil ama sıfır da değil.
“İşte güvende olmak için birkaç hızlı yönerge:
- Yapay zeka sağlayıcınızın politikalarının ayrıntılı metnini okuyun. OpenAI, kurumsal müşterilerin verilerini modellerini eğitmek için kullanmayacaklarını iddia ediyor. Bu sizi verilerinizi sızdırabilecek düşmanca saldırılara karşı korumaz, ancak ileriye doğru atılmış büyük bir adımdır. Diğer sağlayıcılar da eninde sonunda benzer korumalar sunmak zorunda kalacak.
- Sızmasını istemediğiniz hiçbir şeyi yapay zekaya söylemeyin. İnternetin ilk zamanlarında “kamuya söylemeyeceğiniz şeyleri internette de söylemeyin” demiştik. Bu kural Web’de hala geçerlidir ve kesinlikle yapay zeka için de geçerlidir.
- Büyük hizmet olarak yapay zeka sağlayıcılarına (OpenAI, Microsoft, Google ve diğerleri) alternatifler olduğunu anlayın. Birkaç açık kaynaklı modeli tamamen dizüstü bilgisayarınızda çalıştırmak mümkündür; Yazılımı indirdikten sonra bulut yok, İnternet gerekmez. Bu modellerin performansı en son GPT’ye eşit olmasa da etkileyici. Llamafile, bir modeli yerel olarak çalıştırmanın en kolay yoludur. Bir şans ver.
“Kimsenin yapay zekayı kullanmaktan kaçınmasını önermiyorum. Şu ana kadar özel verilerinizin kaçma şansı çok düşük. Ama bu bir risk. Riski anlayın ve buna göre hareket edin.”
Doktor Andrew Bolster, şirketinde üst düzey yönetici, araştırma ve geliştirme Synopsys Yazılım Bütünlüğü Grubu:
“Veri Gizliliği Haftası 2024, veri sahipleri, iş dünyası liderleri ve daha da önemlisi tüketiciler için, geçtiğimiz yıl veri gizliliği ortamındaki sarsıcı değişiklikler üzerine düşünmek için harika bir fırsat.
2023’ün dönüşüm faktörü elbette Üretken Yapay Zeka’nın dünya üzerinde patlamasıydı. Yıl boyunca, bu sistemler tarafından oluşturulan içeriklerin giderek daha yenilikçi ve şaşırtıcı örnekleriyle bombardımana tutulduk, ancak aynı zamanda bu sistemlerin (Büyük Dil Modelleri gibi) her parça üzerinde açgözlülükle ‘eğitim aldığı’ çoğu zaman şövalyece bir şekilde giderek daha fazla eğitildik. insan tarafından oluşturulan içeriğin hayal edilebilecek kadar büyük bir kısmı. Sosyal medyadaki aile fotoğraflarımızdan, niş internet forumlarındaki hayran kurgu hikayelerine kadar bir dizi kuruluş, internetten ellerinden gelen ‘kamuya açık’ tüm verileri terk ederek ele geçirdi.
Bu modellerin temsil ettiği hesaplama giderleri ve önemli yatırımlar göz önüne alındığında, Google, OpenAI, Anthropic ve diğerleri gibi şirketler, bu LLM’leri, harcanan milyarlarca hesaplama saatini geri almak için mümkün olan her türlü kullanıma uyguluyorlar, ancak birkaçı yıl boyunca ortaya çıkan kritik soruların sayısı; eğer bu modeller kendilerine sunulan herhangi bir veriye göre eğitilmişse, aynı ‘içerik’ olaydan sonra ifade edilebilir mi veya modellerden başka bir şekilde çıkarılabilir mi ve eğer öyleyse, bu, bu modelleri çalıştıran işletmeler için hangi potansiyel lisans kirliliğini temsil edebilir?
Son on yılda toplum, kişiye özel alışveriş ve akışlı medya önerilerinden daha ucuz sigorta primlerine veya kişiselleştirilmiş sağlık hizmetlerine kadar her şeyi elde etmek için özel hayatlarımız, tercihlerimiz, düşüncelerimiz ve deneyimlerimiz hakkındaki verileri takas etme konusunda giderek daha rahat (veya belki de kayıtsız) hale geldi. kapsamı. Bununla birlikte, Yüksek Lisans ve diğer Üretken Yapay Zeka sistemleri artık yalnızca tükettiğimiz içeriği ve ürünleri optimize etmekle kalmıyor, aynı zamanda bunları, içeriğin yaratıcı sahipliği açısından genellikle bulanık çizgilerle, bütünüyle inşa ediyor veya halüsinasyona uğratıyor.
Her ne kadar 2023, Üretken Yapay Zekanın yılı olsa da, 2024, içerik yazarlığı, mülkiyeti ve ticarileştirmenin doğası hakkındaki temel soruların net bir şekilde odağa çıktığı ve bu belirsizliğin her iki veri üreticisi (genel halk dahil) için zorluklar yarattığı yıl olabilir. iş ihtiyaçlarını karşılamak için bu LLM araçlarından yararlanan hizmet sağlayıcıların yanı sıra. Günümüzde uygulama güvenliğinin yazılım tedarik zincirini anlama ve güvence altına almaya giderek daha fazla odaklandığı gibi, veri odaklı, LLM destekli sistemlerin, bu sistemleri hem eğitmek hem de işletmek için kullanılan verilerin kökenini ve kaynağını dikkate alması gerekebilir. gelecek.”