Herkes yapay zeka çağına girdiğimizi fark etti. Yapay zeka her yerde: müşteri deneyimini geliştirmek, maliyetleri azaltmak, çarpıcı ve gerçeküstü görüntüler oluşturmak için. Yapay Zeka pazarının büyüklüğünün, yıldan yıla %28,46 büyüme öngörüsüyle 184,00 milyar ABD doları değerine ulaşması bekleniyor. Bu arada startup yaratmada patlama yaşanmaya devam ediyor ve birçoğunun amaç ve araçlarında ağırlıklı olarak yapay zeka yer alıyor; kısmen bu gerçekten yeni bir sınır olduğu için ve kısmen de anlaşılır bir şekilde para toplamanın en çok satan noktalarından biri olduğu için.
Büyük şirketler modellerini geliştirmeye, giderek daha büyük veri kümeleri üzerinde eğitim vermeye ve “en iyi model” mücadelesini kazanmak için yetenekler eklemeye çalışıyor. Öte yandan birçok startup, bu modelleri, kullanıcının onsuz nasıl yaşayabileceğini bilmediği, mükemmel olması beklenen hizmetlerle birlikte uygulamalar geliştirmek için kullanıyor. Ancak yine de bu yapay zeka devriminde biraz kenara bırakılan güvenlik ve gizlilik yönleri var. Özellikle gizlilik endişeleri çoğu zaman göz ardı edilirken, buradaki tehlike çok büyük: Bu mücadelede kişisel verileriniz kullanılıyor ve en benzersiz ve özel varlıklarınızın bir kısmını buraya sızdırıyorsunuz. Son zamanlarda yapılan bir araştırma, endişe verici bir şekilde, geliştiriciler için yapay zekanın siber suçlardan hemen sonra mahremiyete yönelik en büyük ikinci tehdit olduğunu gösteriyor: gerçek şu ki, giderek daha karmaşık hale gelen kötü amaçlı araçların potansiyel olarak yeni nesil siber suçluların eline geçmesiyle, yapay zeka muhtemelen en büyük tehdit haline gelecektir. birkaç yıl içinde bir numaralı tehdit.
Mahvolduk mu? Elbette çözümler ya da en azından hafifletmeler olabilir. Öncelikle kullanıcı olarak özel verilerinizi şirketlere göndermeyi reddedebilirsiniz (ya da reddetmelisiniz?). Evet, sizin haberiniz olmadan, kabul etmeden gönderilen veriler var ki bu da yetkililerin düzenleme yapması gereken bir konu. Burada kasten üçüncü kişilere gönderdiğiniz verilerden bahsediyoruz. Elbette, gelecekteki hastalıkları tahmin etmek veya atalarınızı bulmak için DNA’nızın analizini yaptırmak harika görünüyor. Ancak verilerinizi göndermek DNA’nızı sonsuza kadar sızdırır. Bu üzücü çünkü son zamanlarda bu hesaplamaların şifrelenmiş DNA üzerinden hesaplamalarla değiştirilmesinin mümkün olduğu ve sağlayıcının verilerinizi net bir şekilde görmesinin mümkün olmadığı gösterildi. Burada açıkça büyüyen farklı Gizliliği Artırıcı Teknolojilerden (PET’ler) ve özellikle de Tam Homomorfik Şifrelemeden (FHE) bahsediyoruz. FHE ile aynı hizmetlere, yani ML çıkarımlarına sahip olabilirsiniz ancak bunu şifrelenmiş veriler üzerinde yapabilirsiniz. Ödenmesi gereken bir maliyet var: Hizmet sağlayıcı için daha fazla entegrasyon çalışması (FHE şirketleri tarafından FHE araç takımlarını kriptografi uzmanı olmayanlar için daha kullanıcı dostu hale getirmek için çok fazla çaba sarf edilmiş olsa bile) ve ayrıca daha uzun bir çıkarım. Verilerinizi gizli tutmak için tüm bunlar çoğu durumda kesinlikle kabul edilebilir: Bir dakika içinde DNA soy hesaplaması yapmak yerine belki 10 dakika veya 1 saat sürebilir, ancak kullanıcılar olarak bizim için bu çok daha iyidir ve biz de bunu yaparız. Verilerimiz üzerindeki bu ekstra güvenlik için ödeme yapmayı kabul edersiniz.
Peki ya eğitim? Burada da şirketleri PET’lerle şifrelenmiş veri kümeleri üzerinde eğitim almaya teşvik edebiliriz. Elbette burada yetkililerin ve düzenlemelerin şirketleri kolay ama özel olmayan yoldan kaçınmaya zorlamak için çaba göstermesi gerekebilir. Açık verilerin eğitim için kullanılması, verilerinizin gelecekte başkalarının yapacağı çıkarımlarda sızdırılması utanç verici. Şifrelenmiş verilerle ilgili eğitimin de en azından bir dereceye kadar yapılabilir olduğu görüldü ve düzenleme veya endişelerin, bunu daha da pratik hale getirmek için çabaları iki katına çıkarması gerekiyor. Ancak burada PET’lerin tüm sorunun çözümü olmadığını ve Diferansiyel Gizlilik gibi diğer güvenlik önlemlerine de ihtiyaç duyulacağını unutmayalım.
Önemli olan, büyük veri kümelerine olan ihtiyacı, aynı zamanda gizlilikten ödün vermeden sonuçları iyileştirebilecek işbirlikçi bir yaklaşımla uzlaştırabilmektir. Açık kaynak kaynaklarının (araştırma makaleleri, yazılımlar, araçlar) geliştirilmesi ve kullanılması yetkililer ve düzenleyiciler tarafından teşvik edilmeli ve şirketler tarafından değer verilmelidir. Örneğin şirketimiz, geliştiricilerin, kullanıcılarına yönelik uygulamalarında gizlilik eklemeleri için açık kaynaklı araçlar üretmektedir. Araçlarımız üzerinde, herhangi bir özel kriptografi bilgisine ihtiyaç duymadan, kullanımlarını kolaylaştırmak için çalıştık. İnsanların mahremiyete önem vermesi gerekmiyor; önemli olmadığı için değil, fiili olarak her yerde ve şeffaf bir şekilde orada olması gerektiği için. Bizim durumumuzda basitlik, geliştiricilerin zaten alışık olduğu geliştirme araçlarını kullanarak geldi: Yapay Zeka için Python, Blockchain için Solidity. Yapay zeka çerçevemiz için Scikit-Learn ve PyTorch’tan ilham aldık, öyle ki bu çerçeve deneyimli makine öğrenimi uygulayıcılarının zaten aşina olduğu bir yapıdır. Artık FHE kullanmanın her zamankinden daha kolay olduğuna inanıyoruz.
Bu, kişisel bilgileri istenmeyen ifşalara karşı korumak ve gelişen teknolojilere olan kamu güveninin aşınmamasını sağlamak için sağlam güvenlik önlemlerine ve şeffaf uygulamalara olan acil ihtiyacın altını çiziyor.
Yazar Hakkında
Benoit Chevallier-Mames, Gizliliği Koruyan Bulut ve ML Başkan Yardımcısı Zama, bir güvenlik mühendisi ve araştırmacıdır ve şu anda Zama’da Bulut ve ML bölümünü yöneterek bir FHE derleyicisi ve gizliliği koruyan ML kitaplıkları geliştirmektedir. Yan kanal güvenliği, kanıtlanabilir güvenlik, beyaz kutu kriptografisi, tamamen homomorfik şifreleme ve son zamanlarda makine öğrenimi gibi çok çeşitli alanlarda kriptografik araştırmalar ve güvenli uygulamalar arasında 20 yıldan fazla zaman harcadı.
Zama’dan önce yedi yıl boyunca Gemplus’ta akıllı kartlar üzerinde genel anahtar algoritmalarını güvenli bir şekilde uyguladı, Fransız devlet kurumu ANSSI ajansı için çalıştı ve ardından 12 yıl boyunca Apple’da beyaz kutu uygulamaları tasarlayıp geliştirdi.
Benoit’e çevrimiçi olarak LinkedIn’den ve şirket web sitemiz https://www.zama.ai/ adresinden ulaşılabilir.