Bu Help Net Security röportajında, Oddity CTO’su Gerwin van der Lugt, gözetimin geleceğini ve yapay zekanın etkisini tartışıyor. Ayrıca kuruluşların sistemlerinin önyargıları sürdürmesini veya bireysel hakları ihlal etmesini nasıl önleyebileceklerini de araştırıyor.
Gözaltı merkezleri ve hapishaneler gibi hassas alanlarda gözetimin etik ve mahremiyet haklarına saygılı olmasını sağlamak için ne gibi önlemler mevcut?
Oddity nispeten genç bir şirket ve gizliliği koruyan ve etik yazılım uygulamalarını başından beri dikkate alabildik. “Tasarımdan Doğan Gizlilik” ilkelerini uyguluyoruz. Örneğin, mevcut video yönetim sistemleri zaten bu işlevselliğe sahip olduğundan, yazılımımız varsayılan ayarlarında video verilerini hiçbir şekilde saklamaz.
Ayrıca müşteri verilerini eğitim amacıyla kullanmayız. Çoğu durumda kurulumlarımız internete bağlı değildir ve bakım ve sorun giderme için fiziksel erişime ihtiyacımız vardır. Bu olumsuzluklara rağmen yine de değeceğine inanıyoruz. Özellikle gözetim altındaki kişilerin mahremiyetleri üzerinde çok az kontrole sahip olduğu gözaltı merkezleri gibi hassas alanlar söz konusu olduğunda. Sonuçta yazılımımız insanlara yardım etmeyi ve onları korumayı amaçlamaktadır ve amacımız bunu gizliliğe mümkün olduğunca az etki yaparak yapmaktır.
Sistem entegratörleri ve kuruluşlar, gözetim çözümlerinin yüksek kalitesini sağlarken ne gibi zorluklarla karşılaşıyor?
Başarılı kamera gözetimi dağıtımları, güvenlik kameraları, sensörler ve diğer donanımlar, video yönetim sistemi ve ağın kendisi arasında hassas bir etkileşim gerektirir. En büyük zorluk, modern kameraların sürekli artan bant genişliği gereksinimlerini destekleyebilecek bir ağ altyapısı oluşturmaktır.
Gözetim kurulumları zamanla büyüme eğilimindedir ve kamera sayısı arttıkça ağın bant genişliği sınırına ulaşılır. Arızalı bir kameranın değiştirilmesi, yalnızca tek bir kamerayı etkilediği için kolay bir bakım işidir. Ağ altyapısını bant genişliği miktarını iki veya üç katına çıkaracak şekilde değiştirmek çok daha zordur ve kurulum boyunca ağ donanımının kontrol edilmesini ve değiştirilmesini gerektirir.
Entegratörlerin, ihtiyaç duydukları bant genişliği miktarını azaltmak için kameraların kare hızını veya bit hızı ayarlarını azaltarak bu sorunu çözmeye çalıştıklarını sıklıkla görüyoruz. Her ne kadar ilk başta işe yarar bir çözüm gibi görünse de yapay zeka destekli gözetim için sorun yaratabilir. Makine öğrenimi modelleri, insan gözünün zorlukla algılayabileceği küçük görsel farklılıklara karşı duyarlıdır. Özellikle algoritma yüksek kaliteli girdi üzerine eğitilmişse, düşük kaliteli video akışlarıyla zorluk yaşayabilir.
Bu nedenle, sıfırdan bir gözetim ağı altyapısı oluştururken, önceden plan yapmak ve bunu bant genişliği kapasitesinde büyüme için bol miktarda alan sağlayacak şekilde inşa etmek iyi bir fikirdir. Bu, uzun vadede maliyet tasarrufu sağlayacak ve kurulumun yapay zeka destekli geleceğe hazır olmasını sağlayacaktır!
Güncelliğini yitirmiş bir gözetim sistemini modernize etmek isteyen büyük bir kuruluşa ne gibi tavsiyelerde bulunursunuz?
Fiziksel donanım açısından yukarıda tavsiyem doğrultusunda yeterli bant genişliğinin ayrılması çok önemli bir faktör.
Daha da önemlisi, gözetimin geleceği yapay zekadır ve kuruluşlar gözetim sistemlerini yapay zekayı göz önünde bulundurarak tasarlamalıdır. Tipik bir kameralı gözetim merkezinde insanların hâlâ video yayınlı matris ekranlardan oluşan duvarlara baktığı durumlarda, bir olay meydana geldiğinde bu kişiler kısa sürede proaktif olarak uyarılabilir. Aynı sayıda personel ile çok daha etkili olacaklardır.
İlk adım, en çok ilgilendiğiniz olay türlerini belirlemektir. Birçok olay türü için yapay zeka çözümleri mevcuttur. Yapay zekayı en başından itibaren dikkate almak ve yapay zeka tedarikçilerini mümkün olan en kısa sürede dahil etmek önemlidir. 2023 yılı itibariyle yapay zeka henüz insanların yerini tamamen almaya hazır değil. Kuruluşların bir yandan döngüdeki insanlarla hibrit bir dağıtım kurması, bir yandan da boşlukları izleyip doldurması akıllıca olacaktır.
Yapay zekanın gözetlemedeki rolü tartışmalı bir konudur. Bir kuruluş, sistemlerinin önyargıları sürdürmemesini veya bireysel hakları ihlal etmemesini nasıl sağlayabilir?
Yapay zeka modelleri, onları eğitmek için kullanılan veri kümelerinden etkilenir. Önyargıların oluşmasını önlemek için yapay zeka tedarikçilerinin veri kümelerini dikkatli bir şekilde ayarlaması ve dengelemesi zorunludur. Veri kümelerinin dengelenmesi, veri kümelerinde görünen insanların gerçekliğin iyi bir temsili olduğundan ve belirli insan özelliklerine karşı önyargılara sahip olmadığından emin olmayı gerektiren manuel bir işlemdir. Bizim durumumuzda, eğitim veri setlerimizin dengeli olmasını sağlamak amacıyla şiddet uygulamak için dünyanın her yerinden çeşitli aktör gruplarını kullanıyoruz. Dahası, bu tür önyargıların düzenli olarak test edilmesi uzun bir yol kat edebilir.
Dikkatlice tasarlanmış bir sistem, gizliliklerini önemli ölçüde etkilemeden insanları koruyabilir ve onlara yardımcı olabilir. Bu, yapay zeka sistemlerinin tasarlanmasından uygulamaya kadar gizliliğin dikkate alınmasını gerektirir. Yapay zeka destekli gözetimin geleceğinde gizlilik ihlallerinin azalacağına inanıyorum. Şu anda, büyük gözetim kurulumları hala insanların sürekli olarak kamera akışlarına bakmasını gerektiriyor. İnsanların yapay zeka tarafından uyarıldıktan sonra harekete geçtiği tetikleme tabanlı iş akışında, insanların gördüğü güvenlik kamerası görüntülerinin miktarı çok daha az oluyor ve dolayısıyla gizlilik ihlali riski de azalıyor.
Önümüzdeki 5-10 yıl içinde yapay zeka destekli video gözetiminin geleceğini nasıl öngörüyorsunuz?
Şu anda mevcut olan, birçok personel ve video duvarına sahip klasik kameralı gözetim merkezinin aşamalı olarak kullanımdan kaldırılacağına inanıyorum. Bunun yerine yapay zeka sistemleri, olaylar meydana geldiğinde ilgili güvenlik personelini proaktif olarak uyarır. Olayların tespit oranı %80’e, hatta daha da yükseğe (%5’ten %25’e) çıkar ve ilk müdahale ekipleri ve güvenlik personeli daha fazla yardım etme ve değerli zamanlarını video görüntülerine bakarak daha az harcama konusunda yetkilendirilecektir.