İzin istemine tek bir dokunuş, bir uygulamanın kullanıcının kişisel verilerine ne kadar erişeceğine karar verebilir. Bu çağrıların çoğu yükleme sırasında gerçekleşir. Yönlendirmelerin sayısı artmaya devam ediyor ve artan baskı çoğu zaman insanları aceleye getirilmiş kararlara veya biraz rastgele hissettiren seçimlere itiyor. Yeni bir araştırma, LLM’lerin devreye girip bu seçimleri kullanıcı adına yapıp yapamayacağını inceliyor.
Erişim kontrolü isteği
Çalışma nasıl çalıştı?
Araştırmacılar, üç yüzden fazla katılımcıyla çevrimiçi bir çalışma yürüttüler ve mobil uygulamalar ve izinler genelinde on dört binden fazla erişim kontrolü kararı topladılar. Tüm görevler Android’in izin modelini takip ediyordu. Katılımcılar veri paylaşım alışkanlıklarını anlatan kısa ifadeler yazdılar, ardından senaryo bağlamı olsun ya da olmasın sunulan izin istemlerini değerlendirdiler.
Ayrıca seçilen Yüksek Lisans kararlarını da gözden geçirdiler ve bunlara katılıp katılmadıklarını derecelendirdiler. Bu, yazarların, modelin kullanıcıların daha sonra destekleyeceği bir seçim ürettiği durumları ölçmesine olanak tanıdı.
Ekip iki yaklaşımı karşılaştırdı. Genel modeller yalnızca erişim isteğini aldı. Kişiye özel modeller talebi ve katılımcının beyanını aldı. Tek bir sisteme bağlı kalmayı önlemek için çeşitli sağlayıcıların modelleri dahil edildi.
LLM’lerin doğru olduğu şeyler
Genel modeller çoğu görevde çoğunluğun tercihiyle eşleşiyordu. Modele ve görev türüne bağlı olarak kullanıcılarla anlaşma %70 ila %86 arasında değişiyordu. Erişim vermenin beklenen sonuç olduğu temel görevlerde, seçilen modeller her durumda izin veriyor.
Modeller hassas görevlerde daha dikkatli hareket etme eğilimindeydi. Bazı katılımcılar izin vermeyi seçse bile, çoğunlukla reddetmeyi seçtiler. Bu kararlar gereksiz veri erişimine maruz kalmayı azalttı.
Geri bildirim aşamasında katılımcılar model açıklamalarını gözden geçirdiler. Katılımcılar ilk başta aynı fikirde olmadıkları halde gerekçeyi okuduklarında yaklaşık yarısı kararını değiştirdi ve modele katıldı. Bu, açıklamaların kullanıcıları hızlı kararları tekrar gözden geçirmeye sevk edebileceğini gösteriyor.
LLM’lerin yetersiz kaldığı yerler
Kişiselleştirme sonuçları iyileştirdi, ancak herkes için değil. Bireysel sonuçlar, katılımcının gizlilik bildiriminin görevler sırasında aldığı kararlarla ne kadar uyumlu olduğuna bağlı olarak yukarı veya aşağı doğru değişti.
Bir katılımcının yazılı beyanı seçtiği seçeneklerle eşleşmediğinde çatışmalar ortaya çıktı. Kullanıcılar alışkanlıklarını istikrarlı bir şekilde tanımlayıp eşleşen seçimler yaptığında model sorunsuz bir şekilde uyum sağladı.
Bazı katılımcılar, isteklerin geniş çapta onaylandığını belirten ancak daha sonra bunların büyük bir kısmını reddeden açıklamalar yazdılar. Diğerleri ihtiyatlı alışkanlıkları anlattı ve ardından geniş erişime izin verdi. Bu uyumsuzluk ortaya çıktığında, kişiselleştirilmiş modeller hizalamayı azaltacak şekilde uyarlandı.
Kişiselleştirme kapsamında güvenlik sonuçları da değişti. Genel biçiminde hassas bir isteği reddeden bir model, bazen izin veren bir ifadeyle eşleştirildiğinde izin vermeye geçiş yapıyordu. Yazarlar bunu bir tasarım riski olarak belirtiyorlar.
Açıklamaların kullanıcıları nasıl etkilediği ayrı bir risktir. Kullanıcılar, hassas izinler içeren görevler de dahil olmak üzere, gerekçesini okuduktan sonra genellikle modelin kararına yöneldi. Bu, kullanıcıların açıklamayı inceledikten sonra güvenli olmayan bir kararı desteklediği durumlar yarattı.
Çalışma kurulumuna bağlı sınırlar
Araştırma, katılımcı davranışını şekillendirebilecek deneysel bir ortamda gerçekleştirildi. Her bir ipucuna günlük kullanımda olduğundan daha fazla odaklanabilirler. Aynı zamanda, seçimlerin hiçbir sonucu yoktu ve bu da daha az dikkatli yanıtlara yol açabilir.
Analiz ayrıca dar bir tehdit modeli kullanıyor. Her izin isteği, düşmanca istemleri, hazırlanmış örnekleri veya modeli güvenli olmayan sonuçlara doğru itmeye yönelik girişimleri test etmeden, basit bir giriş olarak değerlendirilir. Erişim kontrolü için Yüksek Lisans’lar etrafında oluşturulan sistemlerin, bu tür koşullara nasıl yanıt verileceği ve hangi savunmaların uygun olduğu konusunda daha fazla çalışmaya ihtiyacı olacaktır.
Yüksek Lisans’lar kendi sınırlarını getirir. Çıktılar bir çalışmadan diğerine değişebilir ve model kullanımı maliyete ve gecikmeye neden olur. Bu modellere dayanan herhangi bir sistem, bu faktörleri tekrarlanan istemlerin yüküne ve hızlı veya tutarsız kullanıcı seçimleri olasılığına karşı tartmalıdır.