Lucy Faithfull Vakfı tarafından yürütülen Stop It Now yardım hattının yöneticisi Donald Findlater, sohbet robotunu kullanmanın daha doğrudan ve belki de daha ilgi çekici olduğunu söylüyor. Chatbot, Mart ayında 170.000’den fazla kez göründükten sonra, 158 kişi yardım hattının web sitesine tıkladı. Rakam “mütevazı” olsa da Findlater, bu kişilerin önemli bir adım attığını söylüyor. Findlater, “Bunu yapmak için oldukça fazla engelin üstesinden geldiler” diyor. IWF’den Hargreaves, “İnsanları yolculuğa yeni başlayan her şey bir başarı ölçüsüdür” diye ekliyor. “İnsanların bunu kullandığını biliyoruz. Yönlendirme yaptıklarını biliyoruz, hizmetlere eriştiklerini biliyoruz.”
Pornhub, web sitesindeki videoların denetlenmesi konusunda damalı bir üne sahiptir ve raporlar, kadınların ve kızların kendi videolarını rızaları olmadan nasıl yüklediklerini ayrıntılı olarak ortaya koymaktadır. Aralık 2020’de Pornhub, web sitesinden 10 milyondan fazla videoyu kaldırdı ve kullanıcıların kimliklerini doğrulamak için içerik yüklemesini zorunlu kılmaya başladı. Geçen yıl, Pornhub’dan 9.000 adet CSAM kaldırıldı.
Pornhub sözcüsü, “IWF sohbet robotu, kullanıcıların platformumuzda bu tür yasa dışı materyaller bulamayacakları konusunda eğitilmelerini ve davranışlarını değiştirmeye yardımcı olmak için onları Şimdi Durdur’a yönlendirmelerini sağlamak için başka bir koruma katmanıdır” dedi. yasadışı malzeme için “sıfır tolerans” ve CSAM ile ilgili net politikalara sahiptir. Chatbot projesine dahil olanlar, Pornhub’ın katılmak için gönüllü olduğunu, bunun için para almadığını ve sistemin harici akademisyenler tarafından değerlendirilmeden önce önümüzdeki yıl Pornhub’ın İngiltere web sitesinde çalışacağını söylüyor.
Stanford İnternet Gözlemevi’nde projeyle bağlantılı olmayan bir politika analisti olan John Perrino, son yıllarda çevrimiçi zararlarla mücadele etmek için “tasarım gereği güvenlik” kullanan yeni araçlar geliştirmek için bir artış olduğunu söylüyor. Perrino, “Kullanıcılara yardımcı olmak ve onları sağlıklı kaynaklara ve sağlıklı alışkanlıklara yönlendirmek için bir politika ve kamu algısı doğrultusunda ilginç bir işbirliği” diyor. Daha önce bir pornografi web sitesi için tam olarak buna benzer bir aracın geliştirildiğini görmediğini de ekliyor.
Bu tür bir teknik müdahalenin insanları potansiyel çocuk cinsel istismarı materyallerinden uzaklaştırmada bir fark yaratabileceğine ve çevrimiçi CSAM için yapılan aramaların sayısını azaltabileceğine dair bazı kanıtlar zaten var. Örneğin, 2013 yılına kadar Google, insanlar CSAM ile bağlantılı olabilecek terimler aradığında uyarı mesajları sunmak için Lucy Faithfull Vakfı ile birlikte çalıştı. Google, 2018’de yaptığı açıklamada, uyarılar sonucunda çocuklara yönelik cinsel istismar materyali arama sayısında “on üç kat azalma” olduğunu söyledi.
2015’te yapılan ayrı bir araştırma, çocuk cinsel istismarıyla bağlantılı terimlere karşı engelleme önlemleri uygulayan arama motorlarının, önlem almayanlara kıyasla arama sayısının önemli ölçüde azaldığını buldu. Almanya’daki yardım hatlarına CSAM arayan kişileri yönlendirmek için tasarlanmış bir dizi reklam, üç yıllık bir süre içinde 240.000 web sitesi tıklaması ve 20 milyondan fazla gösterim gördü. Kumar web sitelerinde açılan uyarı mesajlarına bakan 2021 tarihli bir araştırma, dürtülerin “sınırlı bir etkisi” olduğunu buldu.
Chatbot ile ilgili olanlar, insanların çevrimiçi olarak çocuk cinsel istismarı materyali bulmasını engellemenin tek yolu olarak görmediklerini vurguluyor. “Çözüm, internette çocuklara yönelik cinsel istismar talebini durduracak sihirli bir kurşun değil. Belirli bir ortamda konuşlandırılır, ”diyor Sexton. Ancak sistem başarılı olursa, diğer web sitelerine veya çevrimiçi hizmetlere sunulabileceğini de ekliyor.
Findlater, “İster çeşitli sosyal medya sitelerinde olsun, ister çeşitli oyun platformlarında olsun, arayacakları başka yerler de var” diyor. Ancak bu gerçekleşirse, ortaya çıkmasına neden olan tetikleyicilerin değerlendirilmesi ve sistemin bulunduğu web sitesi için yeniden oluşturulması gerekir. Örneğin, Pornhub tarafından kullanılan arama terimleri bir Google aramasında çalışmaz. Findlater, “Bir dizi uyarıyı başka bir bağlama aktaramayız” diyor.