Belgelere göre ulaşım birimindeki personel, deneme sırasında daha fazla eğitim verisi toplamak için Willesden Green istasyonunda “kapsamlı simülasyonlar” gerçekleştirdi. Bunlar arasında personelin yere düşmesi de vardı ve bu testlerden bazıları istasyon kapalıyken yapıldı. “BTP’yi göreceksiniz [British Transport Police] Görüntüler düzeltilmiş olmasına rağmen, belgelerin bir başlığında istasyonun farklı yerlerinde pala ve tabanca tutan bir polis memurunun olduğu belirtiliyor. Duruşma sırasında, dosyalara göre karakoldaki silah olaylarına ilişkin herhangi bir uyarı yapılmadı.
Uyarıların çoğu, kapalı ücret kapılarının üzerinden atlayarak veya altından geçerek, kapıları açarak, açık kapılardan geçerek veya ödeme yapan birinin arkasından geçerek yolculukları için ödeme yapmaktan kaçınan kişiler için yayınlandı. TfL, ücretten kaçınmanın yıllık maliyetinin 130 milyon £’a kadar çıktığını ve deneme sırasında 26.000 ücretten kaçınma uyarısı yapıldığını söylüyor.
Testlerin tamamında kişilerin yüz görüntüleri bulanıklaştırıldı ve veriler maksimum 14 gün süreyle saklandı. Ancak duruşmanın üzerinden altı ay geçtikten sonra TfL, insanların ödeme yapmadığından şüphelenilen yüzlerin görüntülerini bulanıklaştırmaya karar verdi ve bu verileri daha uzun süre sakladı. Belgelere göre başlangıçta personelin ücret kaçırma uyarılarına yanıt vermesi planlanmıştı. Belgelerde “Ancak günlük uyarıların çokluğu (bazı günlerde 300’ün üzerinde) ve tespitlerdeki yüksek doğruluk nedeniyle sistemi uyarıları otomatik olarak onaylayacak şekilde yapılandırdık” deniyor.
Ada Lovelace Enstitüsü’nden Birtwistle, insanların bu gibi teknolojiler hayata geçirildiğinde “sağlam bir gözetim ve yönetim” beklediklerini söylüyor. Birtwistle, “Bu teknolojiler kullanılacaksa yalnızca halkın güveni, onayı ve desteğiyle kullanılmalıdır” diyor.
Duruşmanın büyük bir kısmı personelin istasyonda neler olduğunu anlamasına ve olaylara müdahale etmesine yardımcı olmayı amaçlıyordu. Dosyalarda, 59 tekerlekli sandalye uyarısının, tekerlekli sandalyeler için erişim olanakları bulunmayan Willesden Green istasyonundaki personelin “gerekli bakım ve yardımı sağlamasına” olanak tanıdığı belirtiliyor. Bu arada, sarı güvenlik çizgilerinin ötesine geçen kişiler için yaklaşık 2.200, pistin kenarından eğilen kişiler için 39 ve uzun süre bankta oturan kişiler için yaklaşık 2.000 uyarı vardı.
Belgeler, “PoC boyunca, müşterilere sarı çizgiden uzaklaşmalarını hatırlatan personel tarafından yapılan kamu duyurularının sayısında büyük bir artış gördük” diyor. Ayrıca sistemin istasyonun girişlerinde “kabaca uyuyanlar ve dilenciler” için uyarılar ürettiğini ve bunun personelin “durumu uzaktan izlemesine ve gerekli bakım ve yardımı sağlamasına” olanak tanıdığını iddia ediyorlar. TfL, sistemin istasyonlardaki personel kalitesini artırmaya ve yolcular için daha güvenli hale getirmeye yardımcı olmak amacıyla denendiğini belirtiyor.
Dosyalar, AI tespit sisteminin ne kadar doğru olduğuna dair herhangi bir analiz içermiyor; ancak çeşitli noktalarda algılamanın ayarlanması gerekiyordu. Access Nows’tan Leufer, “Nesne tespiti ve davranış tespiti genellikle oldukça kırılgandır ve kusursuz değildir” diyor. Bir keresinde sistem, gerçekte tren makinistleri trenden ayrılırken insanların yetkisiz bir alanda olduğunu belirten uyarılar oluşturdu. Belgeler, kameraya yansıyan güneş ışığının da onları daha az etkili hale getirdiğini söylüyor.