2021 yılında halkla ilişkiler ekibini dağıtan Tesla, WIRED’in yorum talebine yanıt vermedi. Araştırmacıların testlerinde kullandıkları kamera sistemleri HP, Pelsee, Azdome, Imagebon ve Rexing tarafından üretildi; bu şirketlerin hiçbiri WIRED’in yorum taleplerine yanıt vermedi.
Her ne kadar NHTSA “bazı gelişmiş sürücü destek sistemleri”ndeki sorunları kabul etse de araştırmacılar net: Gözlemlenen bu acil durum ışığı etkisinin Tesla’nın Otomatik pilot sorunlarıyla ne ilgisi olduğundan emin değiller. Nassi, “Tesla’ların neden acil durum araçlarına çarptığını bildiğimi iddia etmiyorum” diyor. “Bunun hala bir güvenlik açığı olup olmadığını bilmiyorum.”
Araştırmacıların deneyleri aynı zamanda yalnızca görüntü tabanlı nesne algılamayla da ilgiliydi. Pek çok otomobil üreticisi, yoldaki engelleri tespit etmeye yardımcı olmak için radar ve lidar gibi diğer sensörleri kullanıyor. Aralarında Tesla’nın da bulunduğu daha küçük bir grup teknoloji geliştiricisi, gelişmiş yapay zeka eğitimiyle zenginleştirilmiş görüntü tabanlı sistemlerin yalnızca sürücü destek sistemlerini değil aynı zamanda tamamen otonom araçları da mümkün kılabileceğini savunuyor. Geçen ay Tesla CEO’su Elon Musk, otomobil üreticisinin vizyona dayalı sisteminin gelecek yıl kendi kendini süren otomobillere olanak sağlayacağını söyledi.
Aslında bir sistemin yanıp sönen ışıklara nasıl tepki vereceği, bireysel otomobil üreticilerinin otonom sürüş sistemlerini nasıl tasarladıklarına bağlıdır. Bazıları teknolojilerini, gerçekte engeller olduğu tamamen kesin olmayan şeylere tepki verecek şekilde “ayarlamayı” seçebilir. En uç durumda, bu seçim, örneğin yürümeye başlayan çocuk şeklindeki bir karton kutuya tepki olarak bir arabanın sert fren yapmasına neden olabilecek “yanlış pozitiflere” yol açabilir. Diğerleri teknolojilerini yalnızca gördükleri şeyin bir engel olduğundan çok emin olduklarında tepki verecek şekilde ayarlayabilir. Öte yandan, bu seçim, aracın başka bir araçla çarpışmayı önlemek için fren yapmamasına yol açabilir çünkü kendisinin başka bir araç olduğunu tamamen gözden kaçırır.
BGU ve Fujitsu araştırmacıları acil durum flaşör sorununa yönelik bir yazılım düzeltmesi ile geldi. “Araba” ve ağrı kesici “Parasetamol”ün birleşimi olan “Caracetamol” olarak adlandırılan bu araç, acil durum ışıkları yanıp sönen araçları tanımlamak için özel olarak eğitilerek “nöbet” sorununu önlemek üzere tasarlanmıştır. Araştırmacılar bunun nesne dedektörlerinin doğruluğunu arttırdığını söylüyor.
Araştırmada yer almayan San Diego’daki Kaliforniya Üniversitesi’nde bilgisayar bilimi ve mühendisliği alanında yardımcı doçent olan Earlence Fernandes, araştırmanın “sağlam” göründüğünü söyledi. “Tıpkı bir insanın acil durum flaşörleri yüzünden geçici olarak kör olabilmesi gibi, gelişmiş sürücü destek sistemi içinde çalışan bir kamera da geçici olarak kör olabilir” diyor.
MIT AgeLab’da araç otomasyonu ve güvenliği üzerine çalışan araştırmacı Bryan Reimer için makale, yapay zeka tabanlı sürüş sistemlerinin sınırlamaları hakkında daha büyük sorulara işaret ediyor. Otomobil üreticilerinin, acil durum ışıklarına duyarlılık gibi kör noktaları ortaya çıkarmak için “tekrarlanabilir, sağlam doğrulamaya” ihtiyaçları olduğunu söylüyor. Bazı otomobil üreticilerinin “teknolojiyi test edebileceklerinden daha hızlı ilerlettiğinden” endişeleniyor.