2016 yılında Tesla'nın Otopilotunun dahil olduğu ABD'deki ilk ölümcül kazadan altı hafta önce, otomobil üreticisinin başkanı Jon McNeill bunu bir Model X'te denedi ve otomatik sürüş şefi Sterling Anderson'a Elon Musk'a e-posta ile geri bildirim gönderdi.
McNeill, sistemin bir insan sürücünün akıcılığıyla mükemmel performans gösterdiğini yazdı.
O yıl 25 Mart tarihli e-postasında “Otomatik pilotta o kadar rahatladım ki, e-postalara veya çağrılara daldığım için çıkışlara doğru savruldum (biliyorum, biliyorum, önerilen bir kullanım değil),” diye yazdı.
Şimdi McNeill'in daha önce bildirilmeyen e-postası, Autopilot üzerinden Tesla'ya karşı yeni bir yasal saldırı hattında kullanılıyor.
Kaliforniya'daki bir kaza sonucu ölüm davasındaki davacıların avukatları, bir Tesla tanığına, şirketin sürücülerin sürücü destek sistemini kullanırken yolu izleyeceklerini bilip bilmediğini sorarken bir ifadede bu mesajı aktardılar. Reuters.
Otopilot sistemi açık yolda kendi kendine yön verebilir, hızlanabilir ve fren yapabilir ancak özellikle şehir içi sürüşte bir insan sürücünün yerini tam anlamıyla alamaz.
Sistemi açıklayan Tesla materyalleri, bunun arabayı otonom hale getirmediği ve “her an kontrolü ele alabilecek” “tamamen dikkatli bir sürücü” gerektirdiği konusunda uyarıyor.
18 Mart haftasında San Jose'de yargılanması planlanan dava, Mart 2018'de meydana gelen ölümcül bir kazayı içeriyor ve Tesla'nın, ilgili sürücülerin sistemi kullanırken dikkati sürdürme talimatlarına uymadığını iddia ederek Otopilot konusunda daha önce kazandığı iki California denemesini takip ediyor.
İfade tutanakları, San Jose davasındaki avukatların bu kez Tesla tanıklarından aldıkları ifadeye göre, kazadan önce otomobil üreticisinin, Autopilot'un yanlışlıkla bir engele doğru yönelmesi durumunda sürücülerin kontrolü ne kadar hızlı ve etkili bir şekilde ele alabileceğini hiç araştırmadığını gösteriyor.
Bir görgü tanığı, Tesla'nın sürücülerin dikkatini kameralarla izleyen bir sistem eklemek için 2021'e kadar beklediğini ifade etti – ilk kez düşündükten sonra yaklaşık üç yıl.
Teknoloji, sürücünün hareketlerini takip etmek ve önlerindeki yola odaklanmada başarısız olmaları durumunda onları uyarmak için tasarlandı.
Dava, San Francisco yakınlarında Apple mühendisi Walter Huang'ın ölümüne neden olan bir otoyol kazasını içeriyor. Tesla, Huang'ın kazadan hemen önce video oyunu oynadığı için sistemi kötüye kullandığını iddia ediyor.
Huang'ın ailesinin avukatları, Tesla'nın, kendi başkanı McNeill gibi sürücülerin muhtemelen sistemi belirtildiği gibi kullanmayacağını veya kullanamayacağını anlayıp anlamadığı ve otomobil üreticisinin onları korumak için hangi adımları attığı konusunda sorular soruyor.
Otonom araç hukuku uzmanları, eğer sürücüler üzerlerine düşeni yaparsa bu davanın Tesla'nın Otopilot'un güvenli olduğu yönündeki ısrarına karşı bugüne kadarki en zorlu sınav olabileceğini söylüyor.
Otomatik araç endüstrisinde deneyime sahip Cardozo hukuk fakültesi doçenti Matthew Wansley, Tesla'nın olası sürücü davranışlarına ilişkin bilgisinin yasal olarak çok önemli olabileceğini söyledi.
“Birinin sistemi kötüye kullanacağı Tesla için makul bir şekilde öngörülebilirse, Tesla'nın sistemi öngörülebilir kötüye kullanımı önleyecek şekilde tasarlama yükümlülüğü vardı” dedi.
Pepperdine hukuk fakültesi profesörü Richard Cupp, Tesla'nın, Huang'ın otomatik pilotu kasıtlı olarak kötüye kullandığını öne sürerek davacıların stratejisini baltalayabileceğini söyledi.
Ancak başarılı olursa, davacıların avukatları Autopilot üzerinden dava açacak diğer kişiler için bir plan sağlayabilir. Tesla şu anda bu tür en az bir düzine davayla karşı karşıya; bunların sekizi ölümle ilgili ve otomobil üreticisini büyük parasal kararlarla karşı karşıya bırakıyor.
Musk, Tesla ve avukatları bu habere ilişkin Reuters'in ayrıntılı sorularını yanıtlamadı.
McNeill yorum yapmayı reddetti. Anderson taleplere yanıt vermedi. İkisi de Tesla'dan ayrıldı. McNeill, General Motors ve onun sürücüsüz yan kuruluşu Cruise'un yönetim kurulu üyesidir. Anderson, sürücüsüz teknoloji şirketi Aurora'nın kurucu ortağı oldu.
Reuters Anderson'ın mı yoksa Musk'ın mı McNeill'in e-postasını okuyup okumadığını belirleyemedi.
1000'e yakın kaza
Huang'ı öldüren kaza, oto güvenlik düzenleyicilerine sunulan raporlarda Autopilot'un şüpheli bir faktör olduğu yüzlerce ABD kazası arasında yer alıyor.
ABD Ulusal Karayolu Trafik Güvenliği İdaresi (NHTSA), başlangıçta Autopilot'un kullanıldığı bildirilen en az 956 kazayı inceledi.
Ajans, Tesla'nın otomatik sürüş sistemlerini içeren ve 23 ölümle sonuçlanan kazalara ilişkin 40'tan fazla soruşturma başlattı.
NHTSA incelemesinin ortasında Tesla, daha fazla sürücü uyarısı eklemek için Aralık ayında Autopilot'a sahip 2 milyondan fazla aracı geri çağırdı. Düzeltme uzaktan yazılım güncellemesi aracılığıyla uygulandı.
Huang'ın ailesi, Autopilot'un 2017 Model X'ini otoyol bariyerine yönlendirdiğini iddia ediyor.
Tesla, Huang'ı tetikte kalmayı ve sürüşü devralmayı başaramadığını söyleyerek suçluyor. Tesla bir mahkeme dosyasında, “Yola dikkat etse bu kazayı önleme fırsatına sahip olacağı konusunda hiçbir tartışma yok” dedi.
Santa Clara Yüksek Mahkemesi yargıcı henüz jüri üyelerinin hangi delilleri dinleyeceğine karar vermedi.
Tesla aynı zamanda federal bir suç soruşturmasıyla da karşı karşıya. Reuters 2022'de şirket, arabalarının kendi kendine gidebileceğini iddia ediyor. Ekim ayında sürücü destek sistemleriyle ilgili mahkeme celpleri aldığını açıklamıştı.
Otopilot ve Tam Otomatik Sürüş olarak adlandırılan pazarlama özelliklerine rağmen Tesla, Musk'un sıklıkla dile getirdiği insan müdahalesi gerektirmeyen otonom araçlar üretme hedefine henüz ulaşamadı.
Tesla, Autopilot'un hızı çevredeki trafikle eşleştirebileceğini ve otoyol şeridinde gezinebileceğini söylüyor. Fiyatı 6000 ABD Doları (9078 ABD Doları) olan, yükseltilmiş “geliştirilmiş” Otomatik Pilot, otomatik şerit değiştirme, otoyol rampası navigasyonu ve kendi kendine park etme özelliklerini ekler.
12.000 ABD Doları tutarındaki Tam Otomatik Sürüş seçeneği, şehir sokakları için trafik ışığı tanıma gibi otomatik özellikler ekler.
'Kontrolü almaya hazırız'
Huang davasındaki davacıların avukatları, McNeill e-postasının ışığında Tesla'nın, Autopilot'un bir hata yapması durumunda sürücülerin anlık geçişler yaparak sürüşe geri dönebileceği yönündeki iddiasını sorguluyor.
Güney Carolina Üniversitesi'nden otonom araç hukuku alanında uzman profesör Bryant Walker Smith, e-postanın sürücülerin sistemi kullanırken nasıl kayıtsız kalabileceğini ve yolu görmezden gelebileceğini gösterdiğini söyledi.
Eski Tesla başkanının mesajı, “Tesla'nın sorumsuz sürüş davranışının ve dikkatsiz sürüşün araçlarında daha da cazip olduğunu kabul ettiğini doğruluyor” dedi.
Huang ailesinin avukatı Andrew McDevitt, bir transkripte göre ifade sırasında e-postanın bazı kısımlarını yüksek sesle okudu. Reuters McNeill'in notunun tam metnini elde edemedik.
Davacıların avukatları ayrıca Tesla'nın sürücü davranışları hakkında bildiklerini araştırırken Musk'ın kamuya açık yorumlarına da atıfta bulundu.
Musk, 2016'daki ölümcül kazanın ardından bir basın toplantısında, sürücülerin sistemi yoğun bir şekilde kullandıktan sonra dikkat konusunda daha fazla zorluk yaşadıklarını söyledi.
“Otomatik pilot kazalarının uzman kullanıcılar için çok daha muhtemel olduğunu” söyledi. “Bunlar acemiler değil.”
Önceki bir davada kanıt olarak sunulan bir şirket belgesi olan 2017 Tesla güvenlik analizi, sistemin hızlı sürücü tepkilerine dayandığını açıkça ortaya koydu. Tesla'nın kazandığı davalardan birinde davacılar tarafından alıntılanan belgeye göre, otopilot yüksek hızda “beklenmeyen bir direksiyon hareketi” yapabilir ve potansiyel olarak arabanın tehlikeli bir hareket yapmasına neden olabilir. Böyle bir hata, sürücünün “kontrolü devralmaya hazır olmasını ve hızla frene basabilmesini” gerektirir.
İfadelerde, bir Tesla çalışanı ve şirketin işe aldığı bir bilirkişi, otomobil üreticisinin 2018 kazasından önce sürücülerin Otopilot başarısız olduğunda görevi devralma becerisine ilişkin yürüttüğü herhangi bir araştırmayı tespit edemedi.
Tesla tarafından Otopilot hakkında tanıklık yapmaya en yetkili kişi olarak belirlenen çalışan, “Özel olarak herhangi bir araştırmadan haberim yok” dedi.
Otomobil üreticisi, yasal olarak korunan bir bilgi olduğunu öne sürerek çalışanın adını ifadelerden çıkardı.
McDevitt, Tesla uzman tanığı Christopher Monk'a, Tesla'nın Otopilot'u tasarlarken danıştığı otomatik sistemlerle insan etkileşimi konusunda herhangi bir uzmanın adını verip veremeyeceğini sordu.
İfadelere göre, sürücünün dikkatinin dağılması üzerine çalışan ve daha önce NHTSA için çalışmış olan Monk, “Yapamam” dedi.
Monk yorum taleplerine yanıt vermedi. Reuters Tesla'nın Mart 2018'den bu yana sürücülerin kontrolü ne kadar hızlı geri alabileceğini araştırıp araştırmadığını veya 2021'de etkinleştirdiği kamera izleme sistemlerinin etkinliğini araştırıp incelemediğini bağımsız olarak belirleyemedi.
Dikkat dağıtmak için sakinleştirildi
Otopilot kaynaklı beş kazayı araştıran Ulusal Ulaşım Güvenliği Kurulu (NTSB), 2017'den bu yana Tesla'nın araçlarındaki sürücü izleme sistemlerini iyileştirmesini, tam olarak nasıl yapılacağını belirtmeden defalarca tavsiye etti.
Güvenlik soruşturmaları ve araştırmaları yürüten ancak geri çağırma emri veremeyen kurum, Huang kazasıyla ilgili raporunda şu sonuca vardı: “Kazaya katkıda bulunan şey, Tesla aracının sürücü katılımını etkin bir şekilde izlememesiydi, bu da sürücünün kayıtsızlığını ve dikkatsizliğini kolaylaştırdı.”
Musk, 2016 yılındaki yorumlarında, sürücülerin ellerini direksiyonda tutmaları konusunda saatte 10'a kadar uyarıyı görmezden geldiklerini söyledi.
Tesla çalışanı, şirketin Huang'ın kazasından önce sürücülerin dikkatini izlemek için kameraları kullanmayı düşündüğünü, ancak Mayıs 2021'e kadar böyle bir sistemi tanıtmadığını ifade etti.
Musk, kamuoyuna yaptığı açıklamada, arabalarının yakında tamamen otonom ve insan pilotlu araçlardan daha güvenli olacağını düşünerek daha gelişmiş sürücü izleme sistemleri çağrılarına uzun süredir direndi.
Yapay zeka araştırmacısı Lex Fridman ile 2019'da yaptığı bir podcast'te “Sistem o kadar çok, o kadar hızlı gelişiyor ki, bu çok yakında tartışma konusu olacak” dedi. “En geç gelecek yıl, bir insanın müdahale etmesi güvenliği azaltmazsa şok olurum.”
Tesla artık araçlarının daha iyi korumaya ihtiyacı olduğunu kabul ediyor. Aralık ayında Otopilotlu araçları geri çağırdığında, sürücü izleme sistemlerinin yeterli olmayabileceğini ve geri çağırma sırasında eklediği uyarıların sürücülerin “sürekli sürüş sorumluluklarına bağlı kalmalarına” yardımcı olacağını açıklamıştı.
Ancak ABD'nin önde gelen ürün test şirketlerinden biri olan Consumer Reports'un araç teknolojisi direktör yardımcısı Kelly Funkhouser, geri çağırmanın sorunu tam olarak çözmediğini söyledi.
Otomobil üreticisinin düzeltmesinin ardından iki Tesla aracı üzerinde yapılan yol testleri, sistemin geri çağırmayı tetikleyen güvenlik endişelerini gidermede birçok açıdan başarısız olduğunu ortaya çıkardı.
Funkhouser, “Otomatik pilot genellikle iyi bir iş çıkarıyor” dedi. “Nadiren başarısız olur, ancak başarısız olur.”