<mark id="oztn4"></mark>
0
| 本文作者： 周翔 | 2017-01-29 18:00 |
雷鋒網(wǎng)按：在2015年的DRAPA（美國(guó)國(guó)防先進(jìn)研究項(xiàng)目局）機(jī)器人挑戰(zhàn)賽結(jié)束之后，Gill Pratt推動(dòng)了豐田研究所（Toyota Research Insititue，簡(jiǎn)稱TRI）在美國(guó)的成立。這個(gè)研究所將在未來(lái)五年的時(shí)間里投入10億美元，用來(lái)研究機(jī)器人和人工智能。
如同外界預(yù)期的那樣，TRI將主攻自動(dòng)駕駛技術(shù)：豐田與其他汽車廠商一樣，對(duì)如何利用自動(dòng)系統(tǒng)讓汽車變得更安全、更高效以及更舒適非常感興趣。
IEEE Spectrum在CES期間采訪了Gill Pratt，探討了以下話題：
沒(méi)有哪家廠商的自動(dòng)駕駛技術(shù)接近Level 5；
對(duì)自動(dòng)駕駛技術(shù)過(guò)度信任的兩難困境；
怎樣的自動(dòng)駕駛汽車才算足夠好？
機(jī)器學(xué)習(xí)以及“The Car Can Explain”項(xiàng)目；
模擬人類司機(jī)可能會(huì)做出的瘋狂行為；
計(jì)算機(jī)硬件需要一場(chǎng)革命；
人和機(jī)器：到底誰(shuí)該守衛(wèi)誰(shuí)？
雷鋒網(wǎng)對(duì)采訪內(nèi)容做了不改變?cè)敢獾木幾g。
問(wèn)：在豐田新聞發(fā)布會(huì)上，您說(shuō)Level 5級(jí)別（SAE）的自動(dòng)駕駛“只是一個(gè)美好的目標(biāo)，不管是汽車界還是IT界，沒(méi)有哪家公司的自動(dòng)駕駛技術(shù)接近這一級(jí)別。”這和我們?cè)谡箷?huì)上聽到和看到的完全不一樣，更不用說(shuō)我們最近看到的各種宣傳演示視頻。
Pratt：最重要的是要理解并不是所有的路況都相同。大多數(shù)時(shí)候，我們的路況并不復(fù)雜，因此現(xiàn)在的自動(dòng)駕駛技術(shù)能夠讓我們時(shí)不時(shí)打個(gè)盹，走走神或者聊聊天。但有些路況可能很復(fù)雜，現(xiàn)有的技術(shù)應(yīng)付不了。
我們需要關(guān)注的是：這種情況出現(xiàn)的概率——能否確保汽車在給定的路線上，全程自主操控而沒(méi)有任何問(wèn)題。Level 5要求汽車在任何情況下都不需要人類介入。
因此當(dāng)一家公司說(shuō)，“我們可以在這片繪制的區(qū)域?qū)崿F(xiàn)全自動(dòng)駕駛，我們幾乎為每一個(gè)區(qū)域都繪制了地圖”，這并不意味著Level 5。實(shí)際上，這是Level 4。如果碰到這樣的情況，我會(huì)繼續(xù)追問(wèn)，“不論白天、晚上，不論什么天氣，不論什么交通狀況嗎？”
你會(huì)發(fā)現(xiàn)這個(gè)分級(jí)概念有點(diǎn)模糊，并沒(méi)有很清晰的界定。Level 4或者“完全自動(dòng)駕駛”這樣措辭的問(wèn)題在于，它概念特別寬泛。
比如，我的車能夠在一條專屬車道上實(shí)現(xiàn)全自動(dòng)駕駛，這與火車在軌道上行駛并沒(méi)有太大差別。而雨天在羅馬混亂的馬路上行駛則是一件完全不同的事，因?yàn)檫@要難得多。
“完全自動(dòng)駕駛”這個(gè)詞匯的意義太過(guò)寬泛，你必須問(wèn)清楚，“真正的意思是什么？什么才是實(shí)際情況？”通常你會(huì)發(fā)現(xiàn)他口中的“完全自動(dòng)駕駛”有諸多限制，比如車流、天氣、白天還是夜晚等等。
問(wèn)：這些信息給消費(fèi)者帶來(lái)了期望值的問(wèn)題，他們每天都聽到這些新詞匯、新概念，卻不知道它們到底意味著什么。
Pratt：你說(shuō)的很對(duì)。作為消費(fèi)者，我們喜歡自己在腦海里建立一個(gè)模型，來(lái)預(yù)測(cè)這種自動(dòng)駕駛技術(shù)到底有多好。這種模型往往是帶個(gè)人感情的：我們只會(huì)關(guān)注某些事情，而自動(dòng)駕駛技術(shù)的不完善可能會(huì)被選擇性地忽視，這讓我們要么過(guò)度信任，要么低估自動(dòng)駕駛的能力。
豐田認(rèn)為，對(duì)消費(fèi)者進(jìn)行教育，并讓他們真正了解技術(shù)的局限性非常重要。整個(gè)業(yè)界需要共同努力，從客戶的角度出發(fā)，確保他們真正了解自動(dòng)駕駛汽車的好處，以及它能做什么、不能做什么。這樣消費(fèi)者就不會(huì)盲目信任自動(dòng)駕駛。
過(guò)度信任是另一個(gè)大問(wèn)題，一旦你將車銷售給消費(fèi)者，當(dāng)后者在適宜環(huán)境下體會(huì)到自動(dòng)駕駛的種種好處，你就很難再影響他們。
隨著自動(dòng)駕駛汽車技術(shù)的提升，需要人類介入的情況會(huì)越來(lái)越少，這將加劇過(guò)度信任的問(wèn)題。因?yàn)橛脩魰?huì)這樣說(shuō)，“它之前不需要我接手，現(xiàn)在也不需要，未來(lái)也沒(méi)有這個(gè)必要。”
從某些方面來(lái)說(shuō)，最糟糕的情況是：一輛自動(dòng)駕駛汽車每行駛20萬(wàn)英里才需要人類接手一次，而一個(gè)平均行駛里程為10萬(wàn)英里的普通司機(jī)則很難遇到需要自己接管的情況。但有時(shí)，當(dāng)汽車突然發(fā)出預(yù)警，提示需要司機(jī)接手，對(duì)于一個(gè)已經(jīng)很久沒(méi)有碰到過(guò)這種情況的司機(jī)來(lái)說(shuō)，可能會(huì)因?yàn)橥耆湃纹嚕栌跍?zhǔn)備。
因此，我們也擔(dān)心：我們做得越好，過(guò)度信任帶來(lái)的問(wèn)題就會(huì)越大。
問(wèn)：你認(rèn)為L(zhǎng)evel 5級(jí)別的全自動(dòng)駕駛現(xiàn)實(shí)嗎？或者說(shuō)可能嗎？
Pratt：我認(rèn)為是可能的，目前我們的標(biāo)準(zhǔn)參考的是人類司機(jī)的標(biāo)準(zhǔn)。
我在發(fā)布會(huì)上也提出了這個(gè)問(wèn)題：“我們應(yīng)該使用怎樣的標(biāo)準(zhǔn)來(lái)判斷這個(gè)系統(tǒng)要達(dá)到什么水平？”我認(rèn)為這是非常重要的，但現(xiàn)在還沒(méi)有答案。目前，自動(dòng)駕駛汽車離“完美”還需要很長(zhǎng)時(shí)間，因此不可能完全避免事故的發(fā)生。
如果自動(dòng)駕駛系統(tǒng)的駕駛水平比人類好10%，社會(huì)能接受嗎？還是說(shuō)要好10倍才會(huì)被社會(huì)接受？我不知道。
老實(shí)說(shuō)，作為技術(shù)工作者，我們并不能告訴大眾這個(gè)問(wèn)題的答案，這個(gè)角色是屬于政府、屬于每一個(gè)將會(huì)被影響的人。“能夠拯救一個(gè)生命才算足夠好。”或者說(shuō)，“只有當(dāng)它比人類駕駛好10倍時(shí)，我們才會(huì)接受它。”我不確定。但我認(rèn)為，在有答案之前，我們必須非常謹(jǐn)慎：不要引入不符合社會(huì)預(yù)期的技術(shù)。
在談到自動(dòng)駕駛汽車安全時(shí)，我有時(shí)也會(huì)和別人一樣，試圖證明“就算自動(dòng)駕駛汽車將安全系數(shù)提高了1%，我們也應(yīng)該推廣它。”從理性的角度來(lái)看，這是正確的，但也是一件感性的事情。
人類并不理性：如果將空難作為類比，毫無(wú)疑問(wèn)，飛機(jī)是最安全的旅行方式，你應(yīng)該永遠(yuǎn)不需要擔(dān)心空難。但飛機(jī)也可能會(huì)失事。當(dāng)看過(guò)空難之后，我們的恐懼會(huì)被放大，然后開始擔(dān)心自己搭乘的飛機(jī)是否也會(huì)失事。
理性地說(shuō)，這種擔(dān)憂毫無(wú)意義：汽車的事故率要比飛機(jī)高得多，但是只要飛機(jī)失事就會(huì)被占據(jù)新聞?lì)^條，最后，我們開始擔(dān)憂飛機(jī)而不是汽車。
對(duì)于人類駕駛造成的事故，我們可能會(huì)想，“這可能發(fā)生在我身上，我也可能犯這樣的錯(cuò)。”如果是一臺(tái)機(jī)器，我擔(dān)心人們并不會(huì)因此產(chǎn)生同理心，因?yàn)樗麄冎粫?huì)希望這臺(tái)機(jī)器是完美、不會(huì)出錯(cuò)的。我們知道，AI系統(tǒng)，特別是基于機(jī)器學(xué)習(xí)的AI系統(tǒng)，并不是十全十美、毫無(wú)缺點(diǎn)的。
由于通過(guò)傳感器獲取的外部信息維度太大，汽車會(huì)接收以前從未訓(xùn)練過(guò)的信息，我們期望它能夠根據(jù)這些信息對(duì)周圍環(huán)境做出合理認(rèn)知。
每隔一段時(shí)間，當(dāng)我們?nèi)〉眯逻M(jìn)展時(shí)，就可能因?yàn)檎J(rèn)知系統(tǒng)的錯(cuò)誤，導(dǎo)致事故發(fā)生。當(dāng)事故發(fā)生后，我們能夠說(shuō)什么？我們又要責(zé)怪誰(shuí)？我們不知道這個(gè)答案，但這是一個(gè)非常重要的問(wèn)題。
問(wèn)：前谷歌自動(dòng)駕駛汽車負(fù)責(zé)人、現(xiàn)TRI CTO James Kuffner在CES上談到了云機(jī)器人。自動(dòng)駕駛汽車不可能完全避免事故，但是每當(dāng)事故發(fā)生之后，汽車廠商能否查出事故的原因，并及時(shí)給推送軟件更新，防止此類事故再次發(fā)生？
Pratt：我認(rèn)為這是很有可能的。
實(shí)際上，如果做不到這一點(diǎn)才會(huì)讓人驚訝。我們有非常詳細(xì)的駕駛?cè)罩荆瑏?lái)記錄車禍時(shí)的情況。你問(wèn)了一個(gè)很有趣的問(wèn)題：我們能夠找到真正的事故原因嗎？
為什么說(shuō)有趣呢？因?yàn)闄C(jī)器學(xué)習(xí)系統(tǒng)，特別是深度學(xué)習(xí)，雖然有很強(qiáng)悍的性能表現(xiàn)，但實(shí)際上它并不會(huì)通過(guò)分析得出答案，也正是如此，才讓尋找事故的原因變得非常困難。
我們?cè)贛IT以及其他地方都有研究，希望能夠在這方面取得進(jìn)展。目前我們資助MIT教授Gerald Sussman的一個(gè)項(xiàng)目——“The Car Can Explain”，就在做這一方面的研究。
日志就在那里，但是誰(shuí)才應(yīng)該為錯(cuò)誤負(fù)責(zé)？這是一個(gè)更難的問(wèn)題。我們能做些什么來(lái)確保這種錯(cuò)誤不會(huì)再次發(fā)生？“我今天修補(bǔ)了這個(gè)漏洞，明天又修補(bǔ)了另一個(gè)漏洞......”但是這個(gè)系統(tǒng)太過(guò)龐大，很多地方都可能會(huì)出現(xiàn)問(wèn)題。
事實(shí)證明，測(cè)試、測(cè)試、測(cè)試是最重要的事情。在全球范圍內(nèi)，汽車行駛的總里程約為10萬(wàn)億公里。因此，如果你只測(cè)試幾百公里，它很難覆蓋到所有情況。你需要通過(guò)另一種方式來(lái)提升它的能力，解決這個(gè)問(wèn)題——加速模擬測(cè)試就是其中關(guān)鍵一環(huán)。我們不會(huì)模擬那種完美情況：風(fēng)和日麗、交通順暢，我們要模擬的是惡劣的天氣和環(huán)境。
Rod Brooks有句話說(shuō)的很對(duì)：“模擬是通往成功的必經(jīng)之路”。同時(shí)，我們很清楚模擬的種種缺陷，因此我們也做了很多路測(cè)來(lái)驗(yàn)證模擬的結(jié)果。我們也會(huì)使用模擬器測(cè)試一些不屬于常規(guī)測(cè)試的項(xiàng)目，這些項(xiàng)目很可能是事故發(fā)生的原因。
比如，當(dāng)一輛自動(dòng)駕駛汽車碰到路怒癥司機(jī)，就算那個(gè)司機(jī)不遵守規(guī)則，不按常理出牌，自動(dòng)駕駛系統(tǒng)也需要做出正確的決策。
我們不會(huì)在現(xiàn)實(shí)中反復(fù)測(cè)試這種情況，因?yàn)榇蠖鄶?shù)時(shí)候都是以撞車而收?qǐng)觥Ｎ覀儠?huì)隔一段時(shí)間測(cè)一次，同時(shí)，通過(guò)模擬來(lái)增強(qiáng)自動(dòng)駕駛系統(tǒng)的性能，不過(guò)這個(gè)模擬的過(guò)程非常困難。最終，這將我們帶到了另一個(gè)領(lǐng)域：形式化方法（formal methods，適合于軟件和硬件系統(tǒng)的描述、開發(fā)和驗(yàn)證）。
我們希望將模擬和形式化方法結(jié)合起來(lái)，但最終還是需要路測(cè)。深度學(xué)習(xí)是很了不起的方法，但是它并不能保證所有輸入和決策行為都是正確的，想要確保它們都正確也是一件非常困難的事情。
問(wèn)：不論是什么級(jí)別的自動(dòng)駕駛汽車，對(duì)于它們來(lái)說(shuō)，人類都是最不可控的因素。每次路測(cè)，都會(huì)遇到各種人類行為，你們是如何模擬這些只有人類才會(huì)做的瘋狂的事情？
Pratt：其實(shí)這和我們模擬天氣或交通狀況類似。想要完全模擬人類的行為很難，因?yàn)槊總€(gè)人都不一樣，存在太多可能性，但我們認(rèn)為這在某種程度上是可行的。
作為一個(gè)司機(jī)，我們可以利用心智理論（一種能夠理解自己以及周圍人類心理狀態(tài)的能力）想象其他司機(jī)駕駛時(shí)的行為。
首先，在自己的頭腦里模擬一遍，比如當(dāng)我們碰到“four way stop”（每個(gè)方向都有停車標(biāo)志的十字路口）時(shí)，假如我是司機(jī)，會(huì)怎么做？心智理論意味著模擬是一件可能的事情，因?yàn)槲覀兡軌蛲ㄟ^(guò)建立統(tǒng)計(jì)模型來(lái)預(yù)測(cè)其他人會(huì)有怎樣的行為。
問(wèn)：有時(shí)候，人類作出的反應(yīng)并不一定就是安全的行為。你們?nèi)绾谓桃惠v汽車在這樣的環(huán)境下做決策？
Pratt：這是一個(gè)很有趣的問(wèn)題。
當(dāng)你在高速公路上行駛時(shí)，如果最高限速是55英里/小時(shí)，你是會(huì)開到55英里/小時(shí)？還是和周圍司機(jī)差不多的速度？什么才是最安全的？
我不想給出一個(gè)官方回答，但這是一個(gè)難題，我們也與豐田法務(wù)部門探討過(guò)這個(gè)問(wèn)題。他們也認(rèn)為很難給出一個(gè)確定答案。
問(wèn)：在新聞發(fā)布會(huì)之后，您提到了一些關(guān)于如何為電動(dòng)汽車中的車載計(jì)算機(jī)供電以及如何散熱是一個(gè)大難題。我們一直專注于自動(dòng)駕駛汽車在決策制定方面遇到的困難，但還有哪些方面也是需要我們弄清楚的？
Pratt：我喜歡這個(gè)領(lǐng)域，是因?yàn)槲疑砗笥幸恢９ビ布年?duì)伍。
過(guò)去，我研究過(guò)神經(jīng)生理學(xué)。計(jì)算效率非常重要，我們大腦的功耗只有50瓦，然而大部分的自動(dòng)駕駛系統(tǒng)功耗高達(dá)幾千瓦。我們大腦不止在處理駕駛這一件事情，而是會(huì)同時(shí)思考其他事情。或許，真正分配給駕駛的也就10瓦。
目前我們還不知道給自動(dòng)駕駛汽車配備多高的計(jì)算性能才算是合適的。很有可能，我們將計(jì)算性能提高10倍，自動(dòng)駕駛系統(tǒng)的性能并不會(huì)提升10倍，而只是有明顯改善。如果我們將計(jì)算性能提高100倍，或許自動(dòng)駕駛系統(tǒng)仍然有提升空間，并有所改善。
自動(dòng)駕駛系統(tǒng)的性能會(huì)持續(xù)提升，但我不知道這會(huì)是一條怎樣的增長(zhǎng)曲線。因此，除了軟件、測(cè)試等工作，我們還需要重新設(shè)計(jì)計(jì)算機(jī)硬件，讓它變得和我們的大腦一樣高效。
至于你提到的其他需要解決的問(wèn)題，我認(rèn)為傳感器還有很大的發(fā)展空間。
激光雷達(dá)確實(shí)很不錯(cuò)，但是還有很大的改善空間。比如，采樣密度仍然較低，在探測(cè)遠(yuǎn)處的汽車時(shí)，并不能和人類視覺(jué)相提并論。又比如，對(duì)于Level 3級(jí)別的自動(dòng)駕駛汽車來(lái)說(shuō)，需要預(yù)留時(shí)間讓司機(jī)作出反應(yīng)——除非你的傳感器能夠探測(cè)到并理解遠(yuǎn)方發(fā)生的事情，否則不可能提前提醒你。
此外，傳感器還需要便宜、防震，并且能夠持續(xù)工作10到20年。大多數(shù)人認(rèn)為汽車的質(zhì)量不高，實(shí)際上是非常高的。我曾經(jīng)在DRAPA做過(guò)很多軍用規(guī)格的產(chǎn)品，但是想要達(dá)到與汽車相當(dāng)?shù)馁|(zhì)量是非常困難的。
比如攝像頭，汽車可能需要在沙漠或者阿拉斯加等不同的環(huán)境中行駛，那么就會(huì)有鹽、銹等腐蝕性物質(zhì)，甚至屏幕被灰塵覆蓋等各種情況。因此想要保證汽車傳感器在不同的環(huán)境下持續(xù)正常工作，這是相當(dāng)困難的。
我認(rèn)為，這個(gè)領(lǐng)域的技術(shù)人員普遍有一個(gè)共同的愿望，那就是媒體、特別是公眾能夠更好地被教育，真正理解這個(gè)行業(yè)正在發(fā)生的事情。比如像“完全自動(dòng)駕駛”這種措辭就很容易被誤解。“完全”意味著什么？其實(shí)有很多意思。
因此最好不要說(shuō)，“因?yàn)槲覀兿胍炀壬晕覀冃枰詣?dòng)駕駛汽車”。其實(shí)還有很多輔助人類司機(jī)的方法。大多數(shù)時(shí)候這些輔助系統(tǒng)不會(huì)被激活，只會(huì)偶爾給個(gè)警告或提示，如果有必要的話，再?gòu)乃緳C(jī)那里接管汽車。這種系統(tǒng)不需要所有情況都能勝任，只需要能處理最壞的情況就可以了。
問(wèn)：目前機(jī)器擅長(zhǎng)的往往是人類不擅長(zhǎng)的，比如需要時(shí)刻集中精神，注意前方的車輛，或者車道。這種說(shuō)法對(duì)嗎？
Pratt：很正確，人和機(jī)器是互補(bǔ)的：機(jī)器能夠一直保持警惕，不會(huì)疲倦，人類則擅長(zhǎng)處理復(fù)雜的情況，這正是機(jī)器的弱點(diǎn)。那么，我們?cè)鯓硬拍茏屵@兩者互補(bǔ)，而不是互相沖突？換一種思考方式就是：到底誰(shuí)該扮演守護(hù)者的角色？是自動(dòng)駕駛系統(tǒng)，還是人類？
目前想要讓機(jī)器守護(hù)人類需要達(dá)到的標(biāo)準(zhǔn)還很高，我們的目標(biāo)是讓人類最終并不需要再擔(dān)憂什么，把一切交給AI就好。這也是為什么豐田會(huì)采取齊頭并進(jìn)的模式。
很多公司來(lái)CES參展其實(shí)都是來(lái)賣車、賣技術(shù)的，但豐田并不需要推銷，我們希望利用這個(gè)機(jī)會(huì)來(lái)教育用戶。
問(wèn)：目前NHTSA（美國(guó)國(guó)家公路交通安全管理局）只劃分了4個(gè)等級(jí)，對(duì)嗎？
Pratt：是的。NHTSA只有4個(gè)等級(jí)，但是SAE（Society of Automotive Engineers，美國(guó)汽車工程師學(xué)會(huì)）非常聰明，他們將Level 4進(jìn)一步劃分成Level 4和Level 5。Level 5在何時(shí)何地都不需要人類接管，而Level 4在某些情況下需要人類接管。除此之外，他們?cè)诒举|(zhì)上是相同的。
雖然SAE的劃分沒(méi)什么問(wèn)題，但一直被大眾誤解。目前，很多Level 2都被稱作Level 3，這其實(shí)是錯(cuò)誤的。而Level 3的關(guān)鍵在于不需要人類一直監(jiān)管。
問(wèn)：當(dāng)司機(jī)不能接管時(shí)，是否有備用計(jì)劃（Plan B）？我記得Freightliner在介紹他們的自動(dòng)駕駛卡車時(shí)說(shuō)：如果司機(jī)不接管，就會(huì)直接停在高速公路上，因?yàn)樗恢涝撛趺醋觥?/strong>
Pratt：在SAE的分類里，并沒(méi)有提及備用計(jì)劃，比如當(dāng)車必須停下來(lái)時(shí)，應(yīng)該停靠在哪里。我在新澤西州長(zhǎng)大，那里的很多高速公路都沒(méi)有可以停靠的地方，那么你要怎么做？這也是難點(diǎn)之一。
此前，有人建議說(shuō)可以通過(guò)遠(yuǎn)程操控來(lái)解決：當(dāng)自動(dòng)駕駛汽車陷入困境的時(shí)候，它就會(huì)自動(dòng)轉(zhuǎn)接到某個(gè)呼叫中心的遠(yuǎn)程司機(jī)，讓他接管。首先，這必須要有足夠快速、穩(wěn)定的網(wǎng)絡(luò)，還要沒(méi)有黑客，沒(méi)有自然災(zāi)害。最重要的是，一個(gè)在呼叫中心的工作人員能夠瞬間作出反應(yīng)，接管并處理問(wèn)題嗎？人類不可能一直保持警惕，這是人類的弱點(diǎn)。人類也不擅長(zhǎng)及時(shí)并正確地處理突發(fā)事件。
我并不是說(shuō)這完全不可能，而是這個(gè)過(guò)程可能非常困難。
雷鋒網(wǎng)推薦閱讀：
對(duì)于全自動(dòng)駕駛，豐田研究所負(fù)責(zé)人是這么評(píng)價(jià)的
本文參考資料：
【招聘】雷鋒網(wǎng)堅(jiān)持在人工智能、無(wú)人駕駛、VR/AR、Fintech、未來(lái)醫(yī)療等領(lǐng)域第一時(shí)間提供海外科技動(dòng)態(tài)與資訊。我們需要若干關(guān)注國(guó)際新聞、具有一定的科技新聞選題能力，翻譯及寫作能力優(yōu)良的外翻編輯加入。
簡(jiǎn)歷投遞至 wudexin@leiphone.com，工作地 北京。
