<mark id="oztn4"></mark>
0
| 本文作者： 楊鯉萍 | 2019-06-03 18:17 |
雷鋒網(wǎng) AI 科技評論按：由清華大學(xué) AI 研究院張鈸院士和清華大學(xué)唐杰教授聯(lián)合發(fā)起的「AI Time」science debate 第一期，于 5 月 31 日圓滿落幕。出席嘉賓還包括中國人民大學(xué)高瓴人工智能學(xué)院院長文繼榮和搜狐網(wǎng)產(chǎn)品技術(shù)總監(jiān)楊田等人，就主題「AI 安全與倫理」展開了激烈的辯論。近來，由 AI 人臉合成技術(shù)帶來的一系列問題已引起了社會的廣泛關(guān)注，而 AI 究竟應(yīng)該如何發(fā)展？AI 革命應(yīng)做出怎樣的貢獻(xiàn)？對于這些問題進(jìn)行深入探討，刻不容緩。
圖 1 「AI Time」science debate 現(xiàn)場
Topic 1：影片《Her》中女主角那樣的智能我們能做到嗎？
本次活動由電影《Her》開場。影片講述了男主角西奧多（作家）在結(jié)束了一段令他心碎的愛情長跑之后，與電腦操作系統(tǒng)里有著性感嗓音且風(fēng)趣幽默、善解人意的女主角「AI 薩曼莎」開啟了一場跨「種族」的愛情故事。但在現(xiàn)實(shí)社會，我們真的能將 AI 發(fā)展成為影片里的「薩曼莎」那樣嗎？如果真的能達(dá)到這樣的高度，我們目前面臨著什么挑戰(zhàn)呢？
來自人民大學(xué)的文繼榮教授首先對此進(jìn)行了解讀，他表示我們一直以來的口號，即為「人類探索智能且有溫度的未來」。但就目前看來，AI 產(chǎn)品與設(shè)想有一定偏差。在我們不斷推動人類技術(shù)邊界的過程中，有很多問題出現(xiàn)，但是我們沒有引起足夠的關(guān)注，如目前的 AI 不具有情感，因為它的優(yōu)化目標(biāo)不是倫理的東西，而是完成既定目標(biāo)。因此，現(xiàn)實(shí)與影片中的 AI 之間還具有很大的差距，但我們能夠在某些局部實(shí)現(xiàn)其功能，如利用現(xiàn)在的大數(shù)據(jù)和深度學(xué)習(xí)的技術(shù)，將你每天發(fā)生的事情記錄下來，建立個性化的模型，可以實(shí)現(xiàn)基本的聊天功能，甚至它可能變得比你更懂自己。
圖 2 《Her》劇照
張鈸院士則明確表示影片里的智能目前無法做到，因為其中包含了一個嚴(yán)肅的哲學(xué)問題——「什么叫做愛，什么叫做美？」這類問題定義本身就不夠明確，其中包含很多主觀與客觀的因素在里面。而人工智能目前遇到最大的問題，就是要在對人腦了解很少的情況下去做人工智能，這里面就會產(chǎn)生各種各樣的流派，利用這種模糊性來宣傳一些觀點(diǎn)。另一方面，目前流行的人工智能主要基于人類的行為主義學(xué)派而定義，即人工智能在某些行為判定上超過人類。人工智能如果想要有新思路的發(fā)展，首先需要解決哲學(xué)與 AI 之間的問題。最后張院士還表示，在研究上要成為真正的大師級人物，必須要有哲學(xué)思想，沒有哲學(xué)思想不可能產(chǎn)生全新的格局。
而來自工業(yè)界的楊田博士從 AI 相關(guān)產(chǎn)品的層面來解答了這個問題，他表示影片提到的人工智能是很聰明的，像人一樣有情感，而現(xiàn)在我們看到的 AI 產(chǎn)品跟這個差距很大。現(xiàn)在的 AI 產(chǎn)品基本是來自于「最優(yōu)化問題逼近現(xiàn)實(shí)表達(dá)」；而無法達(dá)到像人類那樣的情感表達(dá)。不過從技術(shù)層面來講，當(dāng)前是可以得到像人一樣交流的 AI 產(chǎn)品，一旦人的情感被其他人用 AI 產(chǎn)品惡意利用，這是一件及其令人擔(dān)憂的事情。
Topic 2：未來十年內(nèi)，最可能在現(xiàn)實(shí)中發(fā)生和實(shí)現(xiàn)的 AI 場景是什么？
楊田博士表示，就目前對 AI 的定義來說，很多實(shí)際應(yīng)用做得非常好，如語音對話、語音合成、駕駛技術(shù)等方面。但對學(xué)計算機(jī)的人來說，它離通過圖靈測試還有很長的距離。
張鈸院士則提到了關(guān)于 AI 的定義。目前，我們采用哲學(xué)里的行為主義標(biāo)準(zhǔn)來對 AI 進(jìn)行定義，即 AI 肯定是在很多限制條件下，才會在某個方面超過人，但無法實(shí)現(xiàn)全面超過人類。也就是說，這個機(jī)器表現(xiàn)出來的行為跟人一樣或者差不多的，我們就認(rèn)為它就具有智能，比如這個機(jī)器做圖像識別，它能夠把不同的圖像分開，識別率接近人或者超過人，那我們就說在圖像識別這個具體條件下它跟人是一樣的。但這兩者背后的原理完全不一樣，AI 的魯棒性和抗干擾能力比人差多了。所以我們現(xiàn)在只能做到這點(diǎn)，在某些行為上使 AI 盡可能接近人。
圖 3 張鈸院士對AI的理解
文繼榮教授提出一個很有意思的思想：不精確的帶有很強(qiáng)容忍性的場合是將來人工智能會成功的地方。他說道：寫程序的各位可能心里一直有一個疑惑，為什么他寫的程序叫人工智能，自己寫的程序就不叫人工智能？他提出如果程序的輸出是確定的，就不是人工智能，如果輸出是模糊的，是帶有不確定性的，可以由精度來衡量，比如人臉識別 95%，就是人工智能。還有如果程序再進(jìn)一步能夠應(yīng)付多樣性和變化性，還得到比較高的精度就是人工智能。
Topic 3：關(guān)于 AI 隱私與安全之間，應(yīng)該如何抉擇？
在這里，主持人先引入了一個故事。一輛火車行駛在正常軌道上，前方有 5 個人，而另一條岔道上有 1 個人。在無法停車的情況下，是轉(zhuǎn)向岔道撞死一個人，還是繼續(xù)開下去撞死五個人？
結(jié)合這個問題背后涉及的一些倫理、價值觀進(jìn)而深入到哲學(xué)層次的一些問題，三位嘉賓給出了自己的觀點(diǎn)——
張鈸院士談到了這個故事背后所涉及到的東西方價值觀差異。按西方的價值觀比較強(qiáng)調(diào)個人利益，個人利益神圣不可侵犯，所以在這個問題上，他們會傾向于按照原定軌道行駛。而從中國的價值觀來講，公共利益大于個人利益時，可以適當(dāng)犧牲個人利益。所以就 AI 隱私與安全來講，其實(shí)不存在絕對的選擇，相比之下，如何去平衡這兩者是個更值得探討的問題。隨后他舉了一個利用在部分公共場合增加攝像頭，從而使抓到逃犯的幾率上升的這個例子。裝攝像頭肯定損害了個人利益，但卻保證了更多人的安全。所以就個人而言，張鈸院士主張如果影響到了公共利益的罪犯要抓，個人要做點(diǎn)犧牲；但這是中國的哲學(xué)、中國的價值觀，西方不接受這種價值觀。
文繼榮教授則呼吁道：目前有些數(shù)據(jù)的搜集是完全沒有必要的。歐洲也許過于強(qiáng)調(diào)隱私保護(hù)，對大數(shù)據(jù)人工智能產(chǎn)業(yè)的發(fā)展造成很大的影響；但是我們也不應(yīng)該純粹為了發(fā)展人工智能產(chǎn)業(yè)而忽略隱私保護(hù)。
楊田博士反對說，我們其實(shí)或多或少都從所謂的個性化推薦上面獲得了便利，個性化推薦也可以理解為向系統(tǒng)出賣了我們的隱私換來了生活的便利。從火車的角度來說，即使從功利主義的角度來講，我們并沒有充分的信息證明哪個選擇會獲利更高，這是不成立的。我們到處裝攝像頭，確實(shí)侵犯了公民的隱私權(quán)；但是攝像頭的存在事實(shí)上確確實(shí)實(shí)改善了治安環(huán)境。在過去科學(xué)沒有那么發(fā)達(dá)的時候，大家相信自己的一舉一動有神在上面看著，所以道德教育約束我們自己。現(xiàn)在我們不信神了，在這種情況下這些技術(shù)手段起到了威懾作用。看問題不應(yīng)該極端和絕對，其間邊界在于這個事情或者這種數(shù)據(jù)采集它能不能作為對我行為不當(dāng)?shù)囊环N證據(jù)，本身不應(yīng)該由圖像采集這件事情來承擔(dān)。
圖 4 激烈的辯論現(xiàn)場
文繼榮教授接著提出了一個關(guān)鍵性的問題，這個問題是懸在我們頭上的劍，而且風(fēng)險很大，即我們無法保證數(shù)據(jù) 100% 不會被濫用，很多事情容易越過界。如果這些事情不受監(jiān)管的話，是非常值得擔(dān)憂的。
Topic 4：針對 AI 武器的自主性與殺傷力，哪一個是更令人感到擔(dān)憂？
文繼榮教授告訴大家：我們對 AI 的恐懼主要是來自于對它自主性的害怕，脫離開人的控制的恐懼感。從 AI 聯(lián)想到這些武器和將來未來的機(jī)器有自主性，它有可能會脫離開人的控制，它的黑箱性以及隨著環(huán)境自學(xué)習(xí)的能力。程序員起初給它一個規(guī)則，但之后學(xué)出怎樣的模型，很可能會隨著環(huán)境變化，變得失控。如果說不可控，同時又有很大的威力，這個就是很可怕的事情。
張鈸院士說到人類的意志才是戰(zhàn)爭的根本，機(jī)器只是被操控的。戰(zhàn)爭里面不管發(fā)展到什么程度，最后都是按照人類的意志來進(jìn)行的，不會按照機(jī)器的意志來進(jìn)行的。危險在人不在機(jī)器，所有機(jī)器還是聽人安排聽人指揮的，包括自主的機(jī)器在內(nèi)也是在聽人安排聽人指揮的。現(xiàn)在所有的發(fā)展都是這樣，機(jī)器人做壞事是人指揮的，離開了人它就不知道干什么。所以不論是無人平臺還是無人機(jī)，都不是真正的無人，其中包含了人的干預(yù)。
楊田博士表示他對 AI 武器最大的擔(dān)憂在于，我們應(yīng)該允許在沒有經(jīng)過人類審判的情況下讓武器去消滅一個人嗎？這確實(shí)是個值得大家進(jìn)一步思考的問題。
Topic 5：未來的 AI 有沒有可能能做到大殺傷力，其帶自主性的程度是怎樣的？
張鈸院士表示人工智能現(xiàn)在發(fā)展的技術(shù)基本在軍事方面用不上，軍事必須發(fā)展人工智能技術(shù)。自主性不是隨便機(jī)器自己的想法而行動，而在于機(jī)器和前面的信號斷開后，在沒有無線信號情況下，它還照樣按照任務(wù)行動。
楊田博士則明確表明這自主性還是比較難實(shí)現(xiàn)的，因為從現(xiàn)在人工智能的發(fā)展程度來講，都是在做任務(wù)，從解決一個小的任務(wù)到比較大的任務(wù)，到特定的場景下能工作，再到能夠去做更多的事情，這也是幫助我們更好地理解現(xiàn)在的人工智能所處的階段和接下來要做的事情這樣一個途徑。
圖 5 針對AI武器分級的討論
Topic 6：是否應(yīng)該給 AI 分級？
文繼榮教授認(rèn)為，AI 可以大致像自動駕駛那樣，根據(jù)它的智能體面對環(huán)境多樣性或者變化性時的處理程度來定。傳統(tǒng)的程序，輸入是確定的，輸出是確定的；而如果在所有的場景下，AI 都能夠自主地完全用人工智能來完成駕駛，這是自動駕駛的最高級；而對于其它層級，可以再做詳細(xì)的定義和思考。
楊田博士也同意分級；他表示從現(xiàn)在人工智能的發(fā)展來看，都是在訓(xùn)練其做任務(wù)。從解一個小的任務(wù)到比較大的任務(wù)，到特定的場景下能夠工作，到能夠去做更多的事情，這（分級）也是幫助我們更好地理解現(xiàn)在的人工智能所處的階段和接下來要做的事情的一個途徑。
在本期 science debate 的最后，三位嘉賓對在場觀眾所提出的一些其它 AI 相關(guān)問題，也作出了相應(yīng)的解答，在此就不詳細(xì)列舉出。
圖 6 「AI Time」science debate
關(guān)于 AI TIME
AI Time 是一群關(guān)注人工智能發(fā)展，并有思想情懷的青年人創(chuàng)辦的圈子。AI Time 旨在發(fā)揚(yáng)科學(xué)思辨精神，邀請各界人士對人工智能理論、算法、場景、應(yīng)用的本質(zhì)問題進(jìn)行探索，加強(qiáng)思想碰撞，打造成為北京乃至全國人工智能知識分享的策源地和聚集地。
因此，AI Time 的初衷在于學(xué)術(shù)的探討與分享，無論是對于某項科學(xué)技術(shù)的討論，亦或是針對某一學(xué)術(shù)觀點(diǎn)的深究，在這里都是被充分允許且大力支持的。以后 AI Time 還將繼續(xù)為大家每月獻(xiàn)上一場辯論，將會有人工智能領(lǐng)域的各位大咖蒞臨現(xiàn)場，期待你的參與！
雷鋒網(wǎng)AI科技評論報道 雷鋒網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
