我們正處于人工智能革命的風(fēng)口浪尖,它將給我們帶來巨大的利潤收入,但同時也讓人類變得不堪一擊。——James Barrat
【網(wǎng)易智能訊 2月1日消息】本期對話嘉賓是暢銷書《我們最后的發(fā)明:人工智能與人類時代的終結(jié)》(Our Final Invention, subtitled Artificial Intelligence and the End of the Human Era)的作者James Barrat(詹姆斯·巴拉特),他談?wù)摿巳斯ぶ悄軐θ祟惞ぷ鞯挠绊?,以及人類與人工智能的比較等問題。

【 人類最后的發(fā)明 】
問:您寫了一本廣受歡迎的書《我們最后的發(fā)明:人工智能與人類時代的終結(jié)》。您能跟我們大體介紹一下這本書的主要內(nèi)容嗎?
James Barrat:當(dāng)然可以??傮w而言,人工智能是我們的最終發(fā)明,它被認(rèn)為是一種具有雙重用途的技術(shù)。所謂的兩用技術(shù)就是一種可以既可以被用來做好事,同時也可以帶來巨大傷害的技術(shù)。
目前,我們正處于人工智能的蜜月期,我們只看到了許多優(yōu)秀的人工智能工具,未來還會有更多的智能工具即將問世。如今,人工智能可以比人類更快地發(fā)現(xiàn)X射線中的癌癥簇。在商業(yè)分析上,人工智能可以做的比人類更好。人工智能可以做法律助理第一年做的工作,進行法律細(xì)節(jié)的搜尋。無人駕駛汽車將使我們的道路更加安全,因為我們不再需要開車了。因此,我們發(fā)現(xiàn)了人工智能很多非常有用的應(yīng)用。
但是,人工智能是把雙刃劍,首先,它將搶走人類成千上萬的飯碗。目前美國約有500萬個職業(yè)司機,700萬個會計,這些工作將會被人工智能所取代。而這僅僅是眾多將被人工智能所取代的萬千工作中的一兩個。
所以我的書的主題是,我們需要重新審視人工智能的本質(zhì),探索它的應(yīng)用,弄清是誰在控制它。并且,從長遠(yuǎn)的角度來看,討論一下未來我們是否能控制它等。
問:史蒂芬·霍金表示,人工智能的問題在于短期內(nèi)是由誰來控制的,從長遠(yuǎn)來看,我們能控制它嗎?您怎么看?
James Barrat:從短期來看,目前我們已經(jīng)在人工智能領(lǐng)域遭遇了一些問題。例如,美國國家安全局利用人工智能可以輕而易舉地訪問我們的手機,查看我們的手機數(shù)據(jù),獲取我們的電話簿和通訊記錄。這本質(zhì)上是在窺探我們的個人隱私,而這在過去是違法的。過去,倘若我想要獲取你的通訊記錄,我需要去法院申請,直到得到法院的命令來可以獲取你的通訊記錄。你的手機和通訊記錄隸屬于你的個人財產(chǎn)和隱私。由于人工智能技術(shù),美國國家安全局繞過了這一漏洞,“竊取”了我們的手機信息和手機數(shù)據(jù)。由于先進的數(shù)據(jù)挖掘軟件,他們能夠在海量數(shù)據(jù)中進行快速篩選。
在短期內(nèi),誰才是控制人工智能的人?現(xiàn)在有很多國家正在開發(fā)具有自主性的戰(zhàn)地機器人和無人機。這些機器人和無人駕駛飛機可以在沒有人類的控制的情況下殺死人類。這些都是人工智能的問題。
數(shù)據(jù)統(tǒng)計,目前有56個國家正在開發(fā)戰(zhàn)爭機器人,而其中最受追捧的則是具有自主性的戰(zhàn)爭機器人。近期,有一篇文章講的就是某國海軍陸戰(zhàn)隊的機器人如何在戰(zhàn)場上控制機關(guān)槍瘋狂掃射。目前人類可以用平板電腦控制它,但是人類研發(fā)的目標(biāo),就是讓機器人具有自主性,可以自動射殺敵人。
我們現(xiàn)在以及未來所面臨的問題,我可以用一個叫做“智能化爆炸”(intelligence explosion)的概念來解釋。所謂的“智能化爆炸”是由統(tǒng)計學(xué)家I.J Good于20世紀(jì)60年代提出的。他說,“一旦我們制造出了方方面面優(yōu)于人類的機器,屆時它們會做的一件事就是‘繁衍’創(chuàng)造出更多的智能機器。”而目前的現(xiàn)狀是,我們正在見證人工智能逐步開始比人類做的更好,不難想象,未來將有一天,人工智能將從方方面面超越人類,甚至在人工智能的研究上也優(yōu)越于人類。“當(dāng)這一切發(fā)生的時候,我們?nèi)祟悓⒉辉僖I(lǐng)智力發(fā)展的步伐,取而代之的將會是一種機器,將由它主宰未來世界的發(fā)展。”
但問題是,我們不知道如何控制機器,也不知道其認(rèn)知結(jié)構(gòu),但它比我們?nèi)祟惖闹巧桃吆芏?。到時候我們?nèi)绾螌Υ茸约郝斆饕磺П兜氖挛锏哪兀?/span>
【 人工智能就像核裂變 】
問:現(xiàn)在有些人說“人工智能”是恐怖的代名詞,但是也有人說它和我們曾經(jīng)運行過的其他計算機程序并沒有什么不同,只是更好更快,而且只是在某一件事情上做得比人類好而已。您是如何看待的呢?另外,到目前為止,我們似乎還沒有遇到什么人工智能的大麻煩。您認(rèn)為未來什么將會激化人類與人工智能之間的矛盾,或者我們現(xiàn)在正在處理的問題上究竟有什么本質(zhì)上的不同?
James Barrat:我認(rèn)為很重要的一點是,關(guān)于智力的分類有很多種。有情商、理性的智慧、直覺以及動物的智力。所以,如果說有什么會比我們?nèi)祟惵斆鞯枚鄷r,我會用另一種方式來解讀:它將會更好地理解我們對智力的定義,它將會更好地解決各種各樣的新環(huán)境中的問題,它將會更好地學(xué)習(xí)。
從另一個角度來回答你剛才提問的問題,包括電腦在內(nèi)的每一項技術(shù)都有著不可預(yù)測的前景和風(fēng)險。從人類會使用火開始,所有的技術(shù),都是一把雙刃劍。但人工智能卻有著本質(zhì)的不同。
對我來說,人工智能就像核裂變一樣。核裂變是一種具有雙重用途的技術(shù),可以帶來巨大的好處但同時也存在著巨大的危害。核裂變是原子彈背后的力量,也是核反應(yīng)堆背后的力量。當(dāng)我們在20年代和30年代發(fā)展它的時候,我們認(rèn)為核裂變是通過分裂原子獲得自由能量的一種方式,然后很快就被武器化了,然后我們用它來毀滅城市。然后我們?nèi)祟愖鳛榈厍蛏系囊粋€物種,用槍指著我們自己的頭進行了50年的軍備競賽,我們用核能威脅要讓人類自己滅絕。
對我來說,人工智能亦如此。你說它一點也沒有被用于邪惡的目的,那是不可能的。
所以我認(rèn)為人工智能與人類智能的本質(zhì)區(qū)別在于,智力是我們?nèi)祟惖某壛α?,是造福人類的超級力量,并不違背人類的發(fā)展。這是一種具有創(chuàng)造力的能力,是發(fā)明技術(shù)的能力。斯蒂芬霍金在被問及“人工智能的陷阱有哪些?”時說道:“首先,他們能夠開發(fā)出我們甚至無法理解的武器。”所以,我認(rèn)為質(zhì)的區(qū)別在于人工智能是可以再創(chuàng)造發(fā)明的一種人類以外的發(fā)明。
人工智能的時代已經(jīng)到來,我們正處于人工智能革命的風(fēng)口浪尖,它將給我們帶來巨大的利潤收入,但同時也讓人類變得不堪一擊。
【 意識之爭 】
問:你肯定聽過Searle的“中文房間”這個實驗,這被稱為世界上著名的十大悖論之一。“中文房間”最早由美國哲學(xué)家John Searle于20世紀(jì)80年代初提出。這個實驗要求你想象一位只說英語的人身處一個房間之中,這間房間除了門上有一個小窗口以外,全部都是封閉的。他隨身帶著一本寫有中文翻譯程序的書。房間里還有足夠的稿紙、鉛筆和櫥柜。寫著中文的紙片通過小窗口被送入房間中。根據(jù)Searle,房間中的人可以使用他的書來翻譯這些文字并用中文回復(fù)。雖然他完全不會中文,Searle認(rèn)為通過這個過程,房間里的人可以讓任何房間外的人以為他會說流利的中文。
Searle創(chuàng)造了“中文房間”思想實驗來反駁電腦和其他人工智能能夠真正思考的觀點。“中文房間”問題足夠著名,這是Searle為了反擊圖靈設(shè)計的一個思想實驗。房間里的人不會說中文,他不能夠用中文思考,但因為他擁有某些特定的工具,他甚至可以讓以中文為母語的人以為他能流利的說中文。根據(jù)Searle,電腦也是這樣工作的:它們無法真正的理解接收到的信息,但它們可以運行一個程序,處理信息,然后呈現(xiàn)出智能的假象。但是,他是否懂中文?許多計算機世界的人會說“是”。
這個試驗通過了艾倫圖靈的圖靈測試,但是顯而易見,這個人并不懂中文。同樣,電腦也是如此。通過了圖靈測試,但是并沒有思想。您如何看待這個問題?
James Barrat:“中文房間”的問題很有意思,你可以寫一些關(guān)于它的書,因為它是關(guān)于意識的本質(zhì)的。
我不知道機器是否會像我們一樣思考,我認(rèn)為關(guān)鍵在于它是否能像人類一樣解決問題。當(dāng)然,我們更不了解機器是否具有意識的問題。
我舉個例子,2011年IBM Watson參加綜藝節(jié)目危險邊緣(Jeopardy),并在該節(jié)目有史以來第一次人機大戰(zhàn)中成功戰(zhàn)勝人類,一舉成名。眾所周知,IBM Waston是認(rèn)知計算系統(tǒng)的杰出代表,也是一個技術(shù)平臺。在David Ferrucci還是IBM沃森團隊的首席科學(xué)家時,他被問到一個非常具有挑釁性的問題:“當(dāng)Waston在擊敗人類取得勝利的時候,它是在思考嗎?”Ferruci的回答是:“潛水艇會游泳嗎?”他的意思是,人類建造潛艇時,他們是通過模仿魚游泳的方式來制造的。但后來他們創(chuàng)造了一種比魚游得更遠(yuǎn)、更快的東西,并且有著巨大的有效載荷,所以它比魚更有用。盡管它不會繁殖,也不會像魚一樣做一些神奇的事情,但就游泳而言,它比魚要先進。
同樣,飛機會飛嗎?航空先驅(qū)們使用的是鳥類飛行的原理,但很快就超越了這一點,創(chuàng)造出了飛得更遠(yuǎn)更快的東西,并攜帶了巨大的有效載荷。
所以,你的問題有兩個答案。一個是,我不認(rèn)為這很重要。第二,我不認(rèn)為機器會像我們一樣定性思考。一方面,我認(rèn)為這將會帶來一定的威脅,因為我認(rèn)為它不會有我們哺乳動物所具有的同理心。另一方面,它不會有太多的多愁善感,也不會有太多的認(rèn)知偏見,而我們的大腦卻在努力工作。但是誰也不敢保證,說它不會有意志。
在我的書《我們最后的發(fā)明:人工智能與人類時代的終結(jié)》中,我采訪了Steve Omohundro,他是一個人工智能制造者和物理學(xué)家,他致力于發(fā)明創(chuàng)造了一門科學(xué),用來理解超級智能機器。現(xiàn)如今,電腦并沒有達(dá)到通用智能的水平,因為電腦并不具有意識。我認(rèn)為,我們會創(chuàng)造出一種認(rèn)知能力可以與人類相媲美的機器,甚至超越我們?nèi)祟愖约?,在不遠(yuǎn)的未來,這些都是有望變成現(xiàn)實的。
問:人類智能來自于我們的大腦,也就是人們所說的“銀河系中最復(fù)雜的物體”。我們尚未搞明白大腦是具體如何高效運轉(zhuǎn)的,我們不知道思想是如何被編碼的。從宏觀的角度來看,我們對大腦的運作方式知之甚少。但我們知道,人類擁有這些驚人的能力,比如意識,再比如人類幾乎不費力就可以概括的能力等等。是不是意識的東西,我們無法去理解?
James Barrat:意志是一個擬人化的術(shù)語,我不確定我們是否真的可以將其用于電腦上。
數(shù)據(jù)分析公司Gartner認(rèn)為,人工智能領(lǐng)域由于投資的指數(shù)性,2009年以來每年投資數(shù)額都會翻倍。Gartner估計,到2025年,這一領(lǐng)域的投資價值將達(dá)到250萬億美元。
對我來說,這是兩件事。一件事是,這將帶來巨大的增長,以及這些系統(tǒng)將會有巨大增長。第二,我們正處在一個與眾不同的時代,就像新的工業(yè)革命一樣。借用未來學(xué)家凱文·凱利的話說,未來所有被“電”改變的東西都會被認(rèn)知化。
我們不能認(rèn)為人工智能可以像鐘表一樣隨時拆開,理解它的每一個部分。當(dāng)Ferrucci在看IBM沃森系統(tǒng)的時候,他說:“它為什么要這樣回答?”他的團隊里沒有人知道答案。把它和時鐘進行比較,我認(rèn)為這是一個錯誤的比喻。
當(dāng)AlphaGo打敗圍棋大師,我開始認(rèn)為玩這個游戲的時候,AI需要大量的直覺,這不僅僅是模式匹配,圍棋需要更多難以定義的直覺。
我認(rèn)為如果我們討論的是一些古老的語言,比如Fortran、Basic、Pascal,你可以在這里查看每一行代碼,并搞清楚發(fā)生了什么。深入學(xué)習(xí)、強化學(xué)習(xí)和人工神經(jīng)網(wǎng)絡(luò)是不同的。
【 奇點之爭 】
問:一方面,馬斯克(Elon Musk)、史蒂芬·霍金很擔(dān)心通用人工智能(AGI)的出現(xiàn)。另一方面,吳恩達(dá)(Andrew Ng)卻說,擔(dān)心AGI的事情就像擔(dān)心火星上的人口過剩一樣。有些人說,最糟糕的事情可能發(fā)生在500年之后。我很好奇,為什么他們對這項技術(shù)有截然不同的看法?你是如何理解他們所說的觀點的?
James Barrat:我第一次聽說火星的類比是Sebastian Thrun說出來的,他說我們不知道怎么去火星,我們不知道如何在火星上生活。但是,我們知道如何讓火箭飛到月球上,我們不能在火星上生活,但我們正在把它跟火箭放在一起,而且一些公司正在投入一些資金。他們確信,我們最終有一天將到達(dá)火星,那里將會有生活在火星上的人,然后人們將會創(chuàng)造另一個世界。
這是一個非常有趣的問題,我們何時才能在一臺機器上實現(xiàn)人類水平的智能,如果有的話。
為此,我做了一個調(diào)查。這是一項有偏見的調(diào)查,調(diào)查對象是關(guān)于人工智能會議的參與者,然后我還看了很多民意調(diào)查。
庫茲韋爾(Ray Kurzweil)非常善于預(yù)見技術(shù)的進步,他說2029年會實現(xiàn)。庫茲韋爾現(xiàn)在為谷歌工作,他說他想要創(chuàng)造一臺每秒能進行300萬億次計算的機器,并在網(wǎng)上與10億人分享這一數(shù)據(jù)。這基本上就是大腦的逆向工程。每秒鐘做300萬億次計算,這大概是對大腦的粗略估計。然后在網(wǎng)上與10億人分享,這讓超級智能成為一項服務(wù),這將是非常有用的。你可以做藥理學(xué)研究、高級天氣建模和氣候建模,你可以做武器研究,開發(fā)出不可思議的武器。
有些人說100年以后,我得到的平均日期是一臺機器達(dá)到人類智能水平大約在2045年。加里馬庫斯(Gary Marcus)說,不管十年還是一百年,更重要的問題是:接下來會發(fā)生什么?它會融入我們的生活嗎?還是會突然出現(xiàn)?無論是50年還是100年,當(dāng)它出現(xiàn)時,我們?nèi)绾伪3肿约旱陌踩?/span>
這是兩種思考方式,一是有很多猜測,另一種思考是,接下來會發(fā)生什么真的很重要嗎?
另外,我在《最后的發(fā)明》一書中寫到:如果我們在一百年內(nèi)無法實現(xiàn),你認(rèn)為人類會因此停止嗎?或者你認(rèn)為我們會一直在解決這個問題,直到我們解決它?
就像我之前說的,我不認(rèn)為我們會在機器中創(chuàng)造出完全類似人類的智能。我認(rèn)為,我們將在某種程度上創(chuàng)造出一種非常聰明、非常有用的東西,但我們卻以一種非常深刻的方式,無法理解。所以我不認(rèn)為它會像人類的智慧,也許它會像外星智能一樣。這就是我的觀點。
其實什么時候都不重要,直到我們到達(dá)目的地,我們才會停下來。如果最終我們將面對比我們聰明一千倍或一百萬倍的機器。我們要怎么做呢?
【 當(dāng)下的問題 】
問:在較短的時間內(nèi)進行預(yù)測總是比較容易的。從現(xiàn)在到2030年,您認(rèn)為在接下來的十幾年里會發(fā)生什么?
James Barrat:聊未來,這好像是一場巨大的賭博,而且預(yù)測往往是錯誤的。
用凱文·凱利的話來說,所有的電子都將被認(rèn)知化。人工智能的普及將極大地影響我們的經(jīng)濟。有了物聯(lián)網(wǎng),我們周圍一切都會變得智能,我們的手機,我們的汽車等等。
麻省理工學(xué)院做了一項研究,引用了劍橋大學(xué)的一項數(shù)據(jù),該研究稱:“人類目前45%的工作將在20年內(nèi)被取代。”并不是說他們會被取代,而是可以被取代。
但如果人工智能在2025年可以產(chǎn)生25萬億美元的價值,就能取代任何做重復(fù)性工作的員工,包括醫(yī)生和律師。
這一舉措進一步削弱了中產(chǎn)階級的地位,這不僅僅會影響在工廠工作或駕駛汽車的人,還包括會計、醫(yī)生和律師。因此,我們將看到經(jīng)濟中巨大的顛覆,而巨大的財富是由越來越少的人創(chuàng)造的。
問題在于,我們必須找到一種方法,讓我們的大部分人口拿不到公司也會免于饑餓。人們已經(jīng)提出了基本的最低收入(UBI),但要做到這一點,我們就需要稅收收入。而大公司,亞馬遜、谷歌、Facebook,他們在愛爾蘭等地納稅,那里的公司稅很低,所以他們不會為這個政策貢獻(xiàn)什么。
因此,這里存在著巨大的不平等。我們必須直面這種不平等,不幸的是,這將需要政治解決方案,而我們的政治家是我們文化中技術(shù)落后的人。所以,我看到的是大量的失業(yè)。
我看到了人工智能領(lǐng)域的許多精彩之處,我也很樂意看到人工智能、機器人技術(shù)和自動化帶來的就業(yè)機會。但最終的結(jié)果是,你看到世界上最大的代工制造商富士康安裝了31000個機器人,在亞洲取代了30萬人的工作。所有這些人都不能接受再培訓(xùn),因為如果你做的事情是重復(fù)的,你能重新訓(xùn)練他們?nèi)プ鍪裁矗?/span>
也許每100個人中就有一個可能是機器人工廠的樓層經(jīng)理,但其他人呢?顛覆將來自于所有沒有工作的人,沒有什么可以重新培訓(xùn)的,因為我們的機器人也是機器人制造的。
一百年前,90%的人在農(nóng)場工作,現(xiàn)在是10%。之前的工業(yè)革命奪走了就業(yè)機會,但之后這些人可以再培訓(xùn),也可以去其他領(lǐng)域,因為仍有巨大的行業(yè)沒有被工業(yè)化取代,還有很多體力勞動要做。其中一些人可以接受培訓(xùn),進入管理和其他領(lǐng)域。
《機器人崛起》、《第四工業(yè)時代》這兩本書指出,人工智能革命與以前的工業(yè)革命不同的是,人工智能在每個行業(yè)都能發(fā)揮作用。因此,它不像過去的革命那樣,一個部門在某個時候被取代,有時間去吸收這些變化,有時間重新吸收這些工人,并以某種方式重新培訓(xùn)他們。
我的觀點是,所有經(jīng)濟部門都將受到?jīng)_擊。
無處不在的人工智能將會同時影響很多經(jīng)濟,同時也會出現(xiàn)一個巨大的混亂。而且,與過去不同的是,這些人如何被重新培訓(xùn),重新成為就業(yè)崗位的目標(biāo),目前還不清楚。因此,我認(rèn)為這與其他工業(yè)革命,或者說是技術(shù)革命非常不同。
問:20年來,工業(yè)電氣化的發(fā)展速度之快令人難以置信。用機械力量取代動物的力量發(fā)生得非常快。然而,這個國家的失業(yè)率仍然在4%到9%之間。除了大蕭條,不管發(fā)生了什么破壞性時間,經(jīng)濟都能利用技術(shù)創(chuàng)造更多的就業(yè)機會。您如何看待這種觀點?
James Barrat:這是一個有說服力的論點。但是人工智能時代不一樣。
當(dāng)司機的工作被搶走后,你會對職業(yè)司機進行再培訓(xùn)嗎?你會培訓(xùn)什么?所以我預(yù)計會出現(xiàn)問題,但我希望能感到驚喜。
問:我還是不同意您的觀點,就像1995年互聯(lián)網(wǎng)剛起步,你剛聽到這種概念的時候,能知道互聯(lián)網(wǎng)創(chuàng)造了成千上萬的工作嗎?
James Barrat:如果有人告訴你,這項發(fā)明會帶來數(shù)萬億美元的價值,誰會想到呢?也許我個人無法想象下一波將創(chuàng)造如此巨大價值的浪潮。我可以看到人工智能和自動化如何創(chuàng)造出巨大的價值,但我只看到它進入了幾個口袋。至少現(xiàn)在是這樣。
后記:
希望人們接受教育,了解人工智能的前景和風(fēng)險,準(zhǔn)備好迎接即將到來的革命。這迫使企業(yè)要對人工智能的發(fā)展負(fù)責(zé),而政客們要更加精明,投入一些資金,讓人工智能的發(fā)展變得透明和安全。我們希望接觸到與人類一樣聰明的機器時,它們實際上是我們的盟友,而不是我們的競爭對手。
責(zé)任編輯:吳禮得
相關(guān)推薦
巴帝電信夢想成真:107億美元收購Zain非洲資產(chǎn)
這筆交易將為巴帝電信在15個非洲國家?guī)?200萬用戶,意味著其躋身新興市場頂尖運營商的夢想終于成真。Zain出售非洲資產(chǎn)套現(xiàn)90億美元在雙方約定的107億美元中包括90億美元的股份收購,支付方式將為現(xiàn)金。其中83億美元將在交易結(jié)束后支付,7億美元將在交易結(jié)束一年后支付。此外,巴帝電信還須代替Zain承擔(dān)起17億美元的綜合債務(wù)。據(jù)稱,Zain可分派儲備和40億美元循環(huán)貸款償付的規(guī)模須經(jīng)股東批準(zhǔn),它打算以股息的形式向股東分配前期大部分凈收入。Zain集團董事長阿薩德·艾爾·班萬(AsaadAlBanwan)評價該交易時相當(dāng)?shù)靡猓骸白?005年收購Celtel以來,我們大幅增長成為非洲主要的移動運
蘋果CEO庫克暗示不會推ARM芯片MacBook Air
北京時間2月4日消息,據(jù)國外媒體報道,蘋果首席執(zhí)行官蒂姆庫克(TimCook)和首席財務(wù)官彼得奧本海默(PeterOpenheimer)近日與花旗分析師會談時指出,由于iPad發(fā)展前景廣闊,所以不太可能去開發(fā)基于ARM芯片的MacBookAir;中國市場蘊含著巨大的增長潛力;AppleTV前景仍不明朗;而iCloud發(fā)展迅速且非常重要。iPad將繼續(xù)發(fā)展,不會推出基于ARM芯片的Mac。庫克重申了他在季度財報電話會議上所說的話,他認(rèn)為平板電腦市場將繼續(xù)發(fā)展,最終將超過傳統(tǒng)PC市場的規(guī)模。蘋果并未將iPad看作是PC產(chǎn)品,而是將它看作一款后PC產(chǎn)品,因此基于ARM芯片的平板電腦將不會與基于英特爾