美國(guó)Breaking Defense網(wǎng)站發(fā)表了一篇有關(guān)美國(guó)國(guó)防部副部長(zhǎng)鮑勃·沃克論及人工智能如何影響戰(zhàn)爭(zhēng)的文章。
文章說(shuō),在應(yīng)用物理實(shí)驗(yàn)室舉行的人工智能會(huì)議上,美國(guó)軍方一致認(rèn)為人工智能、機(jī)器人和人機(jī)協(xié)同將改變戰(zhàn)爭(zhēng)進(jìn)行的方式,而美國(guó)國(guó)防部副部長(zhǎng)鮑勃·沃克則承認(rèn),他開(kāi)始深信人工智能還將改變戰(zhàn)爭(zhēng)的性質(zhì)是一個(gè)很大的過(guò)失。文章如下:
沃克既是一名訓(xùn)練有素的美國(guó)海軍陸戰(zhàn)隊(duì)軍官,也是五角大樓的一位重量級(jí)的人工智能支持者。他說(shuō),戰(zhàn)爭(zhēng)的性質(zhì)就是意志、擔(dān)心、不確定性和可能性的沖突,因此人們必須自問(wèn),要是大量的戰(zhàn)爭(zhēng)行動(dòng)都是在無(wú)人系統(tǒng)之間發(fā)生的話,如何能夠逐漸消除擔(dān)心。
在經(jīng)典的戰(zhàn)爭(zhēng)理論中,核心的論點(diǎn)就是人類容易出錯(cuò)。如果不為擔(dān)心、憤怒和自尊所支配的機(jī)器開(kāi)始在戰(zhàn)爭(zhēng)中自行決策的話,錯(cuò)綜復(fù)雜的沖突計(jì)劃會(huì)發(fā)生難以預(yù)計(jì)的改變。沃克說(shuō)現(xiàn)在戰(zhàn)爭(zhēng)的不確定性正在變得不同于以往,他堅(jiān)持認(rèn)為計(jì)算機(jī)輔助決策能夠幫助指揮官做出更為清晰的判斷。戰(zhàn)爭(zhēng)的不確定性不會(huì)消失,雖然人們能夠通過(guò)觀看在紅場(chǎng)的閱兵來(lái)推測(cè)俄羅斯新型坦克的能力,但是敵人的新型人工智能裝置的真實(shí)情況只有在作戰(zhàn)中才能夠顯現(xiàn)出來(lái)。他說(shuō),如果屆時(shí)敵人的人工智能裝置比美國(guó)的更好,情況就嚴(yán)重了。
將人工智能引入戰(zhàn)場(chǎng)會(huì)產(chǎn)生前所未有的不確定性,對(duì)抗人工智能的交互行動(dòng)更會(huì)形成越來(lái)越難以預(yù)計(jì)的反饋回路,即混沌理論的軍事應(yīng)用。沃克說(shuō),美國(guó)決沒(méi)有足夠的狹義的人工智能系統(tǒng),在網(wǎng)絡(luò)中與人互動(dòng)。所謂“狹義的”人工智能系統(tǒng)是指相當(dāng)于特殊目的的人類智能的項(xiàng)目,而“廣義的”人工智能系統(tǒng)則是相當(dāng)于全面的人類智能的項(xiàng)目,目前還只能在科幻小說(shuō)中看到。
五角大樓所執(zhí)行的謹(jǐn)慎的人工智能系統(tǒng)開(kāi)發(fā)過(guò)程經(jīng)常被嘲笑為創(chuàng)新的障礙,特別是其作戰(zhàn)測(cè)試和評(píng)估嚴(yán)格要求智能機(jī)器可靠而且可重復(fù)地按照人的預(yù)計(jì)行事。沃克強(qiáng)調(diào)說(shuō),希望人工智能系統(tǒng)所遵守的一項(xiàng)關(guān)鍵限制就是沒(méi)有人的明確命令決不能消滅任何目標(biāo)。
沃克認(rèn)為“廣義的”人工智能系統(tǒng)中具有自行決策的武器,決不是人們所追求的。他說(shuō)美國(guó)不會(huì)去設(shè)計(jì)自行決定打擊某個(gè)目標(biāo)的武器,不過(guò)這也并非意味著每次打擊都必須由人去扣動(dòng)扳機(jī)。敵人不會(huì)遵守美國(guó)給自己加上的限制,自然會(huì)給美國(guó)帶來(lái)使得自己處于不利情況的問(wèn)題。
對(duì)于美國(guó)不開(kāi)發(fā)“廣義的”人工智能系統(tǒng)的限制,一些業(yè)內(nèi)人士提出了異議。例如,漢森機(jī)器人公司的CEO戴維·漢森認(rèn)為,如果一個(gè)國(guó)家限制自己,不去開(kāi)發(fā)“廣義的”人工智能系統(tǒng)的話,就會(huì)激勵(lì)敵人開(kāi)發(fā)更為復(fù)雜的超出控制的自適應(yīng)機(jī)器,以獲得壓倒性優(yōu)勢(shì)。
人工智能與其它技術(shù)相比,有可能成為更加強(qiáng)大也更加賺錢的技術(shù)行業(yè),因?yàn)樗軌蚪o制造商帶來(lái)驚喜,能夠提供他們從未想到的問(wèn)題解決方法。不過(guò),這也使得人工智能技術(shù)更加危險(xiǎn),尤其是超出控制的人工智能系統(tǒng)可能會(huì)造成意想不到的嚴(yán)重問(wèn)題。
牛津大學(xué)的學(xué)者安德斯·桑德伯格認(rèn)為,對(duì)于自主系統(tǒng)的控制非常困難,其原因并非它的任性和渴望自由,而是因?yàn)槿藗兯鶆?chuàng)造的是復(fù)雜的自適應(yīng)技術(shù)系統(tǒng)。事實(shí)上,當(dāng)前流行的創(chuàng)造人工智能系統(tǒng)的最為有效方法不是一行又一行地編寫(xiě)智能程序,而是創(chuàng)造一臺(tái)“學(xué)習(xí)機(jī)器”,同時(shí)給它提供大量的數(shù)據(jù)資料,使它能夠像一個(gè)小孩一樣通過(guò)反復(fù)體驗(yàn)和嘗試去學(xué)習(xí)?？墒?讓這樣的系統(tǒng)正確理解如何學(xué)習(xí)和如何做出決定是非常困難的,更談不上預(yù)計(jì)它們未來(lái)的行動(dòng)。
對(duì)于美國(guó)的敵人力圖在人工智能領(lǐng)域獲得壓倒性優(yōu)勢(shì)的問(wèn)題,沃克相信美國(guó)的創(chuàng)造性和道德觀念會(huì)取得優(yōu)勢(shì),“和美國(guó)人一起工作的美國(guó)人工智能機(jī)器會(huì)戰(zhàn)勝那些壓制人民創(chuàng)造潛能的極權(quán)主義者所設(shè)計(jì)的人工智能系統(tǒng)”。不過(guò)他承認(rèn)并不能保證如此,說(shuō)這是一場(chǎng)競(jìng)賽,必須等待,看競(jìng)賽如何開(kāi)展,必須非常謹(jǐn)慎。
微信掃一掃
