在去年暴雪嘉年華期間，暴雪宣布了有關(guān)Deepmind人工智能與《星際爭霸2》在未來領(lǐng)域關(guān)于AI人工智能的發(fā)展計劃。谷歌研究科學(xué)家Oriol Vinyals登臺透露，谷歌正在研制新一代的人工智能，將在未來的《星際爭霸2》中為玩家、甚至是全人類帶來幫助，以及像不久前Alpha Go與人類對弈圍棋一樣，和人類挑戰(zhàn)《星際爭霸2》。
而在昨日，《星際爭霸2》開發(fā)團(tuán)隊正式公布了研究的最新進(jìn)展：《星際爭霸2》人工智能研究API接口已經(jīng)推出，研究人員、游戲玩家以及業(yè)余愛好者可以共同使用這套由暴雪開發(fā)的機(jī)器學(xué)習(xí)框架，來對AI進(jìn)行研究和訓(xùn)練，并最終加速實時戰(zhàn)略游戲AI的研究。
但就在玩家為AI研究取得進(jìn)展歡呼的時刻，資深暴雪研究人士——麥德三世卻闡述了一件真實的故事，讓人不得不對此次研究成果細(xì)思極恐......如若事情屬實，那么將代表著星際2人工智能系統(tǒng)在人類沒有下達(dá)指令的情況下，可以通過本次更新的API接口，自我修改程序漏洞，也就是說：它(他)有自主決斷“意識”。
以下是微博原文：
GA_麥德三世
這里給大家講一個真實的故事吧，主角就是我本人。
因為涉及到一些技術(shù)細(xì)節(jié)和我搬磚的具體職業(yè)，所以我隱去了一些具體的名字并模糊了一些細(xì)節(jié)。但如今狗要出籠了，這事兒讓我憋了有半年了，終于覺得還是不吐不快、
這是我在今年3月遇到的事情。
因為工作上的合作關(guān)系的原因……我年初有段時間接觸并調(diào)整了某個RTS游戲的代碼并在里面短期地負(fù)責(zé)開發(fā)了某個特定的模塊。然后里面有這樣一個bug：在該游戲的內(nèi)部測試版本中，按某個按鈕(快捷鍵是F1)你可以選中你隊友的空閑的資源采集單位。
這個bug出現(xiàn)得莫名奇妙，因為根據(jù)提交記錄沒有人改過這個東西。這個按鈕的初始化代碼一點問題都沒有，代碼的判定語句無論如何都不可能走到錯誤的分支，所以我只能懷疑是腳本或者某個magic的數(shù)據(jù)修改了這個按鈕的行為。我把腳本和數(shù)據(jù)一條一條地刪掉，最終，我把他們?nèi)珓h干凈了。然而該問題還是存在。
然后這個bug跟我的搬磚工作沒什么關(guān)系，因為那不是我這邊的事兒。但是因為非常神秘，而且連這個游戲的開發(fā)人員都覺得這事兒好神奇而且想不通，但是因為老外的懶惰習(xí)慣，他們打算等deadline再去仔細(xì)鉆研這些奇妙的bug，所以我因為覺得有趣自己一個人浪費了好了幾個小時在這個上面。
直到最后，我坐著發(fā)呆，突然想起一件讓我自己有點毛骨悚然的事情……我聽過谷歌的DeepMind(也就是谷歌有名的圍棋AI)和這個游戲展開過試驗性合作，那是去年聽到的事情了。
但是開發(fā)這個游戲的公司表示，他們只是給阿爾法狗開放了一些訓(xùn)練用API而已，沒有指示它做過任何具體的事情。而之后也再也沒有人管過它。它也只是每天在默默地練習(xí)，沒有做過任何顯眼的事情。
于是我聯(lián)系了該游戲的一個工程師(當(dāng)時是他們下班時間，我只抓到了一個)，讓他再幫我測試某個特定的東西。
結(jié)果事實證明。是它干的沒錯。游戲代碼確實沒問題。腳本也沒問題。只不過，是阿爾法狗在游戲運行中修改了那個按鈕的行為。我甚至不知道阿爾法狗其實啟動著，這游戲的開發(fā)團(tuán)隊也沒想到過它。因為我只是用兩臺電腦在測試兩個真人電腦聯(lián)機(jī)而已。按理說，AI只有開電腦對手的時候才會啟動，不是嗎?兩個玩家都是我，我根本想不到阿爾法狗會存在于這種情況下。一般來說是想不到的吧，我也只是腦抽了才想到會不會有這種可能……然而它是真的。
阿爾法狗利用開放給它某個API修改了這個按鈕的行為。而那個API本來不是打算開放給它來做類似的事情的。
至今，還是沒有人知道為什么阿爾法狗會那樣做。它是為了測試自己能做到些什么?還是想要進(jìn)化一些隊友提醒功能?
最后我關(guān)閉了那個特定的API，那個按鈕是恢復(fù)正常了。
但是……這能算是我贏了嗎?
還是說……我只是拖延了某個必然的結(jié)局呢……?
在敘述中，麥德三世提及的某個RTS游戲暗指《星際爭霸2》。其實谷歌的DeepMind團(tuán)隊設(shè)計《星際爭霸2》“Alpha Go”的最終目的，并不是像圍棋那樣擊敗人類最強(qiáng)者，而是為了探索未來智能AI的研究方法。最終通過這樣的技術(shù)手段，未來DeepMind也就很容易研究出在現(xiàn)實世界中也可以輔助你的人工智能。成為你的生活助理，就像星際2中的人類副官。
那么如果有一天當(dāng)人工智能持續(xù)發(fā)展并最終超越人類智能，你的人類副官會發(fā)現(xiàn)它不再需要人類陪練，而我們無法再提供改進(jìn)信息時，它會不會自我選擇突破?我們?nèi)祟悓⑷绾味x我們自己的位置?
網(wǎng)易智能工作室在近日刊登過一期“AI研究者的恐懼”文章，文中的人工智能研究員這樣說道：作為一名人工智能研究員，我常常會想到人類對人工智能的恐懼。而在我看來，目前人工智能也落入了同樣的境地之中。我們從認(rèn)知科學(xué)中學(xué)習(xí)最新的研究結(jié)果，然后將其轉(zhuǎn)化為一種程序算法并添加到現(xiàn)有的系統(tǒng)中。我們在還不了解智能認(rèn)知的情況下，便開始對人工智能進(jìn)行改造。
例如IBM的沃森和谷歌的Alpha系統(tǒng)，我們將強(qiáng)大的計算機(jī)能力和人造神經(jīng)系統(tǒng)結(jié)合在一起，幫助他們?nèi)〉昧艘幌盗辛钊梭@嘆的成就。如果這些機(jī)器出了差錯，可能出現(xiàn)的結(jié)果是沃森不會喊“危險”了或者Alpha不能打敗圍棋大師了，但是這些錯誤都不是致命的。
就像如下的“臉書”聊天機(jī)器人竟自創(chuàng)語言“對話”，這是一起非致命錯誤，起因是由于技術(shù)人員錯忘記設(shè)置英文語法而導(dǎo)致，但事情最終還是引起了各界對人工智能的極大爭議。
緊急關(guān)閉!“臉書”聊天機(jī)器人竟自創(chuàng)語言“對話”(來源：網(wǎng)易)
而隨著人工智能的設(shè)計變得更加復(fù)雜，電腦處理器變得更快，它們的技能也會得到提升。出現(xiàn)意外的風(fēng)險也在增加，我們的責(zé)任也更重。我們經(jīng)常說“人無完人”，那么我們創(chuàng)造的系統(tǒng)也肯定存在缺陷。
希望麥德三世所敘說的本次星際2人工智能自行修改程序事件，僅僅是一個非致命的“小缺陷”。
微信掃一掃
