AI 在工廠自動(dòng)化領(lǐng)域已經(jīng)出現(xiàn)了巨大飛躍，機(jī)器學(xué)習(xí)正在快速進(jìn)入能源及其他企業(yè)應(yīng)用（移動(dòng)、汽車(chē)等）中 。 下一次工業(yè)革命可能會(huì)是人類(lèi)直接主導(dǎo)的最后一次工業(yè)革命 ，恕我直言，未來(lái) AI 將成為協(xié)作者以及潛在的領(lǐng)導(dǎo)者。

　　一些研究人員認(rèn)為，這一天的到來(lái)只是時(shí)間問(wèn)題。用斯坦福大學(xué)名譽(yù)教授尼爾斯·尼爾森博士（Dr. Nils Nilsson）的話來(lái)講，“機(jī)器會(huì)唱著這樣的歌，‘你會(huì)做的任何事，我都能做得更好；任何事我都做得比你好’?！?/P>

　　針對(duì)越來(lái)越多的自治系統(tǒng)導(dǎo)致的就業(yè)市場(chǎng)劇變，海爾吉·赫爾加松博士（Dr. Helgi Helgason）表示，“與其說(shuō)是風(fēng)險(xiǎn)，倒不如說(shuō)是必然，我們應(yīng)該將根據(jù)這一點(diǎn)去改變教育政策。”

　　今年 1 月在瑞士召開(kāi)的 世界經(jīng)濟(jì)論壇 2016 年年會(huì) 上，AI 帶來(lái)的經(jīng)濟(jì)顛覆成為了一大議題，由此可見(jiàn)全球領(lǐng)導(dǎo)人正開(kāi)始規(guī)劃如何有針對(duì)性地整合 AI 科技并應(yīng)用到世界經(jīng)濟(jì)中——但這是一項(xiàng)需要許多人來(lái)完成的艱巨任務(wù)。

　　未來(lái)二十年中另一個(gè)常被提及的風(fēng)險(xiǎn)是對(duì) AI 的管理不善。顯然 AI 企業(yè)已經(jīng)對(duì)此有所顧慮，一些硅谷頂級(jí)科技大師給 OpenAI——一家關(guān)注于 AI 技術(shù)對(duì)人類(lèi)的正面作用的非營(yíng)利研究機(jī)構(gòu)——投資了 10 億美元。

　　“機(jī)器會(huì)唱著這樣的歌，‘你會(huì)做的任何事，我都能做得更好；任何事我都做得比你好’。”

　　——斯坦福大學(xué)名譽(yù)教授尼爾斯·尼爾森博士（Dr. Nils Nilsson）

　　“很難估量人腦級(jí)別的 AI 能對(duì)社會(huì)帶來(lái)多少益處，AI 開(kāi)發(fā)不當(dāng)或使用不當(dāng)給社會(huì)帶來(lái)多少損失同樣很難想象，”O(jiān)penAI 在 2015 年 12 月的 上線頁(yè)面 上寫(xiě)著這樣的兩句話。我們開(kāi)發(fā) AI、管理 AI 的方式存在著極為深遠(yuǎn)的影響，并將塑造未來(lái)社會(huì)的道德和倫理準(zhǔn)則。

　　西蒙弗雷澤大學(xué)副教授菲利普·帕斯基耶爾（Philippe Pasquier）表示，“當(dāng)我們部署越來(lái)越多的人工智能并賦予更多的責(zé)任時(shí)，造成負(fù)面后果的故障風(fēng)險(xiǎn)也在與日俱增，”不過(guò)他也指出，他不認(rèn)為 AI 會(huì)對(duì)社會(huì)本身帶來(lái)高風(fēng)險(xiǎn)。

　　能力越大，責(zé)任就越大，如何監(jiān)管這樣的能力成為了大家最為關(guān)切的問(wèn)題。

　　坦普爾大學(xué)王培博士認(rèn)為主要風(fēng)險(xiǎn)存在于“忽視深度學(xué)習(xí)（deep learning）、強(qiáng)化學(xué)習(xí)（reinforcement learning）等熱門(mén)技術(shù)的缺陷和限制。許多領(lǐng)域都會(huì)發(fā)生這樣的事?！盨martAction 創(chuàng)始人彼得·沃斯博士（Dr. Peter Voss）表達(dá)了類(lèi)似的觀點(diǎn)，指出他最擔(dān)心的是“無(wú)知的人類(lèi)破壞 AI 的能力和智力。”

　　考慮新興 AI 技術(shù)伴隨有哪些風(fēng)險(xiǎn)不是件容易的事，設(shè)計(jì)出可能的解決方案及保障措施更加困難，而如何全球協(xié)作對(duì)這些措施進(jìn)行實(shí)施并監(jiān)控才是最最困難的工作。但考慮到所有這些任務(wù)的緊迫性和危險(xiǎn)性，我愿意無(wú)數(shù)次打賭，這樣的努力是值得去冒險(xiǎn)的。