會不會被“天網(wǎng)”奴役，答案在我們自己
來源: 新華網(wǎng)2016-03-22 09:17:00 包括人工智能在內(nèi)，人類的創(chuàng)造物是否會和我們站在同一邊?是否會成為奴役我們的力量?這些問題的答案不在工具，而在人類自身。
“阿爾法圍棋”和韓國棋手李世石的世紀(jì)大戰(zhàn)，終于以“阿爾法狗”4:1獲勝而宣告落幕。如果從科學(xué)發(fā)展角度來看，這不僅是一次人類和人工智能的大對決，而是人類對未知領(lǐng)域的又一次科學(xué)實驗，也必將從此掀開人工智能科學(xué)研發(fā)的新序幕。
今天的人工智能，已經(jīng)成為涉及哲學(xué)、計算機、心理學(xué)、博弈論等領(lǐng)域的交叉學(xué)科，“阿爾法狗”的算法技術(shù)和數(shù)據(jù)處理能力已經(jīng)遠(yuǎn)超“深藍(lán)”。在新一輪科技和產(chǎn)業(yè)革命中，人工智能的產(chǎn)業(yè)化應(yīng)用是一大動力源。無論是德國的工業(yè)4.0，還是美國的“再工業(yè)化”，抑或是中國的“互聯(lián)網(wǎng)+”，人工智能的研發(fā)都是重點，被視為經(jīng)濟社會發(fā)展的動力源。
但對人工智能，除了歡迎，也有警惕。其發(fā)展的每一步，都與英國數(shù)學(xué)家圖靈“機器能思考嗎”的詰問相伴。以機器人為代表的人工智能是否會取代人類、站到人類對立面?這早已成為諸多科幻電影的題材，由施瓦辛格主演的《終結(jié)者》中的天網(wǎng)Skynet成為了最可怕的人工智能的代名詞，理論物理學(xué)家霍金也憂慮：“人工智能的完全發(fā)展會導(dǎo)致人類的終結(jié)。”
人工智能會發(fā)展到什么程度?作為普通人，我們無法準(zhǔn)確預(yù)測，因為目前的人工智能尚處于“有智能沒智慧、有智商沒情商、會計算不會‘算計’、有專能無全能”的階段。然而就在“阿爾法狗”與李世石大賽期間，谷歌一位資深人工智能工程師接受專訪，認(rèn)為在10年內(nèi)，有知覺和自我意識的強人工智能可以實現(xiàn)，那時人工智能可以寫小說，而且有發(fā)展到天網(wǎng)水平的可能。
如果這真是10年內(nèi)的結(jié)果，那么人類真的需要趕緊思考人工智能與人的關(guān)系了。對人工智能可能帶來的安全與倫理問題，歐盟、日本、韓國等已經(jīng)著手開展政策研究與立法實踐。事實上，谷歌在收購“阿爾法圍棋”的研發(fā)者——“深度思維”公司的條款中有一項，就是必須成立人工智能道德委員會，由來自科學(xué)、哲學(xué)多領(lǐng)域的人員監(jiān)督通用人工智能技術(shù)的未來應(yīng)用。
世界上最強大的力量應(yīng)當(dāng)是人類本身，而不是一把鐵鍬或者核潛艇。人類制造的產(chǎn)物不講道德和感情，但它們擁有力量，這種力量的快速增長往往讓人類感到恐懼。包括人工智能在內(nèi)，人類的創(chuàng)造物是否會和我們站在同一邊?是否會成為奴役我們的力量?這些問題的答案不在工具，而在人類自身。
筆者想到了法國思想家帕斯卡爾的名言：“人是一棵有思想的蘆葦。”面對人工智能以及一個個可能帶來異化的事物，我們需要的正是“思想”，也只有“思想”才能解決這些難題。□殷紅博(科學(xué)教育學(xué)者)
