“如果讓我選擇，我也會(huì)簽字，抵制人工智能武器應(yīng)用。”昨天，美國(guó)辛辛那提大學(xué)講座教授李杰來(lái)滬并接受記者專訪，提及日前霍金、馬斯克等一批科學(xué)界、企業(yè)界人士針對(duì)人工智能問(wèn)題公布警告信一事，李杰毫不猶豫地給出自己的答案。他認(rèn)為，除了可能威脅人類生命的軍事應(yīng)用，人工智能在日常應(yīng)用、情感交流方面同樣存在潛在風(fēng)險(xiǎn)。不過(guò)，在人工智能進(jìn)步的過(guò)程中，人類也從未停止思考評(píng)估。隨著機(jī)器人自主學(xué)習(xí)、自我進(jìn)化，人類也會(huì)制定相應(yīng)的規(guī)矩和界限。

據(jù)悉，李杰的新書(shū)《大數(shù)據(jù)與智能制造的新思維》將由上海交通大學(xué)出版社推出。

群體性警惕正是人類啟動(dòng)的防御機(jī)制之一

科幻小說(shuō)家阿西莫夫曾提出“機(jī)器人三定律”：機(jī)器人不得傷害人類;除非違背第一法則，機(jī)器人必須服從人類的命令;在不違背第一和第二法則的情況下，機(jī)器人必須保護(hù)自己。

但是，這一定律固若金湯、堅(jiān)不可摧嗎?不消說(shuō)大量科幻小說(shuō)和電影中，機(jī)器人“誤傷”或“攻擊”人類的情節(jié)，現(xiàn)實(shí)世界里相似的悲劇也不幸上演。就在上個(gè)月，德國(guó)大眾汽車公司一位正在工作中的員工因被機(jī)器人重重壓向一塊金屬板而導(dǎo)致死亡，這一機(jī)器人“殺死”人類的意外引發(fā)了恐慌。

如今，機(jī)器人技術(shù)已成人類世界不可或缺的一環(huán)，但科學(xué)界憂心忡忡的是：人工智能崛起后，未來(lái)機(jī)器人會(huì)否自主決定傷害人類?對(duì)此，李杰的態(tài)度較為樂(lè)觀，他認(rèn)為，人類可以拿出相應(yīng)的足夠智慧來(lái)應(yīng)對(duì)。“對(duì)于醫(yī)療、交通等日常生活領(lǐng)域的機(jī)器人應(yīng)用，市場(chǎng)需求所釋放的信號(hào)，可以起到檢驗(yàn)智能應(yīng)用優(yōu)劣的作用;歐洲、日本則根據(jù)機(jī)器人三定律對(duì)部分機(jī)器人應(yīng)用領(lǐng)域作出了明確限制?？吹贸?，人類依然在控制著智能應(yīng)用的邊界與進(jìn)程。”

換句話說(shuō)，無(wú)論是霍金等科學(xué)家聯(lián)名簽署抵制信件，還是一大批科幻影視、文學(xué)作品中的憂患與反思內(nèi)核，都表明人類已經(jīng)對(duì)人工智能可能帶來(lái)的危害拉響了警報(bào)，“這種群體性警惕，也正是人類所開(kāi)啟的自我防御機(jī)制的一種”。

當(dāng)人機(jī)間產(chǎn)生高級(jí)情感時(shí)，人類該怎么辦

如今，智能制造已不僅僅是過(guò)去意義上的小電子玩偶或零部件，而是逐步介入人類情感生活，成為孤寡老人的“貼心保姆”、交流障礙人士的“傾訴對(duì)象”，或者干脆充當(dāng)起一部分宅男的日常伴侶。當(dāng)然，這些應(yīng)用目前所占比例不大，但科學(xué)界預(yù)測(cè)認(rèn)為，未來(lái)的這一現(xiàn)象可能變得不再稀奇。

身為美國(guó)國(guó)家科學(xué)基金會(huì)智能維護(hù)系統(tǒng)產(chǎn)學(xué)合作中心主任，李杰與團(tuán)隊(duì)發(fā)現(xiàn)，一項(xiàng)新技術(shù)通常在15年左右被接受，30年達(dá)到廣泛應(yīng)用。在接下來(lái)的幾十年里，人工智能也會(huì)飛速發(fā)展并嫁接到多個(gè)領(lǐng)域。很快，機(jī)器將學(xué)習(xí)到人類優(yōu)點(diǎn)和缺點(diǎn)，模擬人類感情。到那時(shí)人類應(yīng)當(dāng)如何與機(jī)器共處?

科幻電影《她》中，人類男性與女機(jī)器人愈發(fā)投緣，人機(jī)友誼也最終演變成一段不被世俗理解的奇異愛(ài)情?？瓷先ダ浔母呖萍济婕啠毁x予了高度人性化和活色生香的情趣，機(jī)器人不僅掌握高級(jí)思維和創(chuàng)作能力，還變得“有心肝”。科幻作家韓松在小說(shuō)《佛性》里，對(duì)機(jī)器人參與信仰膜拜，展開(kāi)了戲謔而又入木三分的勾畫(huà)。有評(píng)論家認(rèn)為，一旦投射到現(xiàn)實(shí)世界中，超出一定限度的人機(jī)關(guān)系，必然會(huì)撬動(dòng)人類最基本的倫理、婚姻、家庭價(jià)值觀。而在電影《機(jī)器姬》中，機(jī)器人表現(xiàn)出對(duì)人類的傾慕，結(jié)果只是利用了人類的信任與愛(ài)意，到頭來(lái)毀滅了曾經(jīng)的親密。這種暗黑式結(jié)尾無(wú)疑提醒人們——如何保證機(jī)器人判斷及行為合乎道德倫理，是科學(xué)家乃至社會(huì)學(xué)家、心理學(xué)家亟需思考并研究的命題。

“以往我們多是突出機(jī)器人的協(xié)助地位，但未來(lái)人機(jī)間的高度平等互動(dòng)，這將帶來(lái)更多前所未有的樂(lè)趣和可能性，但無(wú)疑也考驗(yàn)著人類的自覺(jué)擔(dān)當(dāng)與道義責(zé)任。”李杰說(shuō)。