包括谷歌旗下DeepMind的聯(lián)合創(chuàng)始人和SpaceX的首席執(zhí)行官在內(nèi)的2400名人工智能科研人員簽署宣言，承諾阻止致命的人工智能武器。

　　數(shù)千名專攻人工智能(AI)的科學(xué)家已經(jīng)宣布，他們將不會參與開發(fā)或制造在自主狀態(tài)下具備識別和攻擊行為的人工智能機(jī)器人。谷歌DeepMind的杰米斯?哈薩比斯(Demis Hassabis)和美國火箭公司SpaceX的埃隆?馬斯克(Elon Musk)都在這項(xiàng)承諾的2400多名簽署者之列。該承諾旨在阻止軍事公司和國家執(zhí)法機(jī)構(gòu)建造致命的自動武器系統(tǒng)。

　　這一宣言的簽署是人工智能領(lǐng)域的組織和科學(xué)家的最新舉措，旨在強(qiáng)調(diào)將生死的決定權(quán)交給人工智能機(jī)器的危險(xiǎn)。同時(shí)呼吁相關(guān)人士要未雨綢繆，禁止技術(shù)濫用，因?yàn)檫@可能會催生出新一代大規(guī)模殺傷性武器。

　　這一承諾是由波士頓的“生命未來研究所(Future of Life Institute)”組織策劃的，它呼吁各國政府商定規(guī)范、法律和法規(guī)，這些規(guī)范、法律和法規(guī)將扼殺和有效禁止殺手機(jī)器人的發(fā)展。

　　在今天沒有此類措施的情況下，簽署者承諾“既不參與也不支持發(fā)展、制造、貿(mào)易或使用致命的自主武器”。超過150個(gè)與人工智能相關(guān)的公司和組織也加入了簽署者的行列，這一承諾在前幾日于瑞典斯德哥爾摩舉行的國際人工智能聯(lián)合會議(International Joint Conference)上宣布。

　　蒙特利爾學(xué)習(xí)算法研究所的人工智能先驅(qū)Yoshua Bengio在接受衛(wèi)報(bào)采訪時(shí)表示，如果這一承諾能夠讓那些制造自主武器的公司和軍事組織蒙羞，公眾輿論就會反對他們?！坝捎趪H條約和公開羞辱，這種方法實(shí)際上適用于地雷，盡管像美國這樣的主要國家沒有簽署禁止地雷的條約。美國公司已經(jīng)停止制造地雷，”他說。Bengio也簽署了承諾，表達(dá)了他對“致命的自主武器的強(qiáng)烈關(guān)注”。

　　軍方是人工智能技術(shù)的最大資助者和采用者之一。有了先進(jìn)的計(jì)算機(jī)系統(tǒng)，機(jī)器人可以在惡劣的地形上空飛行，在地面上航行，在海底巡邏。更先進(jìn)的武器系統(tǒng)正在醞釀之中。周一，英國國防大臣加文·威廉姆森(Gavin Williamson)公布了一項(xiàng)20億英鎊的計(jì)劃，計(jì)劃購買一架新的英國皇家空軍戰(zhàn)斗機(jī)——暴風(fēng)雨(Tempest)，它將能夠在沒有飛行員的情況下飛行。

　　英國的大臣們表示，英國并沒有發(fā)展出致命的自主武器系統(tǒng)，而且英國軍隊(duì)將永遠(yuǎn)對其部署的武器進(jìn)行監(jiān)督和控制。但活動人士警告說，人工智能和其他領(lǐng)域的快速發(fā)展意味著，現(xiàn)在可以制造出先進(jìn)的武器，在未經(jīng)人類控制者同意的情況下，識別、跟蹤和射擊人類目標(biāo)。對許多研究人員來說，讓機(jī)器來決定人類的生存和死亡，這超越了道德底線。

　　“我們需要把自主武器不被接受作為國際準(zhǔn)則。人類必須永遠(yuǎn)擁有控制權(quán)，”悉尼新南威爾士大學(xué)的人工智能教授Toby Walsh說?！拔覀儾荒茏柚挂粋€(gè)意志堅(jiān)定的人制造自主武器，就像我們不能阻止一個(gè)意志堅(jiān)定的人制造化學(xué)武器一樣，”他補(bǔ)充說，“但如果我們不希望流氓國家或恐怖分子輕易獲得自主武器，我們必須確保武器公司不會公開出售這些武器?！?/p>

　　研究人員可以選擇不去研究自主武器，但是其他人在他們發(fā)表的突破性進(jìn)展上所拓展的事情實(shí)際上超出了他們的控制范圍。英國蘭卡斯特大學(xué)的另一位簽署者、科學(xué)與技術(shù)人類學(xué)教授Lucy Suchman表示，盡管研究人員不能完全控制他們的工作成果如何被使用，但當(dāng)他們有顧慮時(shí)，他們可以參與并進(jìn)行干預(yù)。

　　她說：“如果我是一名簽署了承諾的機(jī)器視覺研究人員，我將首先承諾追蹤我的技術(shù)的后續(xù)使用，并公開反對他們的應(yīng)用程序來實(shí)現(xiàn)自動化目標(biāo)識別;其次，我會拒絕參與任何建議或直接幫助將這項(xiàng)技術(shù)整合到自主武器系統(tǒng)中?！?/p>