機(jī)器人和自動(dòng)系統(tǒng)將為社會(huì)帶來重大創(chuàng)新。最近，公眾越來越關(guān)注可能發(fā)生的社會(huì)問題，以及可能產(chǎn)生的巨大潛在利益。

人工智能（AI）已經(jīng)從一個(gè)科幻小說式的探索領(lǐng)域發(fā)展到一個(gè)蓬勃發(fā)展的科技領(lǐng)域，在這個(gè)領(lǐng)域里，不可能的事情正在成為可能。為了確保人工智能發(fā)展的未來仍然具有倫理和社會(huì)意識(shí)，美國電氣和電子工程師協(xié)會(huì)（IEEE）宣布了三項(xiàng)新的人工智能倫理標(biāo)準(zhǔn)。

IEEE 自稱為“世界上最大的技術(shù)進(jìn)步技術(shù)專業(yè)組織”。根據(jù)最近發(fā)布的一份新聞稿，他們的人工智能標(biāo)準(zhǔn)將優(yōu)先考慮人類，因?yàn)樗麄兂兄Z要跟上該領(lǐng)域不斷發(fā)展的腳步。

這些新標(biāo)準(zhǔn)將成為一份題為《倫理一致的設(shè)計(jì)：將人類福祉與人工智能和自主系統(tǒng)優(yōu)先考慮的愿景》的 IEEE 文檔的一部分。這份文件將繼續(xù)隨著時(shí)代的變遷而不斷變化，鼓勵(lì)那些推動(dòng)技術(shù)進(jìn)步的人考慮這樣的進(jìn)步可能會(huì)如何影響倫理方面的擔(dān)憂。

Satoshi Tadokoro 是 IEEE 機(jī)器人和自動(dòng)化協(xié)會(huì)的主席，他解釋了為什么他們在發(fā)布會(huì)上制定了這樣的標(biāo)準(zhǔn)：“機(jī)器人和自動(dòng)系統(tǒng)將為社會(huì)帶來重大創(chuàng)新。最近，公眾越來越關(guān)注可能發(fā)生的社會(huì)問題，以及可能產(chǎn)生的巨大潛在利益。不幸的是，在這些討論中，可能會(huì)出現(xiàn)一些來自虛構(gòu)和想象的錯(cuò)誤信息。”

Tadokoro 繼續(xù)說道：“IEEE 將基于科學(xué)和技術(shù)的公認(rèn)事實(shí)來引入知識(shí)和智慧，以幫助達(dá)成公共決策，使人類的整體利益最大化?！比笕斯ぶ悄軜?biāo)準(zhǔn)將作為一個(gè)單獨(dú)的項(xiàng)目引入，每個(gè)項(xiàng)目由專家領(lǐng)導(dǎo)。

第一個(gè)標(biāo)準(zhǔn)：“機(jī)器化系統(tǒng)、智能系統(tǒng)和自動(dòng)系統(tǒng)的倫理推動(dòng)標(biāo)準(zhǔn)”。這個(gè)標(biāo)準(zhǔn)探討了“推動(dòng)”，在人工智能世界里，它指的是影響人類行為的微妙行動(dòng)。

第二個(gè)標(biāo)準(zhǔn)：“自動(dòng)和半自動(dòng)系統(tǒng)的故障安全設(shè)計(jì)標(biāo)準(zhǔn)”。它包含了自動(dòng)技術(shù)，如果它們發(fā)生故障，可能會(huì)對人類造成危害。就目前而言，最明顯的問題是自動(dòng)駕駛汽車。

第三個(gè)標(biāo)準(zhǔn)：“道德化的人工智能和自動(dòng)系統(tǒng)的福祉衡量標(biāo)準(zhǔn)”。它闡述了進(jìn)步的人工智能技術(shù)如何有益于人類的益處。

這些標(biāo)準(zhǔn)的實(shí)施可能比我們想象的要早，因?yàn)橄?OpenAI 和 DeepMind 這樣的公司越來越快地推進(jìn)人工智能的發(fā)展，甚至創(chuàng)造出能夠自我學(xué)習(xí)又?jǐn)U大“智能”領(lǐng)域的人工智能系統(tǒng)。專家們認(rèn)為，這樣的人工智能會(huì)破壞世界穩(wěn)定，導(dǎo)致大規(guī)模的失業(yè)和戰(zhàn)爭，甚至轉(zhuǎn)向創(chuàng)造“殺人武器”。最近，聯(lián)合國的重要討論促使人們開始認(rèn)真思考，需對將人工智能技術(shù)當(dāng)作武器使用進(jìn)行更嚴(yán)格的監(jiān)管。

這三個(gè)標(biāo)準(zhǔn)項(xiàng)目有望能夠規(guī)范人工智能的發(fā)展，而不是阻礙進(jìn)步，但是我們所了解的社會(huì)也并未被我們努力創(chuàng)造的東西所破壞。