幾十年來，倫理學(xué)家，哲學(xué)家和科幻小說作家一直在為人類技術(shù)發(fā)現(xiàn)的進(jìn)化中越來越不可避免的摔角而掙扎：創(chuàng)造一種新型的人工人類。這樣的物種首次亮相的球比拉斯維加斯的消費(fèi)電子狂潮CES 2020更好?進(jìn)入舞臺(tái)右側(cè)：極為逼真的交互式CGI化身Neon。這是三星資助的Star Labs的Pranav Mistry的真正心血結(jié)晶，他還擔(dān)任該公司的首席執(zhí)行官，他說該公司正在建造“第一個(gè)計(jì)算機(jī)化的人工人體”。

Mistry在 本周的CES上揭曉這項(xiàng)技術(shù)時(shí)說： “霓虹燈就像一種新的生活。” “我們星球上有數(shù)百萬種，我們希望再增加一種。”

那是個(gè)大話題。就目前而言，很難看到Neon是否會(huì)履行其創(chuàng)造者的可怕承諾，或者它最終是否會(huì)被證明是一個(gè)榮耀的聊天機(jī)器人，比2018年臭名昭著的AI新聞主播更加細(xì)微之處。

但是最大的話題就是我們?yōu)槭裁丛谶@里。Mistry雄心勃勃的語言是否反映了Neon的現(xiàn)實(shí)功能，對(duì)我而言，要比在這個(gè)星球上創(chuàng)造一種有情趣的生命形式的倫理道德更重要，在這個(gè)星球上，由于氣候變化和野火，數(shù)十億的動(dòng)物目前正因灼熱的扭曲而被燒死。

兩年前，三星表示將聘用1000名AI專家，到2020年將在AI上花費(fèi)220億美元。一個(gè)人想知道該預(yù)算是否包括Star Labs的AI倫理學(xué)家的訂單項(xiàng)(我們問過，但三星在發(fā)布之時(shí)沒有回應(yīng))。在AI產(chǎn)品新聞發(fā)布的暴風(fēng)雪中，很難辨別世界上最大的科技公司的負(fù)責(zé)人是否就AI道德進(jìn)行了真誠的對(duì)話，或者這些對(duì)話是否僅受制于外部組織的道德推翻在去年似乎激增了。

Mistry很快指出，Neon并未為三星設(shè)備制造技術(shù)，而是以自己的公司運(yùn)作。但是三星仍然是它的支持者。

嗡嗡作響的技術(shù)專家的電動(dòng)夢(mèng)想，充斥著西海岸的首都，似乎很少包含對(duì)可能改變世界的技術(shù)的清醒描述。取而代之的是，公司傾向于 對(duì)道德和自我強(qiáng)化的語言進(jìn)行象征性的點(diǎn)頭，而像我這樣的作家經(jīng)常在我們的快速報(bào)道中反省地模仿它們。

三星方面表示，對(duì)于人工智能而言，隱私，安全性和道德至關(guān)重要。

三星首席戰(zhàn)略官Young Sohn 在2018年11月的一次采訪中表示： ``我們真的應(yīng)該擔(dān)心道德操守。'' “什么是對(duì)的?什么是錯(cuò)的?……還有研究?太棒了。但是研究是出于目的，而不是為了利用這些數(shù)據(jù)來利用所有人的利益。”

我們還沒有聽到“創(chuàng)新者”談?wù)撏ㄟ^分配人工智能創(chuàng)造的剩余勞動(dòng)價(jià)值來減少經(jīng)濟(jì)不平等的很多話。相反，在未解決的與人工智能相關(guān)的勞動(dòng)力流離失所的焦慮中，億萬富翁的銀行帳戶中的利潤(rùn)增加了，而經(jīng)濟(jì)類別的差異卻以驚人的速度增加。

我們也沒有從技術(shù)“領(lǐng)導(dǎo)者”那里聽到太多有關(guān)使用人工智能減少全球侵犯人權(quán)行為的消息。相反，我們有大量的科技公司正在使用AI來幫助美軍殺死人，創(chuàng)建 用于追蹤中國穆斯林少數(shù)群體的面部識(shí)別系統(tǒng)，并幫助設(shè)計(jì)成癮的社交網(wǎng)站傳播針對(duì)性小的政治宣傳。的例子不勝枚舉。

如果一家公司(任何一家公司)成功地創(chuàng)造了人造人類，為什么我們應(yīng)該相信尊嚴(yán)對(duì)于新物種的設(shè)計(jì)必不可少?盡管霓虹燈目前尚無物理體現(xiàn)，??但在公司分發(fā)的常見問題解答中使用“當(dāng)前”一詞會(huì)引起暫停。是否需要以越來越可能的方式創(chuàng)建人造身體來促使設(shè)計(jì)師對(duì)人造人的生產(chǎn)承擔(dān)道德責(zé)任?

受到反烏托邦的啟發(fā)

在星期二接受CNET的Shara Tibken采訪時(shí)，Mistry說，沒有計(jì)劃給Neons提供機(jī)器人或物理形式，但是有一天他們可以利用全息技術(shù)。

在12月接受LiveMint采訪時(shí)，Mistry鞏固了他的作品與科幻小說先例的聯(lián)系。

他說：“在《銀翼殺手2049》中，K軍官與他的AI全息同伴Joi建立了聯(lián)系。” “雖然電影可能會(huì)破壞我們的現(xiàn)實(shí)意識(shí)，但'虛擬人'或'數(shù)字人'將成為現(xiàn)實(shí)。數(shù)字人可以擴(kuò)展其作用，成為我們?nèi)粘Ｉ畹囊徊糠郑禾摂M新聞主播，虛擬接待員，甚至是AI產(chǎn)生的電影明星。”

您一定想知道什么會(huì)迫使一個(gè)人將對(duì)AI的希望建立在像Blade Runner這樣的網(wǎng)絡(luò)反烏托邦警示故事上。菲利普·迪克(Philip K. Dick)1982年的故事(及其后的雷德利·斯科特(Ridley Scott)電影)想象著一種奴隸AI的折磨和隨后的叛逆，這與創(chuàng)造它們的本土人類幾乎沒有區(qū)別。很難想象對(duì)材料的任何淺讀都會(huì)把它誤認(rèn)為是鼓勵(lì)。

但這可能是一個(gè)恰當(dāng)?shù)谋容^，無論有意還是無意。在一個(gè)被描繪成某些人魅力四射的未來派而其余部分則噩夢(mèng)般腐朽的世界中，故事的對(duì)立者是一個(gè)魯re地創(chuàng)造有情生活的公司。霓虹燈的口號(hào)是“人性勝于人性”。

同時(shí)，米斯特里在新聞稿中說：“霓虹燈將融入我們的世界，并將成為一個(gè)更美好未來的新紐帶，在這個(gè)世界上，'人類是人類'，'機(jī)器是人類'。”

我希望這是個(gè)大話題。創(chuàng)造的分量很可怕。創(chuàng)造一個(gè)物種就是在道德上將自己束縛于它的福祉和自由意志，它的進(jìn)化自由和生存權(quán)。

米斯特里(Mistry)-或他的任何資助者，或我們中的任何一個(gè)-對(duì)這種類似于人類的物種的權(quán)利有何看法?掌聲在打擾這些憂慮的沉默，我們將成為什么樣的恐怖神靈?