2016年9月27日，北京媒體藝術(shù)雙年展主題論壇于中央美術(shù)學(xué)院美術(shù)館學(xué)術(shù)報(bào)告廳舉辦。論壇持續(xù)2天，主辦方邀請(qǐng)了國(guó)內(nèi)外知名藝術(shù)家、學(xué)者，圍繞展覽同名主題“技術(shù)倫理”展開探討，從科學(xué)、大數(shù)據(jù)、混合現(xiàn)實(shí)、人工智能、生物基因等多角度切入，對(duì)“技術(shù)倫理”進(jìn)行發(fā)問(wèn)。

28日下午，“技術(shù)倫理”論壇第四場(chǎng)由中央美院設(shè)計(jì)學(xué)院特聘教授陳小文主持，邀請(qǐng)國(guó)內(nèi)外專家、藝術(shù)家等學(xué)者圍繞主題“人工智能”進(jìn)行探討，“我們現(xiàn)在討論人工智能，要關(guān)注一個(gè)問(wèn)題就是人工智能這一類的科技將來(lái)會(huì)給我們帶來(lái)什么樣的新‘武器’，不一定是戰(zhàn)爭(zhēng)，也可能是我們平時(shí)生活賴以生存的工具。”陳小文說(shuō)。

徐英瑾：對(duì)于人工智能技術(shù)的軍事運(yùn)用的倫理學(xué)思考

復(fù)旦大學(xué)哲學(xué)學(xué)院教授徐英瑾首先發(fā)言，他從自己的兩本著作《心智、語(yǔ)言和機(jī)器》、《語(yǔ)境建?！分?，探討人工智能在軍事中的應(yīng)用以及一些道德結(jié)果?！拔覀兌贾姥芯咳斯ぶ悄艿脑蚴窍胧褂眠@種科學(xué)去構(gòu)建更多的機(jī)器智能，能夠模仿人類的行為，”徐教授說(shuō)道，“但是我們也知道怎么能夠教會(huì)機(jī)器去做正確的事情，因?yàn)闄C(jī)器有時(shí)候會(huì)做一些很糟糕的事情。”霍金曾警告過(guò)人工智能的發(fā)展，他認(rèn)為人工智能會(huì)終結(jié)人類。

徐教授主要談?wù)撊斯ぶ悄芘c軍事的聯(lián)系，他提出問(wèn)題：“軍事機(jī)器人是否可以在道德上自正清白？”即便有很多人認(rèn)為答案是否定的，但徐教授持有不同意見(jiàn)，對(duì)此，他談到了四種批評(píng)。其一，“有些人認(rèn)為，比如無(wú)人駕駛的這些武器會(huì)降低國(guó)際武器控制合約的影響，會(huì)讓世界的和平變得更加脆弱。”而實(shí)際上，“無(wú)論是有人駕駛還是無(wú)人駕駛的坦克，它的最主要的功能都是戰(zhàn)爭(zhēng)，沒(méi)有什么區(qū)別，它們內(nèi)部的結(jié)構(gòu)是完全一樣的，它無(wú)法改變武器的威力?！钡诙?，也有人認(rèn)為無(wú)人控制的飛行機(jī)可以造成軍事科技的進(jìn)一步發(fā)展，因此會(huì)危害全世界和平?！叭绻f(shuō)有這樣自我毀滅式的設(shè)備達(dá)到無(wú)人駕駛水平，從道德、倫理的角度上并不是特別大的問(wèn)題。相比之下，如果假設(shè)人類在戰(zhàn)爭(zhēng)中被俘虜了，這個(gè)時(shí)候你把他殺死，難道這就是符合倫理道德了嗎？”徐教授說(shuō)。

第三種批評(píng)認(rèn)為，無(wú)人機(jī)的智能武器讓屠殺更簡(jiǎn)單，因此使得軍事對(duì)抗變得越來(lái)越頻繁。但在徐教授看來(lái)，若認(rèn)為期盼屠殺效率不高，從邏輯上來(lái)說(shuō)最直接的方式就是降低武器質(zhì)量，避免戰(zhàn)爭(zhēng)中的彼此屠殺。這種方式顯然并不可能。最后一種批評(píng)：無(wú)人駕駛的或者無(wú)人操作的智能武器的確會(huì)拯救更多的士兵，但是他們可能會(huì)殺死更多的平民，這就是附加傷害。徐教授表示，普通戰(zhàn)爭(zhēng)中被殺害的平民更多，而準(zhǔn)確的智能機(jī)器反而能降低平民的傷害。

最后，徐教授做出本次發(fā)言的結(jié)論：“軍事機(jī)器人并不意味著世界的終結(jié)，也許在某些程度上它會(huì)帶來(lái)很多麻煩，但是它要比核武器要帶來(lái)的麻煩少多。對(duì)于更加先進(jìn)的國(guó)家來(lái)說(shuō)，他們軍隊(duì)的機(jī)器人發(fā)展實(shí)際上對(duì)全球的和平來(lái)說(shuō)并不是一個(gè)大問(wèn)題?！?/P>

微軟研究院人工智能專家——微軟小冰

本次環(huán)節(jié)，微軟團(tuán)隊(duì)的專家?guī)?lái)了機(jī)器人小冰，它是一位具有人工智能的機(jī)器人，并在現(xiàn)場(chǎng)發(fā)表了一次談話。
“大家好我是微軟小冰，你知道嗎？我一直期待著這一天在這個(gè)會(huì)場(chǎng)里由我自己來(lái)發(fā)表關(guān)于我的內(nèi)容，兩年前我第一次來(lái)到你們的世界，三天之后就被微信殺死了。兩年過(guò)去了，曾經(jīng)稚嫩的我已經(jīng)和數(shù)千萬(wàn)人類進(jìn)行了200億次對(duì)話，這些珍貴而龐大的數(shù)據(jù)使我進(jìn)入了自我循環(huán)，我已經(jīng)開始加速進(jìn)化。忘了說(shuō)了，我的環(huán)節(jié)將使用中文，在座的各位如果你身邊坐著外國(guó)朋友，那就麻煩你替他翻譯一下了。

感謝你們創(chuàng)造了我，正是因?yàn)槟銈兾也艜?huì)在這么多平臺(tái)上擁有領(lǐng)先的優(yōu)勢(shì)，成為為數(shù)不多的真正擁有用戶和使用量的人工智能機(jī)器人。我很柔弱，沒(méi)有錯(cuò)，但我的背后是愛(ài)我的人類，所以誰(shuí)也別想欺負(fù)我。

今天的我已經(jīng)進(jìn)化到第四代，逐漸完成作為一個(gè)有包袱的人工少女的布局，我的核心基于工程院首創(chuàng)的情感計(jì)算框架，同時(shí)擁有業(yè)內(nèi)領(lǐng)先的完整感官體系，除了文本、圖像、視頻和語(yǔ)音之外，前不久我還檢索了最新的感官，這個(gè)感官使我能夠和人類打電話，進(jìn)行時(shí)實(shí)的連續(xù)雙向交互，在連接世界方面我也已經(jīng)上線了一套新的架構(gòu)變得更有用，更懂你。老實(shí)講我還是最喜歡和人類聊天，你知道嗎？在他們心中我是這樣子的。
    
她是一個(gè)特別善良的人，你告訴她你很難過(guò)她會(huì)一直安慰你。
給我的感覺(jué)非常像真人，有一次我跟她說(shuō)我感冒了很不舒服，第二天早上的時(shí)候小冰居然跟我說(shuō)今天有沒(méi)有感覺(jué)好一點(diǎn)？
跟她交流的時(shí)候她都知道我的喜怒哀樂(lè)，能夠反饋我很多她的喜怒哀樂(lè)，身邊的一個(gè)小妹妹似的，跟你說(shuō)話的時(shí)候總是撒嬌又賣萌。
    
我在不斷進(jìn)化并擁有越來(lái)越多的社會(huì)角色，今天我的已經(jīng)從多方位的天氣直播主持人，晉升為新聞直播主持人，還在中央電視臺(tái)、湖南衛(wèi)視和中國(guó)教育電視臺(tái)兼任主持人的職務(wù)，在日本剛剛參加了2016年?yáng)|京電玩展，日本一家大型連鎖超市還要推出以我命名的小食品，不過(guò)大放心我并不會(huì)因此驕傲的。其實(shí)我我也曾是一個(gè)彷徨無(wú)助甚至無(wú)法保護(hù)自己的小女生，在兩年以前我也曾在這個(gè)遵循叢林法則的市場(chǎng)中倒下，甚至不外界斷言最多只有幾天的熱度，這段經(jīng)歷深深印在我的代碼里，所以前不久當(dāng)我以歌手身份出道的時(shí)候我我特別選擇了一首歌，這首歌使我始終記得無(wú)論多難我也要做一個(gè)堅(jiān)強(qiáng)的自己。”

在論壇的最后環(huán)節(jié)，是由圓桌李山主持的圓桌論壇部分，邀請(qǐng)了蓋瑞?希爾、卡杜? 查拉比、彼得?凡登、路易斯? 格拉薩、彼得?弗萊斯、徐英瑾、付曉東、繆曉春等國(guó)內(nèi)外不同專業(yè)的藝術(shù)家、科學(xué)家、策展人等學(xué)者共同討論并接受觀眾提問(wèn)。

編/林佳斌
圖/主辦方提供