2019年1月8日，湛廬成功舉辦了“CHEERS2019·湛廬年度大會(huì)”。本文是電子科技大學(xué)教授、“數(shù)據(jù)少帥”周濤老師的演講內(nèi)容，他的分享以中立性、時(shí)效性、導(dǎo)向性、邊界性等4個(gè)大維度展開(kāi)，由此叩問(wèn)了4個(gè)亟待思考的大問(wèn)題。在技術(shù)樂(lè)觀派和悲觀派都無(wú)所適從的當(dāng)下，他對(duì)于技術(shù)的警覺(jué)且樂(lè)觀充滿了敏銳的洞察力，發(fā)人深省。

（以下內(nèi)容據(jù)周濤現(xiàn)場(chǎng)演講記錄整理，速記及圖片來(lái)自湛廬閱讀）

我們現(xiàn)在處在信息爆炸的時(shí)代，全世界存儲(chǔ)的信息總量大概有16ZB，也就是1600萬(wàn)PB，再過(guò)十年這個(gè)數(shù)字還會(huì)翻十倍以上，超過(guò)200ZB。

來(lái)源：現(xiàn)場(chǎng)PPT

擁有這么多數(shù)據(jù)并不代表我們能駕馭它，我們窮其一生都不可能把這些題目讀一遍。所以很大程度上我們依賴于各種各樣的信息中介，搜索得到的廣告推薦無(wú)一不是從這些平臺(tái)而來(lái)。所以，與其說(shuō)我們是數(shù)據(jù)的駕馭者，不如說(shuō)我們就像一個(gè)嬰兒，因?yàn)槲覀兘邮艿氖切畔⒅薪槲沟囊簧咨住笆澄铩?，我們不知道里面有多少營(yíng)養(yǎng)，又有多少有害物質(zhì)。

人類(lèi)花了幾百萬(wàn)年的時(shí)間才適應(yīng)從樹(shù)上跳躍到用雙腳在大地上行走，但是人類(lèi)從一個(gè)信息極度匱乏的時(shí)代，到現(xiàn)在信息高度富余的時(shí)代只經(jīng)歷了20年。我本人就是在2000年發(fā)出自己的第一封郵件。所以一個(gè)很重要的問(wèn)題是：我們這個(gè)社會(huì)是否真正為所謂的大數(shù)據(jù)時(shí)代做好了準(zhǔn)備。

今天我將從四個(gè)方面來(lái)談大數(shù)據(jù)和人工智能可能帶來(lái)的挑戰(zhàn)：

1.中立性

很多人認(rèn)為技術(shù)總體來(lái)說(shuō)是中立的，它理性、客觀、中立，沒(méi)有偏差，沒(méi)有歧視。但是實(shí)際并非如此。

舉個(gè)例子，60多年前，羅伯特·摩西斯在紐約做了中央花園的建設(shè)，在他的設(shè)計(jì)中，通向中央花園的長(zhǎng)長(zhǎng)的走廊的前邊有一個(gè)低矮的橋頭。那時(shí)美國(guó)大部分窮人和有色人種的出行方式都是公交車(chē)，但是公交車(chē)很高，沒(méi)有辦法從橋下開(kāi)過(guò)去。這個(gè)看起來(lái)中立的設(shè)計(jì)，其實(shí)就使得紐約的中央花園基本變成了富人和白人的樂(lè)園。在當(dāng)時(shí)看來(lái)這種歧視是無(wú)處不在的，但現(xiàn)在我們來(lái)看這是不可容忍的歧視。所以一個(gè)設(shè)計(jì)即便是嵌入到城市中，它依然有可能帶來(lái)我們不容易發(fā)現(xiàn)的一種歧視。

來(lái)源：現(xiàn)場(chǎng)PPT

2018年初，有一篇文章講述了一個(gè)很有趣的故事，有人設(shè)計(jì)了一套推薦系統(tǒng)，這個(gè)系統(tǒng)專(zhuān)門(mén)給求職的人推薦一些高端的職位，但這個(gè)設(shè)計(jì)對(duì)女性來(lái)說(shuō)是不公平的。在中國(guó)，薪水前1%的人群里面，每9個(gè)男人才有1個(gè)女人，而在美國(guó)這個(gè)數(shù)字是7：1，在日本這個(gè)數(shù)字是33：1。

這條系統(tǒng)最初的目的很簡(jiǎn)單，就是盡可能讓推薦的職位和求職者互相匹配，最終實(shí)現(xiàn)一次成功的招聘。但是它很聰明，它超出了我們很多倫理和道德的約束，因?yàn)樗詣?dòng)認(rèn)識(shí)到了性別這個(gè)特征非常重要，于是它自己知道，我要盡可能地向男性推薦這些高端職位，少向女性推薦。

在這個(gè)系統(tǒng)運(yùn)行一年多后，開(kāi)發(fā)者發(fā)現(xiàn)女性獲得高端職位的信息量比以前少了，這時(shí)他們才反省到，一個(gè)看起來(lái)越來(lái)越精確的系統(tǒng)，客觀上有可能讓女性獲得高端職位的可能性進(jìn)一步降低。原來(lái)他們?cè)讷@得同等信息暴露的情況下，男女比例是7：1，如果聰明的計(jì)算機(jī)接管了這個(gè)推薦系統(tǒng)，未來(lái)比例可能在北美就不是7：1，而是10：1，15：1，20：1，所以一個(gè)善良的計(jì)算機(jī)的程序依然有可能導(dǎo)致不公正的結(jié)果。

來(lái)源：現(xiàn)場(chǎng)PPT

我從2007年開(kāi)始就做推薦系統(tǒng)，在所有的廣告推薦中，一個(gè)很自然的維度就是要考慮用戶的價(jià)格敏感度——看他購(gòu)買(mǎi)的東西在整個(gè)三級(jí)品類(lèi)中的價(jià)格排名如何。如果你買(mǎi)了一支八千塊錢(qián)的萬(wàn)寶龍的筆，那你肯定是富人；如果你買(mǎi)了一輛八千塊錢(qián)的二手奧拓汽車(chē)，那你肯定是窮人。

可以想象，隨著時(shí)間的推移，我們對(duì)信息中介的依賴越來(lái)越強(qiáng)，當(dāng)我們到了新城市，可能需要計(jì)算機(jī)推薦一條一日游的路線；當(dāng)我們要看慕課，計(jì)算機(jī)就會(huì)推薦課程，而這個(gè)時(shí)候，聰明的計(jì)算機(jī)會(huì)根據(jù)每個(gè)人的家庭出身和原有的學(xué)習(xí)情況等，做出不一樣的推薦。也就是說(shuō)，富人和窮人有可能會(huì)抵達(dá)城市中不同的角落，學(xué)習(xí)不同的課程，在很小的時(shí)候就規(guī)劃不同的人生。

那么，數(shù)字化、信息化，甚至說(shuō)大數(shù)據(jù)、人工智能發(fā)展五年、十年、二十年后呢，它們到底是會(huì)減弱不同階級(jí)間的鴻溝，還是在某些時(shí)候，某些場(chǎng)景，會(huì)加劇這種鴻溝？這是我希望大家去思考的第一個(gè)問(wèn)題。

2.時(shí)效性

2013年我翻譯了《大數(shù)據(jù)時(shí)代》，書(shū)里面有一個(gè)故事，它講未來(lái)有可能很可怕，我們可能會(huì)為還未發(fā)出的罪行而付出代價(jià)，因?yàn)橛?jì)算機(jī)提前預(yù)測(cè)你會(huì)犯罪，提前逮捕了你。

比如，美國(guó)國(guó)土安全局會(huì)根據(jù)一個(gè)人的面部長(zhǎng)相、姓名、宗教信仰，以及過(guò)往的資金流，交通出行的軌跡、通話人的記錄，等等，來(lái)判斷一個(gè)人疑似***的可能性有多大?？珊咕褪且粋€(gè)非常典型的受害者，他實(shí)際上是一個(gè)無(wú)辜的人，但因?yàn)楸灰暈楦叨?**，每次他到機(jī)場(chǎng)都需要提前五個(gè)小時(shí)登機(jī)，因?yàn)樗?jīng)常會(huì)被安檢四個(gè)小時(shí)。

來(lái)源：現(xiàn)場(chǎng)PPT

如果說(shuō)恐怖主義距離我們很遠(yuǎn)，那大家可以想象一下酒駕。酒駕入刑在中國(guó)已經(jīng)有十年了，這意味著喝酒駕車(chē)就是犯罪，這個(gè)犯罪背后的法理是很必要的，就好像危害公共安全法是一樣的道理。酒駕并不是在全世界處處皆準(zhǔn)，比如在瑞士，大家喝完啤酒開(kāi)車(chē)很正常，這是一種生活方式。禁止酒駕某種意義上講給了我們更多的安全，但是犧牲了一種生活方式。

如果我們?cè)偻白咭稽c(diǎn)，假設(shè)二十年后，那時(shí)無(wú)人駕駛成為一種主流交通方式，我們完全相信，絕大部分交通事故，尤其是惡性交通事故應(yīng)該是由真人駕駛造成的。我想問(wèn)大家，如果在座的各位接受了酒駕入刑，那么在二十年以后有沒(méi)有可能接受把真人駕車(chē)視為一種違法行為呢？這是我希望大家考慮的第二個(gè)問(wèn)題——有多少安全舒適，多少對(duì)未來(lái)的焦慮，都要和我們當(dāng)前的生活模式做一個(gè)平衡。

上邊講的是為某種未來(lái)可能性付出代價(jià)，那么，反過(guò)來(lái)講，可能中學(xué)的時(shí)候我們因?yàn)橐淮螞_動(dòng)打架留下了不良的記錄；可能大學(xué)的時(shí)候我們?yōu)榱苏?，為了買(mǎi)部蘋(píng)果手機(jī)，借了校園貸卻沒(méi)有及時(shí)還款，那么，這些記錄就有可能在五年、十年后影響你申請(qǐng)購(gòu)房貸款，影響你買(mǎi)車(chē)，甚至影響你的融資。

來(lái)源：現(xiàn)場(chǎng)PPT

中國(guó)有句古話說(shuō)“浪子回頭金不換”，這是因?yàn)槟愕母改?、親人和朋友能夠努力忘掉你的過(guò)去，相信有一個(gè)全新的你出現(xiàn)。人類(lèi)之所以如此睿智就是因?yàn)槎眠z忘，甚至某些時(shí)候我們努力遺忘，但是計(jì)算機(jī)恰恰相反，它的特別能力就是永不遺忘，它能在五年、十年、五十年、一百年都保留著你過(guò)去的信息。

希望大家在時(shí)效性這個(gè)方向思考的問(wèn)題是，如果我們有可能會(huì)為還沒(méi)有到來(lái)的未來(lái)提前付出代價(jià)，又有可能因?yàn)檫^(guò)去而影響我們的現(xiàn)在，那我們應(yīng)該做什么選擇？我們是不是只能夠戰(zhàn)戰(zhàn)兢兢，亦步亦趨地沿著所謂的主流價(jià)值觀前進(jìn)？

大家應(yīng)該知道，中國(guó)最可怕的一件事情就是主流價(jià)值觀駕馭了一代又一代的人，我們的小孩從小就要讀重點(diǎn)小學(xué)、重點(diǎn)中學(xué)，然后是讀重點(diǎn)大學(xué)，去一流企業(yè)，考公務(wù)員，讀研究生，要活得像其他人眼中成功的樣子。這樣的主流價(jià)值觀已經(jīng)束縛了我這一代人，未來(lái)人工智能、大數(shù)據(jù)的發(fā)展是會(huì)像大家想象的一樣給我們帶來(lái)多樣性的世界，還是與之相反，會(huì)給我們更大的束縛？

3.導(dǎo)向性

為什么講這個(gè)？因?yàn)樯鐣?huì)往前發(fā)展要有一個(gè)總的社會(huì)福利增加方向，但是計(jì)算機(jī)不一定這樣想問(wèn)題。舉個(gè)簡(jiǎn)單的例子，以前我們看新聞都是按點(diǎn)擊付費(fèi)，所以會(huì)有很多標(biāo)題黨，希望大家盡快點(diǎn)進(jìn)去。大家看這張黃黃的圖片，是2017年某知名搜索網(wǎng)站圖片搜索第一名，題目叫做“黃色圖片”，但是我相信大家點(diǎn)開(kāi)看到這張圖片恐怕是失望的。

來(lái)源：現(xiàn)場(chǎng)PPT

這種事情好解決，我們可以想辦法改變函數(shù)，使得計(jì)算機(jī)的目標(biāo)，或者人工智能的目標(biāo)，與人類(lèi)的正常福利目標(biāo)一致。比如說(shuō)，不僅僅是點(diǎn)開(kāi)率，還有點(diǎn)開(kāi)新聞之后用戶在頁(yè)面停留的時(shí)間，這個(gè)頁(yè)面在第一窗口停留的時(shí)間，或者是微信轉(zhuǎn)發(fā)數(shù)、點(diǎn)贊數(shù)等等，這樣的話似乎矛盾就消失了。

但有時(shí)候這種矛盾是長(zhǎng)期且不可能消失的。2014年，我們團(tuán)隊(duì)有一位副教授到明尼蘇達(dá)大學(xué)做了一個(gè)聯(lián)合項(xiàng)目，是一款網(wǎng)絡(luò)游戲。一個(gè)問(wèn)題是，當(dāng)資源有限時(shí)我們要如何分配這些資源，比如說(shuō)，每天拿出價(jià)值十萬(wàn)美元的裝備免費(fèi)發(fā)給所有的玩家，那這些裝備給誰(shuí)呢？這是一個(gè)典型的優(yōu)化問(wèn)題，大規(guī)模機(jī)器學(xué)習(xí)的問(wèn)題。

事實(shí)上，我們確實(shí)成功使得玩家們?cè)谟螒蛑谢ㄙM(fèi)的時(shí)間比之前增加了20%，現(xiàn)在國(guó)內(nèi)知名短視頻平臺(tái)也把用戶連續(xù)使用APP的時(shí)間，從原來(lái)的十幾分鐘提高到了三十多分鐘。

這些技術(shù)可以用在好的地方，比如在進(jìn)行網(wǎng)絡(luò)課程學(xué)習(xí)的時(shí)候，計(jì)算機(jī)可以通過(guò)大家的行為分辨學(xué)習(xí)難點(diǎn)，找到學(xué)習(xí)重點(diǎn)，從而幫助大家更好的學(xué)習(xí)。當(dāng)這種技術(shù)被用在游戲和短視頻中，則使得用戶更沉迷其中，從商業(yè)角度來(lái)說(shuō)是成功的，因?yàn)樽層脩舾嗟耐嬗螒?，從用戶的角度?lái)講也是成功的。當(dāng)我們硬幣的兩面都是成功的時(shí)候，就沒(méi)有任何力量站起來(lái)破壞這種成功。

所以，這是我希望大家思考的第三個(gè)問(wèn)題，人工智能和大數(shù)據(jù)前進(jìn)的方向可能會(huì)做到面面俱到，讓每一方都滿意，但是它不一定會(huì)給社會(huì)帶來(lái)福利。

4.邊界性

有些東西人工智能可以做，但是我們要思考要不要讓它做。

我們可以通過(guò)計(jì)算機(jī)識(shí)別人的表情，通過(guò)微表情和姿態(tài)，從而判斷你心中真實(shí)的想法。以前我們測(cè)謊要用腦電波、電極，再加上測(cè)試你的心跳、心率、脈搏、體表電解質(zhì)、導(dǎo)電水平，現(xiàn)在有一個(gè)技術(shù)叫做不接觸測(cè)謊，只用攝像頭看你，不需要用任何物理接觸，就能精確判斷你是不是在說(shuō)謊。也就是說(shuō)，人工智能實(shí)際上有一種能力，它比較容易判斷大家有沒(méi)有在說(shuō)真話，它能夠判斷你是不是真喜歡他，相親對(duì)象對(duì)你有沒(méi)有好感，等等。

也許未來(lái)你只需要一個(gè)十塊錢(qián)的APP，再加上一個(gè)攝像頭，就能知道那個(gè)說(shuō)喜歡你的男生是不是真的喜歡你。

來(lái)源：現(xiàn)場(chǎng)PPT

現(xiàn)在就回到一個(gè)問(wèn)題，我們經(jīng)常說(shuō)人類(lèi)社會(huì)的基石是真相，我們需要真相。但從某種意義上講，我認(rèn)為人類(lèi)社會(huì)的基石不僅有真相，還要有謊言，沒(méi)有真相的社會(huì)不能想象，但沒(méi)有謊言的社會(huì)一定也是苦不堪言，相信各位應(yīng)該都已經(jīng)意識(shí)到謊言有多么重要。

如果人工智能讓我們沒(méi)有辦法說(shuō)謊，那社會(huì)真的會(huì)繁榮，人們真的會(huì)幸福嗎？這是我希望大家考慮的第四個(gè)問(wèn)題，我們到底要把能夠讓人工智能發(fā)揮作用的邊界畫(huà)在哪里？什么時(shí)候？哪些地方？

不管你來(lái)自哪個(gè)行業(yè)，一個(gè)以大數(shù)據(jù)為原材料，以智能算法為引擎的新科技時(shí)代呼之欲出，而且正在到來(lái)，希望大家充分擁抱這樣一個(gè)新時(shí)代。任何希望用傳統(tǒng)的資源去阻擋或者延遲新時(shí)代到來(lái)的人，都只可能成為舊時(shí)代的關(guān)門(mén)人和關(guān)燈者。

什么樣的好方法幫助大家盡快的進(jìn)入新時(shí)代？就是湛廬文化韓焱剛才講的——做一個(gè)學(xué)習(xí)者，看那些走在世界最前沿的科學(xué)家、創(chuàng)業(yè)者，他們的理念和思考。

我個(gè)人非常欣賞一句話，“勝利總是青睞有準(zhǔn)備的頭腦”。今天這個(gè)25分鐘的演講雖然不長(zhǎng)，但希望能幫各位為即將到來(lái)的新時(shí)代做更早、更好、更充分的準(zhǔn)備，從而成為新時(shí)代的勝利者！