大家都在討論，人工智能會(huì)不會(huì)控制人類(lèi)，會(huì)取代多少工種，有可能還會(huì)讓包括你我在內(nèi)的一大票人丟掉工作。但是這些都是大命題，現(xiàn)在雖然很多人都在討論，但是好像這一天的到來(lái)還有點(diǎn)遠(yuǎn)。至少明天，不會(huì)一大早起來(lái)，你的公司都被人工智能占據(jù)了。
張愛(ài)玲說(shuō)過(guò)一句話(huà)：“人生是一襲華麗的袍子，里面爬滿(mǎn)了虱子。”上面那些大的“悲劇”可能性已經(jīng)說(shuō)的夠多了。我們今天來(lái)看看，人工智能可能帶進(jìn)來(lái)的一只虱子?；蛟S不那么讓人崩潰，但是可能讓你很惡心，像吃了一個(gè)蒼蠅一樣。
挑選餐館、酒店的時(shí)候，我們都會(huì)去大眾點(diǎn)評(píng)之類(lèi)的網(wǎng)站看下評(píng)論怎么樣。因此呢，這些公司甚至一家小店都會(huì)很看重用戶(hù)的評(píng)論。這些企業(yè)需要堤防著虛假惡意的評(píng)論，友商們收買(mǎi)的水軍，以及哪天不小心因?yàn)楦鞣N原因惹惱的一個(gè)客戶(hù)，請(qǐng)求他撤下差評(píng)。
萌萌的外表，無(wú)辜的眼神，看起來(lái)不會(huì)騙人的樣子
這些事情，人工智能要來(lái)干會(huì)怎么樣呢？人工智能像瘋了一樣寫(xiě)負(fù)面評(píng)論，往你的身上潑臟水。你都來(lái)不及換件衣服迎接新一波的臟水。
想象一下，似乎這是件并不困難的事情。人工智能的潘多拉魔盒撬開(kāi)后，公司的公關(guān)部打了個(gè)盹兒，滿(mǎn)世界都是你的負(fù)面評(píng)論了。那樣的話(huà)，睡著覺(jué)都得開(kāi)個(gè)天眼，看看這個(gè)世界有沒(méi)有詆毀的洪水撲面而來(lái)。
上面當(dāng)然是商家要面臨的煩惱，那么從客戶(hù)的角度看呢？
今天，我們看評(píng)論區(qū)的時(shí)候，都會(huì)有選擇地去看。笨拙如我，有時(shí)候也會(huì)碰到一些高人指點(diǎn)，什么評(píng)論是可信的，什么是假的。假如人工智能再來(lái)插一杠子，把水?dāng)嚨酶?，網(wǎng)絡(luò)上本就脆弱的信任是不是要慢慢蒸發(fā)了，蕩然無(wú)存或者聊勝于無(wú)。
據(jù)BI報(bào)道，芝加哥大學(xué)的研究人員寫(xiě)了一篇論文，介紹了人工智能如何開(kāi)發(fā)復(fù)雜的評(píng)論，不僅現(xiàn)代檢測(cè)工具檢測(cè)不到，也能成功騙過(guò)不知情的讀者。
舉個(gè)例子，這是一段評(píng)論：“I love this place. I went with my brother and we had the vegetarian pasta and it was delicious. The beer was good and the service was amazing. I would definitely recommend this place to anyone looking for a great place to go for a great breakfast and a small spot with a great deal.”（我愛(ài)這個(gè)地方。我和哥哥一塊去的，我們一起吃了素食意大利面，味道很好。啤酒很好，服務(wù)也讓人很舒心。如果你想去個(gè)不錯(cuò)的地方，有著豐盛的早餐，我會(huì)推薦你去這里。/最后半句有語(yǔ)病，不譯。）
審查起來(lái)也沒(méi)什么毛病。雖然最后半句有些奇怪，但是我們平時(shí)看到的評(píng)論區(qū)里，也常常是錯(cuò)字不斷、語(yǔ)句不通，所以這不算什么大的問(wèn)題?？偟膩?lái)看，它看起來(lái)就像一個(gè)正常人說(shuō)的話(huà)。
事實(shí)上，這條評(píng)論是由一種叫遞歸神經(jīng)網(wǎng)絡(luò)（recurrent neural networks）的深度學(xué)習(xí)技術(shù)炮制出來(lái)的。
就問(wèn)你怕不怕？
不光是長(zhǎng)得像真的，研究者還寫(xiě)道，這些評(píng)論對(duì)真正的交易來(lái)說(shuō)也是有效的。也就說(shuō)是說(shuō)，不僅表面看起來(lái)能騙得過(guò)真實(shí)用戶(hù)的眼睛，而且能讓用戶(hù)覺(jué)得像真實(shí)評(píng)論那么有用，覺(jué)得這一條走心的平價(jià)。實(shí)際上這只是人工智能“走芯”的平價(jià)而已。
想象一下，有一天，你打開(kāi)某個(gè)點(diǎn)評(píng)網(wǎng)站，被一堆謊話(huà)連篇的評(píng)論洗了腦，然后屁顛屁顛地，去了一家讓人倒胃的飯店吃了頓大餐，到一個(gè)荒涼透頂?shù)木皡^(qū)領(lǐng)略下美景，回家后氣急敗壞，一通懷疑自己“你是不是傻？”人工智能的機(jī)器人要是看到了，說(shuō)不定都樂(lè)開(kāi)花了。哦，對(duì)了，未來(lái)的機(jī)器人說(shuō)不定真的會(huì)像人一樣，笑得那么燦爛。
如果人工智能可以這么無(wú)恥切不受控制的話(huà)，那么大眾點(diǎn)評(píng)等網(wǎng)站的評(píng)論參考價(jià)值就會(huì)大打折扣。亞馬遜、阿里這樣的電商也會(huì)受到一些連累，不過(guò)好在他們還可以檢查評(píng)論客戶(hù)是不是真的買(mǎi)東西了。
研究人員想到一個(gè)辦法去克服這種情況。
假評(píng)論雖然看起來(lái)像是真的，但是依然有著細(xì)微的差別。計(jì)算機(jī)程序可以檢測(cè)出來(lái)這種差別，如果它可以測(cè)算描述中涉及到一些字符的分布規(guī)律。假評(píng)論為了以假亂真，會(huì)看重流暢度和可信度，因此一些較為細(xì)微的特征，就像字符的分部規(guī)律可能就會(huì)被忽略掉。
研究者寫(xiě)道：“訓(xùn)練中產(chǎn)生的信息損失，會(huì)在最終呈現(xiàn)的文本中顯示出來(lái)。這樣就會(huì)導(dǎo)致機(jī)器產(chǎn)生的文本與人類(lèi)的文本上，在潛在的字符分別規(guī)律上，產(chǎn)生統(tǒng)計(jì)學(xué)意義上的差別。”
芝加哥大學(xué)計(jì)算機(jī)科學(xué)教授Ben Y. Zhao
聽(tīng)起來(lái)是不是有點(diǎn)繞？不過(guò)呢，這也不是萬(wàn)全之策。芝加哥大學(xué)計(jì)算機(jī)科學(xué)教授Ben Y. Zhao表示，它可以讓很多虛假評(píng)論更不容易過(guò)審，但是更昂貴的計(jì)算機(jī)和更強(qiáng)大的神經(jīng)網(wǎng)絡(luò)，就可以繞開(kāi)這種檢測(cè)。
道高一尺魔高一丈，想作弊有的是辦法。“你不能阻止那些信心堅(jiān)決、又有實(shí)力的攻擊者。”Zhao表示。
不過(guò)好在，Zhao表示，現(xiàn)實(shí)世界中還沒(méi)有看到任何用人工智能聲稱(chēng)惡意評(píng)論的例子。
其實(shí)，不光是在線(xiàn)評(píng)論，未來(lái)說(shuō)不定，整個(gè)博客都會(huì)說(shuō)一個(gè)機(jī)器自動(dòng)生成的，讓人真假難辨。再?gòu)V泛一點(diǎn)，機(jī)器又會(huì)炮制怎樣的假新聞，操縱輿論或者愚弄公眾？被耍了一通之后，發(fā)現(xiàn)元兇是一個(gè)機(jī)器人，這又該讓誰(shuí)去負(fù)責(zé)，在案件中也好，也普通的事故中也罷。還有，人工智能充當(dāng)主力的信息戰(zhàn)爭(zhēng)又會(huì)是怎樣一個(gè)糟心樣子呢？
Zhao希望提醒人們注意到這種威脅，也希望Yelp這類(lèi)的點(diǎn)評(píng)網(wǎng)站和亞馬遜這樣的公司開(kāi)始考慮怎么防御。
從科技倫理上說(shuō)，我們確實(shí)有被技術(shù)奴役的風(fēng)險(xiǎn)。不過(guò)，作為了一個(gè)樂(lè)觀主義者，我相信人類(lèi)整體可以駕馭技術(shù)，作為生命個(gè)體，勤奮上進(jìn)又取法得當(dāng)?shù)脑?huà)，也可以更多地享受人工智能的便利，要超過(guò)人工智能的威脅和壓迫。
不過(guò)，即便是利大于弊的技術(shù)，也總會(huì)來(lái)帶一些蚊蟲(chóng)叮咬式的煩惱。說(shuō)不定，未來(lái)被人工智能耍著玩，并不是什么稀罕的事情，就跟現(xiàn)在時(shí)不常接到的詐騙電話(huà)一樣隨處可見(jiàn)。
