虛假信息及低俗內(nèi)容，在互聯(lián)網(wǎng)環(huán)境中跨地域大規(guī)模快速傳播的現(xiàn)象，主要出現(xiàn)在擁有海量用戶的互聯(lián)網(wǎng)應用平臺產(chǎn)生以后。每個用戶都可以在這個平臺上發(fā)布信息，并在平臺內(nèi)部和平臺之間快速傳播信息。在一定的利益動機和社會心理機制作用下，一些平臺用戶試圖發(fā)布虛假信息及低俗內(nèi)容謀取各種利益。由于這類信息和內(nèi)容往往流傳甚快甚廣，使得社會原有的甄別及防范機制難以及時做出反應。

 

　　對于這一新問題，有多種解決思路。比較傳統(tǒng)的方法，諸如提高公眾傳播素養(yǎng)，更多發(fā)揮傳統(tǒng)媒體把關(guān)功能，加大對虛假信息及低俗內(nèi)容發(fā)布者的處罰力度，加重平臺責任等。

 

　　互聯(lián)網(wǎng)企業(yè)的反應，卻是更多地借助技術(shù)手段。如臉譜推出“事實核查工具”，邀請用戶通過下拉菜單將他們看到的可疑新聞報道在該平臺上進行標記。第三方事實核查人員隨后分析標出的報道，并判定其為真實報道還是虛假新聞；谷歌新聞實驗室發(fā)起成立了一個名為“FDN”的新聞學術(shù)和技術(shù)聯(lián)盟，研究方向主要是社交媒體新聞的原創(chuàng)判斷和真實性認證。我國的互聯(lián)網(wǎng)平臺也作出了多方努力。例如，北京字節(jié)跳動科技公司在“今日頭條”平臺上，依靠人工智能技術(shù)，模仿人腦機制，對低俗圖片的攔截率較之前純?nèi)斯r截提高了73.71%；針對“標題黨”現(xiàn)象，一些網(wǎng)站構(gòu)建了“人工+機器”的模式構(gòu)建防火墻，對敏感詞、標題黨和虛假信息進行技術(shù)性攔截。

 

　　然而，一些業(yè)界人士擔心人工智能無法處理復雜的價值判斷問題，也有互聯(lián)網(wǎng)人士認為算法沒有價值觀。其實，人工智能的算法本身就是根據(jù)特定領(lǐng)域的規(guī)律和規(guī)則制定的，在這些規(guī)律和規(guī)則中，就蘊含著價值選擇與判斷。在確立模型并不斷學習之后，執(zhí)行算法的機器完全能夠具有超越人腦的能力，這在不久前圍棋的人機大戰(zhàn)中已經(jīng)得以驗證。

 

　　如何更好地掌握規(guī)律、制定規(guī)則，給算法提供正確指引，讓人工智能能夠更有效地甄別虛假和低俗內(nèi)容并控制其傳播，是當前業(yè)界和學界要重點研究的問題。

 

　　首先，我們需要更全面地梳理和分析產(chǎn)生虛假和低俗內(nèi)容的利益結(jié)構(gòu)和動機，分析各類利益主體制造和傳播虛假及低俗內(nèi)容的行為特點，如謀求政治利益和謀求經(jīng)濟利益的行為主體，在制造和傳播虛假及低俗內(nèi)容的行為方面有哪些異同。通過這些分析，為建立模型提供依據(jù)。

 

　　其次，可以通過對網(wǎng)絡(luò)平臺上虛假及低俗內(nèi)容傳播者生產(chǎn)的內(nèi)容進行文本分析，對其傳播行為進行跟蹤研究，以掌握其心理特征及行為特征，支持識別模型的構(gòu)建。

 

　　此外，還可以通過對人們網(wǎng)絡(luò)信息接收和接受的心理特征及行為的分析，建立模型，探索如何通過算法干預這一過程，阻斷虛假及低俗內(nèi)容的傳播，減低其傳播效果。