經濟日報-中國經濟網 北京3月14日訊 每年的3月15日,都是關注商品質量和消費者維權的重要節點。近日,今日頭條正式發布3·15資訊打假報告。報告認為,伴隨著消費升級,資訊作為一種基礎性消費品,其質量更應該被嚴肅對待,“內容資訊即精神食糧,我們應該像把關食品質量一樣把關資訊質量。”

作為全球創作和交流平臺,今日頭條一直把低俗、低質內容治理作為平臺職責,“今日頭條的優勢,是擁有大數據和先進的AI算法。這些能幫助我們打造一個最可信賴的內容平臺,以高準確率盡早地發現謠言。我們在研究如何通過算法,在流程上針對可疑的信息,及時啟動人的介入,避免因為判斷的遲延,導致負面影響的擴大。”今日頭條人工智能實驗室主任李航在報告中表示。

報告中首次披露今日頭條反謠言技術路線圖,其中先審后發的審核機制,使每一條資訊內容都經過人工核查和機器識別雙重把關。被審核攔截的謠言,將進入謠言庫沉淀,而謠言庫將給今日頭條與高校、科研機構的研究聯盟提供數據支持,以進行技術反哺和智能改進,提高謠言識別率。

與此同時,政府部門、媒體、垂直領域的權威機構形成了反謠言的聯盟,在今日頭條平臺上主動產出辟謠內容。同時,今日頭條旗下悟空問答、微頭條等形成了系統機制,鼓勵促進辟謠內容的生產和傳播,更重要的是,依靠用戶的瀏覽、評論和舉報等反饋數據,今日頭條更加智能化判斷謠言,凈化了網絡環境。

攔截國內國際謠言,視頻類占比43%

網絡謠言的影響有多大?在報告調研的共計近3萬名受訪者中,過半受訪者認為目前網絡謠言現象嚴重,其中用戶感知高發的領域是健康生活、民生、文化娛樂。今日頭條2017年初建立謠言庫,對謠言內容進行智能識別歸類,目前已經識別和歸檔了社會、健康和娛樂等領域超過2萬多個謠言事件,40萬篇謠言文章。

中山大學大數據傳播實驗室副主任何凌南在報告中表示,移動端網絡謠言最大的特征是標題黨嚴重,經常使用“全城熱傳”、“不得不看”等詞匯。事實上,虛假信息(謠言)、低俗、廣告植入、標題黨等,一直都在今日頭條的打擊整治范圍內,目前已建立機器識別+人工核查的模式,多線并進,收效明顯。

從2017年3月至2018年1月,今日頭條國內產品中攔截謠言113572篇,一篇謠言文章最短只需要60秒即可被攔截。因發布不實信息,3212個賬號遭到封禁、扣分、禁言等處罰。

值得一提的是,如何在新技術范式、新傳播環境中更精準地打擊謠言,正在成為當下全球性的問題。今日頭條旗下包括TopBuzz在內的國際產品,也加強了打擊謠言的力度,四個月內,在包含英語、日語、葡語在內的國外產品中禁封賬號數百個,下架了上萬篇虛假新聞。

根據報告中的移動端謠言洞察披露,目前謠言類型也出現了新的變化,在被攔截的謠言中,視頻類謠言占比43%,謠言發文時間集中在21-22點之間,這與普通用戶瀏覽資訊的高峰時間段基本吻合。報告認為,在圖像、視頻識別上有技術積累的平臺,在這類謠言的識別上也具有先發優勢。

反謠言技術強化社會責任

除了禁封傳播謠言的賬號之外,今日頭條還建立反謠言的長效機制,發揮技術優勢打造反謠言聯盟,強化社會責任。在2017年,今日頭條與美國密西根大學合作成立AI反謠言研究聯盟,將NLP等人工智能技術應用于反謠言,提高反謠言的技術手段,及時阻斷謠言傳播。

密西根大學信息學院副教授梅俏竹在報告中表示:“近年來如何快速有效地發現,判別,和控制謠言引起了學術界和工業界共同而濃厚的興趣。無論Facebook或是Google都還沒有找到這個問題的答案。這是因為反謠言并不是一個單純的人工智能問題,并非有大數據和精深算法就能解決。它需要對各種復雜的因素有深刻的理解,上至國家政策,中有信息的生命周期,下至個人的心理和行為。要解決反謠言的問題,需要將這些因素變成一個有機的整體,更需要找到一種人與AI合作無間的方式。”

報告顯示,今日頭條辟謠頻道精準分發辟謠文章總計閱讀1.17億,辟謠內容中提及最熱的三個詞匯是:朋友圈、網警和瘋傳。

今日頭條副總編輯徐一龍介紹,今日頭條很早就意識到辟謠文章傳播的問題,于2016年12月上線了精準辟謠功能。“通過技術,我們可以明確識別看過謠言文章的用戶并將辟謠文章準確地在他的信息流里展示,這也意味著有多少人看過謠言文章,就有多少人看過辟謠文章。”這個技術一舉解決了辟謠文章傳播的“千古之難”。

在今日頭條的精準分發辟謠內容TOP10中,悟空問答的辟謠內容遙遙領先,累計閱讀數達到2369萬,而新京報、北京晨報等傳統媒體和中山網警等政務號也成為辟謠內容的主要貢獻力量。今日頭條通過認證權威消息源,建立辟謠作者聯盟,在悟空問答、微頭條等全線產品的迅速發聲,壯大辟謠隊伍的力量。

科普作家云無心在報告中認為,“反謠言的過程中,問答是一個很有效的形式,因為讀者對于不熟悉的知識很容易形成先入為主的觀念。通過問答的形式,可以科普知識,提高用戶以后對于謠言的免疫能力。”

從2017年12月至今,“頭條辟謠”作為今日頭條官方辟謠賬號,辟謠內容曝光量超過6000萬,其中關于二胎保證金、虛假名人名言的辟謠單篇閱讀超過百萬。“頭條辟謠”通過與網警頭條號積極互動,第一時間對正在流傳的謠言進行澄清,還原真相,同時傳播謠言鑒定方法,增強公眾對謠言的抵抗力,提升信息素養。

內容資訊質量在3·15被重點關注

在2018年春節期間,一副“菩薩祈愿圖”在朋友圈被熱傳,網友紛紛為父母祈福,但插畫作者后來辟謠這并非地藏王菩薩,也沒有特殊含義。根據春節期間數千名網友用戶接受3·15資訊打假報告調研時的反饋,他們向父母辟謠的難點在于,父母只聽“專家”的話,有些錯誤觀點根深蒂固,而他們發現父母分享謠言但不辟謠的原因是:辟謠太難解釋清楚;認為自己說了父母也不會聽。

“家庭是社會的細胞,在細胞內完成信息的交互與自凈,是減輕謠言影響的一個重要方式,可以避免父母因各類謠言遭受損失。”3·15資訊打假報告認為,強關系(如父母與子女的關系)影響對于辟謠是比較有效的,尤其是在食品安全和健康養生領域,“既凈化他們所處的網絡環境,也增進彼此間的情感連接,辟謠本身也成為一種情感表達”。

值得一提的是,年輕用戶舉報涉嫌虛假信息的意愿明顯高于中老年用戶,對用戶來說,個性化推薦平臺、問答網站的舉報機制更簡單,搜索引擎的舉報過程相對復雜。

打假報告顯示,用戶舉報可以有效提前遏制謠言的傳播,在今日頭條,不只是用戶的主動舉報,用戶的相關評論內容、有特征的點擊操作都可能觸發謠言識別、標題黨識別等模型,更加有效實時監控謠言在內的低質內容。今日頭條不僅連接人與信息,更志在用好技術,連接人與有質量保證的信息,促進真正良性的創作與交流。

因此,作為國內最大的內容資訊分發平臺,今日頭條在報告中發出倡議:資訊作為涉及消費者范圍最廣的商品品類,希望在3·15期間重點關注資訊質量。