清華新聞網(wǎng)10月13日電 近日，清華大學(xué)電子系與公管學(xué)院跨學(xué)科合作，通過(guò)大規(guī)模實(shí)證研究與信息動(dòng)力學(xué)理論建模，首次揭示了信息媒體上信息繭房涌現(xiàn)的內(nèi)在機(jī)理與相變邊界，為理解當(dāng)下智能社會(huì)中人-智交互復(fù)雜社會(huì)系統(tǒng)提供了全新思路。
新一代信息與智能技術(shù)的迅猛發(fā)展推動(dòng)著人類(lèi)逐步邁入智能社會(huì)。在數(shù)字技術(shù)和智能推薦算法的加持下，媒體和平臺(tái)總是能最快最準(zhǔn)地契合人們的個(gè)性化偏好和需求。然而，與此同時(shí)，智能精準(zhǔn)推薦致使信息繭房現(xiàn)象不斷發(fā)酵，觀點(diǎn)相似的人群在網(wǎng)絡(luò)空間組成團(tuán)體，特定價(jià)值偏好在群體中匯集放大，逐漸形成極端的觀點(diǎn)。針對(duì)名人或社會(huì)事件的每一種極端觀點(diǎn)都能夠被利用成為意識(shí)形態(tài)滲透和影響的工具，在網(wǎng)絡(luò)空間和現(xiàn)實(shí)世界中推波助瀾，掀起“洶洶民意”。
然而，即便如此，我們對(duì)于信息繭房仍所知甚少：真實(shí)線(xiàn)上系統(tǒng)中的信息繭房究竟有多嚴(yán)重——缺乏大規(guī)模實(shí)證研究；信息繭房的形成機(jī)理是什么——缺乏基礎(chǔ)理論支撐；如何解決信息繭房問(wèn)題——缺乏行之有效的手段。
研究團(tuán)隊(duì)聚焦于新聞與視頻兩個(gè)典型場(chǎng)景，通過(guò)分析5.7億用戶(hù)行為數(shù)據(jù)和使用信息熵度量信息繭房嚴(yán)重程度，發(fā)現(xiàn)在一年交互后，超過(guò)57%的活躍用戶(hù)均經(jīng)歷了不同程度的信息熵下降，并指出了其影響因素。該實(shí)證研究首次量化了真實(shí)大規(guī)模在線(xiàn)信息系統(tǒng)中信息繭房的嚴(yán)重程度。
（a-c）聚焦于新聞與視頻兩個(gè)典型場(chǎng)景，量化真實(shí)世界信息繭房嚴(yán)重程度；（d-f）相似度匹配強(qiáng)度、正負(fù)反饋是影響信息繭房形成的重要因素；（g）基于實(shí)證發(fā)現(xiàn)與推薦算法領(lǐng)域?qū)嵺`，結(jié)合隨機(jī)熱力學(xué)理論，提出人-智自適應(yīng)信息動(dòng)力學(xué)模型
研究團(tuán)隊(duì)基于實(shí)證結(jié)論與推薦算法領(lǐng)域?qū)嵺`，結(jié)合隨機(jī)熱力學(xué)理論，創(chuàng)造性地提出了人-智自適應(yīng)信息動(dòng)力學(xué)模型。該模型采用信息熵來(lái)表示用戶(hù)所接觸信息的多樣性，并使用系統(tǒng)信息熵分布來(lái)表示系統(tǒng)所處狀態(tài)。與依靠數(shù)以?xún)|計(jì)參數(shù)的深度學(xué)習(xí)模型不同，所提出的模型僅依靠基于相似度匹配與用戶(hù)反饋兩個(gè)基本機(jī)制，機(jī)理性地建模了人類(lèi)與推薦算法之間的關(guān)鍵反饋回路，并使用隨機(jī)動(dòng)力學(xué)方程刻畫(huà)人-智復(fù)雜動(dòng)力學(xué)交互過(guò)程。
系統(tǒng)相變圖，（a-b）基于視頻與新聞場(chǎng)景數(shù)據(jù)的三維系統(tǒng)相變圖，（c-e）基于視頻場(chǎng)景數(shù)據(jù)的二維系統(tǒng)相變圖，（f-h）基于新聞場(chǎng)景數(shù)據(jù)的二維系統(tǒng)相變圖
通過(guò)大規(guī)模仿真實(shí)驗(yàn)與理論分析，研究團(tuán)隊(duì)揭示了該人-智交互復(fù)雜社會(huì)系統(tǒng)存在多樣化、部分信息繭房與深度信息繭房三種狀態(tài)，并給出了系統(tǒng)在基于相似度推薦強(qiáng)度、正負(fù)反饋利用率以及自由探索強(qiáng)度四個(gè)關(guān)鍵參數(shù)驅(qū)動(dòng)下的相變過(guò)程及相變邊界。研究成果不僅為負(fù)責(zé)任的推薦算法設(shè)計(jì)指明了實(shí)際方向，而且為理解人-智交互復(fù)雜社會(huì)系統(tǒng)提供了理論工具。
該研究成果近日以“人-智自適應(yīng)動(dòng)力學(xué)驅(qū)動(dòng)信息繭房涌現(xiàn)”（Human–AI adaptive dynamics drives the emergence of information cocoons）為題發(fā)表在《自然·機(jī)器智能》（Nature Machine Intelligence）上。
清華大學(xué)電子系城市科學(xué)與計(jì)算研究中心博士生樸景華與博士后劉家臻為論文共同第一作者，李勇副教授為通信作者；清華公管學(xué)院張芳助理教授、蘇竣教授為共同作者。該研究得到科技創(chuàng)新2030-“新一代人工智能”重大項(xiàng)目與自然科學(xué)基金項(xiàng)目的支持。
論文鏈接：
https://www.nature.com/articles/s42256-023-00731-4
供稿：電子系
題圖設(shè)計(jì)：金婭辰
編輯：李華山
審核：郭玲
