中國教育報-中國教育新聞網訊（通訊員 肖雯雯 記者 馮麗）記者日前從西安建筑科技大學獲悉，該校管理學院智能管理與決策團隊在人工智能虛假信息識別與治理研究領域取得重要進展，首次揭示了AI虛假信息的質量調節(jié)效應，為政府推進數字安全和網絡生態(tài)治理提供了關鍵技術支撐。相關研究成果于近日發(fā)表在《自然》（Nature）子刊Nature Communications。

隨著生成式人工智能技術的廣泛應用，虛假信息的生產與傳播方式正在發(fā)生深刻變化。與傳統(tǒng)人工編造的謠言不同，AI虛假信息在語言流暢性和結構完整性方面更具迷惑性，給識別與治理帶來了新的挑戰(zhàn)。盡管近年來學界普遍嘗試利用AI參與事實核查與虛假信息檢測，但在實際應用中，其識別效果并不總是穩(wěn)定可靠。

針對這一現實問題，研究團隊將研究視角從“如何使用AI識別虛假信息”轉向“AI在語言理解與生成層面存在哪些內在局限”。研究從心理語言學和計算語言學的交叉視角出發(fā)，系統(tǒng)分析了AI真實內容、AI虛假內容與人類文本在語言特征上的差異，并進一步探討哪些語言信號可能有助于提升虛假信息的識別能力。

研究團隊綜合運用心理語言學分析、語言毒性與錯誤檢測、語法依存結構和詞性組合分析，并結合零樣本提示實驗與誤判樣本分析，開展了多維度實證研究。研究首次提出并驗證了“AI虛假內容的質量調節(jié)效應”，即隨著生成內容質量的提高，AI文本在創(chuàng)造性、表達規(guī)范性和整體可讀性上逐漸逼近人類寫作，同時其可被檢測的語言差異卻不斷減弱。這一發(fā)現表明，當AI被用于高質量“洗稿”或細節(jié)捏造時，無論是普通讀者，還是現有依賴大型語言模型的檢測工具，其識別難度都會顯著增加。研究結果不僅揭示了單純依賴語言特征或大型模型進行虛假信息檢測所面臨的潛在風險，也為理解AI生成文本的認知加工機制提供了新的證據支持，相關結論在一定程度上呼應了刺激貧乏理論、范例理論和加工流暢性理論，為AI虛假信息研究提供了更具解釋力的理論框架。

“本研究為政府監(jiān)管部門、互聯(lián)網平臺及相關管理機構在制定AI信息治理策略、優(yōu)化AI虛假檢測技術和完善風險預警體系方面提供了重要參考?！闭撐淖髡邚埿律淌诒硎荆瑘F隊未來將深入開展多模態(tài)AI虛假信息的治理研究，為推動人工智能安全應用與社會治理現代化提供更堅實的科學依據。