有MCN機構利用人工智能程序日產上千篇虛假新聞，導致大量不實信息在網上病毒式傳播；某小說平臺賬號依靠AI“創作”，每日更新十幾本電子書，行文卻邏輯不通、辭藻空洞；醫學論文因使用AI生成的虛假配圖而被撤稿……當前，AI生成、偽造或篡改文本、圖片、音頻和視頻的現象越來越普遍，大量粗制濫造、真假難辨的“信息垃圾”，引發了關于“AI污染”的討論。
去年以來，生成式人工智能在世界范圍內掀起一波接一波的熱潮，其顛覆性應用讓許多行業和網民受益。然而，一塊硬幣有兩面，伴隨生成式人工智能而來的也有一些負面問題，由“信息垃圾”導致的“AI污染”越來越突出。
清華大學新聞與傳播學院新媒體研究中心今年4月發布的一份研究報告顯示，近一年來，經濟與企業類AI謠言量增速達99.91%。美國調查機構“新聞守衛”稱，生成虛假文章的網站數量自2023年5月以來激增1000%以上，涉及15種語言。一些專家認為，AI制造的“信息垃圾”產量龐大，且辨別難度較大、篩選成本較高。
“AI污染”帶來的危害顯而易見?！癆I污染”會讓網民陷入認知幻覺。在某知識分享平臺上，看似“上知天文，下曉地理”的AI，生成的內容卻空洞生硬。在缺乏批判性思考的情況下，AI快速編織的“知識體系”，一方面可能使人們的思辨能力產生退化，另一方面也可能讓人陷入認知幻覺，引發公眾認知困惑，進而扭曲公眾對現實和科學共識的集體理解，最終讓人被AI“牽著走”。尤其對于伴隨互聯網成長起來的年輕一代，一旦他們的認知被“信息垃圾”所塑造，其后果不堪設想。
“AI污染”會反噬AI產業的發展。眾所周知，AI模型的準確性很大程度上取決于訓練數據的質量。若AI生成的虛假、垃圾內容“回流”互聯網，成為訓練AI模型的新數據，這種“垃圾進、垃圾出”的循環模式，或使AI的輸出質量斷崖式下降，不利于整個AI產業的發展。比如，某互聯網企業通過搜索引擎優化，將AI生成的文章優先呈現于搜索結果中，導致用戶難以檢索到高質量信息，引發用戶廣泛批評。
此外，“AI污染”還涉及法律、倫理甚至社會穩定等諸多問題。AI制造的虛假內容，或侵犯知識產權、動搖版權規則，也涉嫌侵犯個人隱私、泄露身份信息，且有濫用風險，恐擾亂、操控社會輿論，AI制造的違法行為還會加大社會治理難度。
由此可見，整治互聯網“AI污染”勢在必行。據中國互聯網信息中心發布的第54次《中國互聯網絡發展狀況統計報告》，截至今年6月，我國網民規模近11億人。互聯網構筑著人類生存的新家園，年輕一代已成為網絡“原住民”，可以說，整治“AI污染”是打造清朗的網絡空間、保障每個網民美好生活的必要行動。
首先，應加大對AI學習和生成機制的源頭治理。明確AI平臺對源頭素材的把控責任和對生成內容的監管責任，完善AI內容生成規則，強制對AI生成內容打上顯著標識，提升AI技術的透明度和可解釋性。
其二，加強對AI生成內容的篩查監管。有關部門及企業需將監管重點放在對AI生成內容的篩查及審核上，可開發相關的審查算法，規范生成內容向輿論場的流入及傳播途徑，及時發現并刪除低質量或虛假內容。
其三，提高用戶對AI生成內容的辨別能力。網民應理性對待互聯網信息，增強防范意識和識別能力，可使用反向搜索工具，檢查內容來源和作者信息，分析內容的語言和結構特征，從而鑒“偽”鑒“劣”。
網絡空間不是亂扔亂堆的“垃圾場”。整治“AI污染”、打造清朗安全的網絡家園，需要各部門同抓共管和全社會共同參與。
（宋瑞 柳媛）
更多資訊或合作歡迎關注中國經濟網官方微信（名稱：中國經濟網，id：ourcecn）
