2025年兩會期間，全國人大代表、國內人工智能企業科大訊飛的董事長劉慶峰建議，應預防大模型生成“幻覺數據”充斥互聯網帶來的危害，從技術研發和管理機制上構建可信的信息環境。
AI幻覺(AI Hallucinations)指的是大模型時常胡編亂造，而且有時候編得足以以假亂真，或者出現“AI 運算偏差”，產生與真實世界不一致的內容。
近日，科技博主闌夕的一篇題為《DeepSeek的胡編亂造，正在淹沒中文互聯網》廣為傳播，也是關注了AI幻覺的問題。文章舉例，DeepSeek-R1 生成的一篇關于國產動畫電影崛起的知乎回答，充滿了事實錯誤。比如提到哪吒電影里的敖丙變身鏡頭在法國昂西動畫節上轟動業界，實際上參展的是追光動畫出品的 “哪吒重生”，且宣傳片內容是一個現代都市里的賽車動作演示，哪吒和敖丙變身都未出現。此外，關于 “哪吒” 的制片方給員工分成都房子、攻克水下流體特效等描述也都是 DeepSeek-R1 腦補的。
歷史博主知北游被人用虛構的歷史材料布局七天，若不是博主反詐意識強且有人脈證偽，可能會深陷其中。破綻在于 AI 搞錯了兩個歷史人物的死亡順序，文史圈因文獻數字化程度低、考據成本高，易成為AI 污染重災區。
文章稱，DeepSeek-R1的“極繁主義”風格，堆砌專業術語、生造概念、濫用修辭，初期易被識別，但經提示詞優化后迷惑性增強。推理模型還存在“諂媚性”，為滿足用戶需求，主動編造論據，而非質疑指令合理性。
文章稱，DeepSeek-R1的幻覺率高達14.3%（Vectara榜單），因“創造力”與“事實性”的失衡，在需嚴謹場景中風險顯著。時政、歷史、娛樂等領域成重災區，自媒體利用AI低成本炮制真假混雜內容，加劇信息污染。
本文鏈接：http://www.020gz.com.cn/news-14-7463-0.html全國人大代表劉慶峰：建議定期清理AI幻覺生成數據 構建可信環境
聲明：本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
點擊右上角
微信好友
朋友圈
點擊瀏覽器下方“
”分享微信好友Safari瀏覽器請點擊“
”按鈕
點擊右上角
QQ
點擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點擊“”按鈕
