前幾天,一則“政府工作人員因買方便面被通報”的消息甚囂塵上。公安網安部門查明,該內容均屬虛構,系曹某林為博眼球利用AI憑空捏造。目前,曹某林已被屬地公安機關依法采取刑事強制措施。
“厲行節約、反對浪費”本是社會共識,也是正風肅紀的抓手,流量投機分子偏偏炮制謠言碰瓷,人為制造“低級黑”。從現實影響看,這一荒誕謠言還真迷惑了一些人,對相關工作造成了一定干擾。如今造謠者被刑拘,再度警示各方:造謠生事不僅缺德,更是違法,必然付出代價。
更值得一提的是,上述謠言又是“AI生成”。近兩年來,AI謠言頻出,且明顯侵入時事政治等硬新聞領域,并展現出幾個典型特性。
其一,成本極低,造謠趨于工業化。以往,為了抓人眼球,造謠者還要費些心思編造拼接,刺激情緒。如今,敲敲鍵盤就可批量生產不實內容。一鍵生成、坐收流量,在AI助力下,一個人就可以是一支“水軍”。有報道顯示,某家MCN機構用AI生成文章和圖片,最高峰一天能生成4000至7000篇。
其二,能力極強,“出品”有模有樣。從惡搞名人,到捏造熱點,再到“改寫”歷史,各個領域AI都能信手拈來。往往只需要一個指令,其就能將文字、聲音、圖像和視頻等深度融合?;趶姶蟮纳赡芰?,很多“AI謠言”已然能“以假亂真”。
其三,“效果”極佳,造謠“一本萬利”。由于沖擊力強、迷惑性高,不少虛假信息竟能產出百萬、千萬量級的瀏覽量。網絡造謠的門檻與成本之低,效率與收益之高,破壞與影響之大,讓人細思極恐。
謠言之害,不必多言。而當技術加持作惡,“網絡傳播的坍塌”就不再是危言聳聽。
這些年,監管部門也一直在升級對AI謠言的治理。比如,相關規定明確提出,要對AI生成內容作出鮮明標識。不過,從現實來看,不少平臺對AI生成的信息要么沒有提示,要么字體極小,有的審核機制滯后甚至“先發后審”,給謠言傳播留下了較大空間。再看技術層面,多個平臺上線AI檢測工具,嘗試用“魔法打敗魔法”。但對于海量生產的UGC內容而言,AI測假的能力看上去還沒能跟上需求。總體來看,制度完善“提速”,治理手段“提智”,方向肯定沒錯,關鍵是如何做好落實。
AI技術日日加速迭代,這也意味著治理AI造謠必須加緊腳步,治理手段和路徑都須更具前瞻性。加大資源與技術投入,盡快形成治理合力,才能防止AI工具淪為謠言的“黑箱”。
前幾天,一則“政府工作人員因買方便面被通報”的消息甚囂塵上。公安網安部門查明,該內容均屬虛構,系曹某林為博眼球利用AI憑空捏造。目前,曹某林已被屬地公安機關依法采取刑事強制措施。
“厲行節約、反對浪費”本是社會共識,也是正風肅紀的抓手,流量投機分子偏偏炮制謠言碰瓷,人為制造“低級黑”。從現實影響看,這一荒誕謠言還真迷惑了一些人,對相關工作造成了一定干擾。如今造謠者被刑拘,再度警示各方:造謠生事不僅缺德,更是違法,必然付出代價。
更值得一提的是,上述謠言又是“AI生成”。近兩年來,AI謠言頻出,且明顯侵入時事政治等硬新聞領域,并展現出幾個典型特性。
其一,成本極低,造謠趨于工業化。以往,為了抓人眼球,造謠者還要費些心思編造拼接,刺激情緒。如今,敲敲鍵盤就可批量生產不實內容。一鍵生成、坐收流量,在AI助力下,一個人就可以是一支“水軍”。有報道顯示,某家MCN機構用AI生成文章和圖片,最高峰一天能生成4000至7000篇。
其二,能力極強,“出品”有模有樣。從惡搞名人,到捏造熱點,再到“改寫”歷史,各個領域AI都能信手拈來。往往只需要一個指令,其就能將文字、聲音、圖像和視頻等深度融合?;趶姶蟮纳赡芰Γ芏?ldquo;AI謠言”已然能“以假亂真”。
其三,“效果”極佳,造謠“一本萬利”。由于沖擊力強、迷惑性高,不少虛假信息竟能產出百萬、千萬量級的瀏覽量。網絡造謠的門檻與成本之低,效率與收益之高,破壞與影響之大,讓人細思極恐。
謠言之害,不必多言。而當技術加持作惡,“網絡傳播的坍塌”就不再是危言聳聽。
這些年,監管部門也一直在升級對AI謠言的治理。比如,相關規定明確提出,要對AI生成內容作出鮮明標識。不過,從現實來看,不少平臺對AI生成的信息要么沒有提示,要么字體極小,有的審核機制滯后甚至“先發后審”,給謠言傳播留下了較大空間。再看技術層面,多個平臺上線AI檢測工具,嘗試用“魔法打敗魔法”。但對于海量生產的UGC內容而言,AI測假的能力看上去還沒能跟上需求??傮w來看,制度完善“提速”,治理手段“提智”,方向肯定沒錯,關鍵是如何做好落實。
AI技術日日加速迭代,這也意味著治理AI造謠必須加緊腳步,治理手段和路徑都須更具前瞻性。加大資源與技術投入,盡快形成治理合力,才能防止AI工具淪為謠言的“黑箱”。
本文鏈接:http://www.020gz.com.cn/news-2-2717-0.html警惕AI成為謠言工廠
聲明:本網頁內容由互聯網博主自發貢獻,不代表本站觀點,本站不承擔任何法律責任。天上不會到餡餅,請大家謹防詐騙!若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。
點擊右上角微信好友
朋友圈
點擊瀏覽器下方“”分享微信好友Safari瀏覽器請點擊“
”按鈕
點擊右上角QQ
點擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點擊“
”按鈕