


您當(dāng)前位置:中國(guó)菏澤網(wǎng) > 社會(huì)新聞 > 正文
作者: 來源: 菏澤日?qǐng)?bào) 發(fā)表時(shí)間: 2025-10-10 10:08
近日,網(wǎng)上接連出現(xiàn)多起虛構(gòu)突發(fā)事件、編造公共政策、捏造社會(huì)民生領(lǐng)域謠言等案件,引發(fā)社會(huì)廣泛關(guān)注。多地公安機(jī)關(guān)通報(bào)顯示,一些不法分子為博眼球蹭熱度、吸粉引流,使用AI工具編造虛假信息誤導(dǎo)網(wǎng)民甚至引發(fā)公眾恐慌。
只需要簡(jiǎn)單輸入和調(diào)整指令,AI工具就能批量生成謠言視頻,視聽兼具、圖文并茂。迅速迭代的AI技術(shù)正被某些不法分子利用,異化成制造傳播虛假信息的工具。部分不法分子還會(huì)通過多次優(yōu)化提示詞等手段弱化AI生成痕跡,使得迷惑性和誘導(dǎo)性更強(qiáng)。更為惡劣的是,一些謠言背后,已存在分工明確的灰色產(chǎn)業(yè)鏈。
造謠一張嘴,辟謠跑斷腿。技術(shù)越“好用”,就越需防止“濫用”、確?!吧朴谩?。技術(shù)創(chuàng)新的活水如果不能引向規(guī)范發(fā)展的河道,不僅沖擊社會(huì)信任的堤壩,還會(huì)擾亂正常經(jīng)濟(jì)發(fā)展環(huán)境和社會(huì)秩序。
防止AI造謠,源頭治理是關(guān)鍵。生成合成服務(wù)提供者要強(qiáng)化技術(shù)的安全性和合規(guī)性,在算法設(shè)計(jì)階段就應(yīng)嵌入倫理約束,管理好訓(xùn)練語料,做到清晰標(biāo)識(shí)?;ヂ?lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)也要不斷升級(jí)審核體系,提高對(duì)深度偽造內(nèi)容的檢測(cè)精度,在借助AI治理謠言的同時(shí),完善人工復(fù)核機(jī)制彌補(bǔ)算法短板。
謠言止于智者,更止于法治。9月1日起,《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》施行?!痘ヂ?lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等規(guī)定也已相繼出臺(tái)。下一步要繼續(xù)填補(bǔ)法律空白,與時(shí)俱進(jìn)完善細(xì)化規(guī)范AI技術(shù)應(yīng)用的法律法規(guī),加強(qiáng)法規(guī)執(zhí)行,為制作傳播生成合成內(nèi)容的相關(guān)主體劃定法律的紅線。
AI謠言的治理并非一日之功,要以技術(shù)制衡技術(shù)、以責(zé)任鎖住風(fēng)險(xiǎn)。在信息生成到傳播的全鏈條中,包括大模型開發(fā)者、互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)、使用者等都應(yīng)各負(fù)其責(zé)。相關(guān)監(jiān)管部門應(yīng)在延續(xù)已有網(wǎng)絡(luò)虛假信息處理機(jī)制基礎(chǔ)上進(jìn)行重點(diǎn)監(jiān)測(cè)。源頭嚴(yán)防、過程嚴(yán)管、違規(guī)嚴(yán)懲,才能有效消除AI謠言滋生的土壤。 邵魯文
人民網(wǎng) 新華網(wǎng) 央視網(wǎng) 中國(guó)網(wǎng) 光明網(wǎng) 中國(guó)日?qǐng)?bào) 中青網(wǎng) 求是網(wǎng) 山東網(wǎng) 魯網(wǎng)
菏澤市政府網(wǎng) 菏澤文明網(wǎng) 菏澤市紀(jì)檢監(jiān)察網(wǎng) 燈塔-菏澤黨建網(wǎng) 菏澤長(zhǎng)安網(wǎng) 菏澤廣電網(wǎng) 菏澤市教育和體育局 菏澤市自然資源和規(guī)劃局
中國(guó)徐州網(wǎng) 連網(wǎng) 鹽城新聞網(wǎng) 宿遷網(wǎng) 中國(guó)淮安網(wǎng) 蚌埠新聞網(wǎng) 阜陽新聞網(wǎng) 淮北新聞網(wǎng) 拂曉新聞網(wǎng) 中國(guó)亳州網(wǎng)
舜網(wǎng) 青報(bào)網(wǎng) 聊城新聞網(wǎng) 德州新聞網(wǎng) 濱州網(wǎng) 東營(yíng)網(wǎng) 水母網(wǎng) 中華泰山網(wǎng) 東方圣城網(wǎng) 瑯琊新聞網(wǎng)
魯公網(wǎng)安備 37172902372011號(hào)