近年來,隨著人工智能技術(shù)迅猛發(fā)展,一些不法分子為博取流量、吸引關(guān)注,利用AI工具編造虛假信息,嚴(yán)重破壞網(wǎng)絡(luò)生態(tài),擾亂社會秩序,誤導(dǎo)公眾認知。為進一步提升全民識謠辨謠能力,6月3日,山西網(wǎng)安部門集中曝光5起近期查處的利用AI技術(shù)制造傳播網(wǎng)絡(luò)謠言的典型案例。
【案例一】為博流量虛構(gòu)“工廠爆炸”場景,企業(yè)員工被依法查處
近日,大同網(wǎng)安部門在工作中發(fā)現(xiàn),有網(wǎng)民在某平臺發(fā)布視頻稱:“山西大同一車間內(nèi)發(fā)生爆炸,現(xiàn)場只有一名工人受傷,傷者面部燒傷面積100%”,引發(fā)網(wǎng)民關(guān)注。經(jīng)查,涉事企業(yè)并未發(fā)生任何安全事故,相關(guān)內(nèi)容系該企業(yè)員工趙某某通過AI工具生成的虛假文案和虛假視頻。在互聯(lián)網(wǎng)平臺發(fā)布后,引發(fā)網(wǎng)民關(guān)注,造成不良影響。目前,公安機關(guān)已依法對趙某某作出行政處罰。
【案例二】利用AI仿冒名人直播帶貨,擾亂秩序被依法查處
近日,大同網(wǎng)安部門在工作中發(fā)現(xiàn),轄區(qū)居民邢某非法使用中國國民黨主席鄭麗文形象的AI數(shù)字人直播帶貨,引發(fā)網(wǎng)民質(zhì)疑,嚴(yán)重干擾正常網(wǎng)絡(luò)秩序。經(jīng)查,邢某從事直播帶貨,恰逢鄭麗文訪問大陸熱度很高,遂萌生利用名人熱度增加流量的想法。隨后在未經(jīng)授權(quán)的情況下,利用AI工具生成AI數(shù)字人形象及帶貨方案,之后在媒體平臺直播帶貨,引發(fā)社會關(guān)注,造成惡劣影響。目前,公安機關(guān)已依法對邢某作出行政處罰。
【案例三】AI生成“高速車禍”謠言,編造“2死6重傷”被依法查處
近日,長治網(wǎng)安部門在工作中發(fā)現(xiàn),網(wǎng)民趙某在某網(wǎng)絡(luò)平臺發(fā)布題為“長治人速看!長晉高速大客車側(cè)翻致2死6重傷,道路結(jié)冰預(yù)警生效,這些行車規(guī)則必須記牢!”的貼文,配發(fā)多張所謂“事故現(xiàn)場圖”,引發(fā)網(wǎng)民轉(zhuǎn)發(fā)。經(jīng)查,長晉高速未發(fā)生此類交通事故,文中所述內(nèi)容純屬虛構(gòu)。趙某承認其為吸引粉絲關(guān)注,利用AI工具生成重大事故不實信息并發(fā)布。目前,公安機關(guān)已依法對趙某作出行政處罰。
【案例四】利用AI偽造“演唱會現(xiàn)場火災(zāi)”,為博流量被依法查處
近日,晉城網(wǎng)安部門在工作中發(fā)現(xiàn),某平臺網(wǎng)民發(fā)布一段視頻內(nèi)容,視頻顯示為某體育場內(nèi)疑似發(fā)生火災(zāi),并配文稱“太原紅燈籠體育場突發(fā)火情”。該視頻迅速引發(fā)網(wǎng)民關(guān)注與轉(zhuǎn)發(fā),造成不良社會影響。經(jīng)查,網(wǎng)民張某某在未核實事件真實性、無任何事實依據(jù)的情況下,利用AI工具擅自編造“太原紅燈籠體育場突發(fā)火情”的虛假信息。目前,公安機關(guān)已依法對張某某作出行政處罰。
【案例五】AI生成虛假文章,發(fā)布“五臺縣車禍”謠言被依法查處
近日,忻州網(wǎng)安部門在工作中發(fā)現(xiàn),某平臺網(wǎng)民發(fā)布文章《4月29日突發(fā)慘烈車禍:大貨車側(cè)翻致3死,現(xiàn)場畫面曝光》。文中明確提及“山西忻州五臺縣”,并附有AI生成的事故圖片,引發(fā)網(wǎng)民廣泛關(guān)注。經(jīng)查,五臺縣近期未發(fā)生此類交通事故。發(fā)布者田某某交代,其在某App看到類似標(biāo)題后,復(fù)制鏈接至AI寫作平臺生成文章并直接發(fā)布。目前,公安機關(guān)已依法對田某某作出行政處罰。
公安機關(guān)提醒,當(dāng)前,利用AI生成虛假圖文、音視頻已成為網(wǎng)絡(luò)謠言傳播的新趨勢。此類信息仿真度高、傳播速度快、誤導(dǎo)性強,極易引發(fā)社會恐慌。山西公安機關(guān)將持續(xù)加大對此類違法行為的打擊力度,依法查處造謠、傳謠、蹭流量、惡意引流等行為,堅決維護清朗網(wǎng)絡(luò)空間。
(總臺記者 岳旭輝 胡曉冬)
北疆新聞 | 內(nèi)蒙古自治區(qū)重點新媒體平臺,內(nèi)蒙古出版集團?內(nèi)蒙古新華報業(yè)中心主管主辦的國家互聯(lián)網(wǎng)新聞信息采編發(fā)布服務(wù)一類資質(zhì)平臺。
北疆新聞版權(quán)與免責(zé)聲明:
一、凡本站中注明“來源:北疆新聞”的所有文字、圖片和音視頻,版權(quán)均屬北疆新聞所有,轉(zhuǎn)載時必須注明“來源:北疆新聞”,并附上原文鏈接。
二、凡來源非北疆新聞的新聞(作品)只代表本網(wǎng)傳播該消息,并不代表贊同其觀點。
如因作品內(nèi)容、版權(quán)和其它問題需要同本網(wǎng)聯(lián)系的,請在見網(wǎng)后30日內(nèi)進行,聯(lián)系郵箱:bjwmaster@163.com。
版權(quán)聲明:北疆新聞版權(quán)所有,未經(jīng)書面授權(quán),不得轉(zhuǎn)載或建立鏡像,違者依法必究。 本站違法和不良信息舉報電話:15648148811蒙ICP備16001043號-1
Copyright © 2016- 北疆新聞 All Rights Reserved互聯(lián)網(wǎng)新聞信息服務(wù)許可證:15120200009-1廣播電視節(jié)目制作經(jīng)營許可證:(蒙)字第631號蒙公網(wǎng)安備:15010502001245