有圖未必有真相 AI造謠要警惕
發(fā)布時(shí)間:2024-08-06 來(lái)源:“公安部網(wǎng)安局”微信公眾號(hào)

近年來(lái),以大數(shù)據(jù)、人工智能(AI)等為代表的信息技術(shù)日新月異。與此同時(shí),利用AI工具合成技術(shù)編造謠言,甚至生成逼近真實(shí)的圖片、音視頻,顛覆了“有圖就有真相”的常規(guī)認(rèn)知,讓人難辨真假。今天,帶你了解AI工具造謠背后的真相!

【AI造謠的定義】

AI造謠指的是利用人工智能技術(shù)生成虛假信息,?包括文字、?圖片、?音視頻等,?以此來(lái)制造網(wǎng)絡(luò)謠言。

【AI造謠典型案例】

案例一:利用AI軟件編造“山體滑坡致8人遇難”網(wǎng)絡(luò)謠言


2024年1月23日,有網(wǎng)民在某平臺(tái)發(fā)布文章稱:“云南山體滑坡災(zāi)害 已致8人遇難”。經(jīng)查,違法行為人楊某某為獲取流量牟利,搜集網(wǎng)絡(luò)上的相關(guān)信息后,利用AI軟件生成了“云南山體滑坡災(zāi)害 已致8人遇難”的虛假新聞信息,并發(fā)布在網(wǎng)絡(luò)平臺(tái)上,造成不良社會(huì)影響。目前,公安機(jī)關(guān)已依法對(duì)楊某某進(jìn)行行政處罰。

案例二:利用AI軟件編造“喜德縣地震”網(wǎng)絡(luò)謠言


2024年6月9日,有網(wǎng)民在某視頻平臺(tái)發(fā)布視頻稱:“5月27日,四川省涼山彝族自治州發(fā)生5.0級(jí)地震,震中位于喜德縣,地震波以每小時(shí)80公里的速度傳播。地震造成了大量房屋損壞和人員傷亡,災(zāi)情嚴(yán)重”。經(jīng)查,5月27日涼山發(fā)生5.0級(jí)地震,震中位于木里縣,無(wú)人員傷亡,部分房屋受損,違法行為人羅某某為吸引眼球、獲取流量,利用AI軟件生成虛假地震災(zāi)情圖片,并在某短視頻平臺(tái)散布不實(shí)信息。目前,公安機(jī)關(guān)已依法對(duì)羅某某進(jìn)行行政處罰。

案例三:利用AI軟件編造“女子電動(dòng)車被扣后猝死”網(wǎng)絡(luò)謠言


2024年6月,某網(wǎng)絡(luò)平臺(tái)出現(xiàn)一條關(guān)于“執(zhí)法與人性的碰撞:五旬婦女電動(dòng)車被查扣猝死”的消息。該文章稱:“澄城縣一婦女為了照顧病重的父親匆忙趕路,卻遇到交警執(zhí)法,在哀求無(wú)果、電動(dòng)車被扣后,情緒瞬間崩潰,心臟病發(fā)作最終未能挺過(guò)這一關(guān)”。這篇“情節(jié)曲折”的文章引發(fā)網(wǎng)民廣泛關(guān)注,給當(dāng)?shù)卦斐蓸O大的負(fù)面影響。經(jīng)調(diào)查,田某利用AI工具,加工生成了“澄城縣城的一婦女電動(dòng)車被查扣猝死”的虛假信息并發(fā)布至其某平臺(tái)賬號(hào)。目前,田某對(duì)自己通過(guò)AI軟件編造謠言的情況供認(rèn)不諱,公安機(jī)關(guān)依法對(duì)田某處以行政處罰。

以上案例均是通過(guò)AI軟件合成的不實(shí)信息,不法分子?為了賺取平臺(tái)獎(jiǎng)勵(lì)或吸引流量,?使用AI軟件自動(dòng)生成文章,?并與實(shí)際圖片進(jìn)行嫁接,?發(fā)布在網(wǎng)絡(luò)平臺(tái)上,?造成不良社會(huì)影響,嚴(yán)重?cái)_亂社會(huì)公共秩序。

◆編輯:龍慧◆二審:陳吉春◆三審:周亞平

版權(quán)與免責(zé)聲明:
① 凡本網(wǎng)注明“來(lái)源”為“中山日?qǐng)?bào)”、“中山商報(bào)”、“中山網(wǎng)”的所有文字、圖片和視頻,版權(quán)均屬中山網(wǎng)所有,任何媒體、網(wǎng)站或個(gè)人未經(jīng)本網(wǎng)協(xié)議授權(quán)不得轉(zhuǎn)載、鏈接、轉(zhuǎn)貼或以其他方式復(fù)制發(fā)表。已經(jīng)被本網(wǎng)協(xié)議授權(quán)的媒體、網(wǎng)站,在下載使用時(shí)必須注明“來(lái)源:中山網(wǎng)”,違者本網(wǎng)將依法追究責(zé)任。
② 本網(wǎng)未注明“來(lái)源”為“中山日?qǐng)?bào)”、“中山商報(bào)”、“中山網(wǎng)”的文/圖等稿件均為轉(zhuǎn)載稿,本網(wǎng)轉(zhuǎn)載出于傳遞更多信息之目的,并不意味著贊同其觀點(diǎn)或證實(shí)其內(nèi)容的真實(shí)性。如其他媒體、網(wǎng)站或個(gè)人從本網(wǎng)下載使用,必須保留本網(wǎng)注明的“來(lái)源”,并自負(fù)版權(quán)等法律責(zé)任。如擅自篡改為“來(lái)源:中山網(wǎng)”,本網(wǎng)將依法追究責(zé)任。如對(duì)文章內(nèi)容有疑議,請(qǐng)及時(shí)與我們聯(lián)系。
③ 如本網(wǎng)轉(zhuǎn)載涉及版權(quán)等問(wèn)題,請(qǐng)作者在兩周內(nèi)速來(lái)電或來(lái)函與中山網(wǎng)聯(lián)系。
聯(lián)系人:陳小姐(電話:0760-88238276)。