3月下旬，一則“華山醫(yī)院前院長張明遠因闌尾炎未得到及時救治，客死他鄉(xiāng)”的消息被廣泛傳播。然而經(jīng)核查，華山醫(yī)院沒有名為“張明遠”的前院長，也沒有同名員工。目前，編造該謠言的網(wǎng)絡水軍團伙被搗毀，3名犯罪嫌疑人已被上海靜安警方依法采取刑事強制措施，相關違法賬號被依法封禁。

從這起案件看，犯罪嫌疑人之所以要在網(wǎng)絡謠言中設置“華山醫(yī)院前院長”“客死他鄉(xiāng)”等吸引眼球的關鍵詞，就是為了制造沖突，消費公眾的同情心，增加謠言的傳播機會，博取更多的流量和關注度，以便后續(xù)通過直播帶貨等方式牟利。

犯罪嫌疑人在接受采訪時承認，“根本不知道上海有一家華山醫(yī)院”，也不知道有“張明遠”這個人。這正是當下利用AI造謠的新特點：如果說此前人工炮制的謠言很容易露出馬腳，那么如今在AI的加持下，即使犯罪嫌疑人并不掌握相關情況，也可以通過AI生成煞有介事的“故事”，達到以假亂真的效果。

更可怕的是，AI能極大提升虛假信息的“生產(chǎn)能力”。本案中的三個犯罪嫌疑人，給AI提供一些提示詞，讓其聯(lián)網(wǎng)搜索相關信息后，再進行整合，可以每天發(fā)布1萬條帖文。僅僅是這三人，通過4個大號、500多個小號，短短兩個月就發(fā)布了30多萬條垃圾信息。

顯然，通過AI編造大量虛假、有害的劣質(zhì)信息，加劇了“AI幻覺”，是“毒流量”，也是對網(wǎng)絡環(huán)境的一種劣化。

目前，經(jīng)過警方的教育，犯罪嫌疑人已經(jīng)認識到，不應該胡編亂造或者夸大其詞，編造發(fā)布虛假信息，感到“非常后悔”。他們將為自己的所作所為付出應有的代價，廣大網(wǎng)絡內(nèi)容創(chuàng)作者也應該吸取教訓，引以為戒。

尤其值得注意的是，三個犯罪嫌疑人此前在某知名女明星剛?cè)ナ罆r，就曾用AI編造過內(nèi)容，而且被平臺提示、扣分。但他們還是“有僥幸心理”，因為相對AI批量生成的大量內(nèi)容來說，他們被平臺處罰的概率還是很低。

為應對生成式AI帶來的影響，國家互聯(lián)網(wǎng)信息辦公室已經(jīng)發(fā)布了《人工智能生成合成內(nèi)容標識辦法》，在《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》等法律法規(guī)上，進一步細化了AI合成內(nèi)容的標識。

但是，一些平臺的提示還不夠清晰，容易被忽略；一些平臺“先發(fā)后審”，給假信息傳播提供了時間窗口；一些平臺無法識別AI作品，導致假新聞成為漏網(wǎng)之魚。這就要求平臺進一步加強審核，盡到主體責任。目前，上海公安機關和頭部平臺已經(jīng)建立了暢通的工作聯(lián)動機制，通過案件管理合作，及時通報掌握的問題。

算法必須向善，不能流量至上。今年以來，上海公安機關全力開展打擊整治網(wǎng)絡謠言專項行動，按照“以打開路、以打促治”思路重拳出擊，全量清理造謠傳謠信息，分級懲治涉謠賬號，嚴厲打擊“造熱點”“帶節(jié)奏”的網(wǎng)絡水軍。

面對AI生成內(nèi)容，公眾也要保持理性和冷靜，在閱讀、轉(zhuǎn)發(fā)之前，多一分思考，多一分求證。不讓劣質(zhì)信息充斥網(wǎng)絡空間，全力營造清朗有序的網(wǎng)絡環(huán)境，需要社會各方的共同努力。