“帥哥”“美女”高頻率更新，分享穿搭、養(yǎng)生等秘籍，視頻細(xì)節(jié)滿(mǎn)滿(mǎn)，也未設(shè)置AI生成提示，出鏡者就一定是真人嗎？

能問(wèn)出這個(gè)問(wèn)題的人，多是“不易受騙體質(zhì)”，反之，就需要提高警惕了——媒體日前調(diào)查發(fā)現(xiàn)，有人利用AI造假，無(wú)底線(xiàn)博眼球，作為起號(hào)變現(xiàn)捷徑，雖然部分視頻存在明顯技術(shù)破綻，但瀏覽、點(diǎn)贊、評(píng)論量依舊不少。社交平臺(tái)上還有不少AI造假起號(hào)教程，情感、養(yǎng)生、顏值類(lèi)是“重災(zāi)區(qū)”，也有不少網(wǎng)友求購(gòu)和出售賬號(hào)，“百萬(wàn)粉絲的號(hào)要十幾萬(wàn)元”。

AI造假起號(hào)，重點(diǎn)是造假。最淺顯的假，是畫(huà)面以假亂真：《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》要求對(duì)AI生成合成內(nèi)容進(jìn)行顯示標(biāo)識(shí)和隱式標(biāo)識(shí)，主流網(wǎng)絡(luò)平臺(tái)也普遍升級(jí)AI內(nèi)容識(shí)別系統(tǒng)，一些人依然通過(guò)各種手段避開(kāi)審核，甚至傳授繞過(guò)平臺(tái)“AI打標(biāo)”的經(jīng)驗(yàn)，存的是什么心思？

所謂“教育專(zhuān)家”“養(yǎng)生專(zhuān)家”輸出的觀點(diǎn)中，不乏違背科學(xué)原則、極端絕對(duì)的說(shuō)法，暗藏誤導(dǎo)風(fēng)險(xiǎn)，當(dāng)用戶(hù)互動(dòng)咨詢(xún)時(shí)，賬號(hào)背后的運(yùn)營(yíng)者還會(huì)借機(jī)推送“三無(wú)”產(chǎn)品。起號(hào)成功后，大多賬號(hào)會(huì)隱藏AI引流內(nèi)容，開(kāi)始掛櫥窗帶貨、引流賣(mài)課；有的順勢(shì)打出“AI起號(hào)實(shí)戰(zhàn)”噱頭，將自身包裝成“成功案例”售賣(mài)起號(hào)課程；還有一部分賬號(hào)被明碼標(biāo)價(jià)進(jìn)行售賣(mài)。如此糊弄用戶(hù)，無(wú)視消費(fèi)者知情權(quán)，無(wú)異于“深度造假”。

在“百萬(wàn)粉絲網(wǎng)紅疑遭勒索后自殺”等網(wǎng)絡(luò)謠言背后，也有AI造假起號(hào)的身影。或生成數(shù)字人，或通過(guò)“文生圖、圖生圖、圖生視頻”流程生成視頻，一些人傳播低俗獵奇信息，加速虛假新聞、謠言傳播，擾亂網(wǎng)絡(luò)空間秩序。這一層面的造假，影響更為廣泛。

從技術(shù)層面看，AI造假起號(hào)黑灰產(chǎn)業(yè)鏈?zhǔn)羌夹g(shù)異化的結(jié)果。在別有用心之人與平臺(tái)的技術(shù)攻防戰(zhàn)中，平臺(tái)需不斷提高對(duì)深度偽造內(nèi)容的檢測(cè)精度，打擊和防范濫用AI行為。需要進(jìn)一步思考的是，有商家提到“現(xiàn)在平臺(tái)風(fēng)控很?chē)?yán)，賬號(hào)會(huì)升值”，有其現(xiàn)實(shí)邏輯。AI加持下，批量起號(hào)的成本和門(mén)檻大大降低，只要平臺(tái)不能百分百識(shí)別出違規(guī)內(nèi)容，就會(huì)有賬號(hào)依舊能多手段變現(xiàn)，甚至成為大號(hào)。而“變臉”帶貨涉嫌侵犯消費(fèi)者權(quán)益，直接售賣(mài)賬號(hào)違背反電信網(wǎng)絡(luò)詐騙法“任何單位和個(gè)人不得非法買(mǎi)賣(mài)、出租、出借互聯(lián)網(wǎng)賬號(hào)”，這不是平臺(tái)單方面可以解決的。

其實(shí)，在AI普及之前，就有人通過(guò)造謠等手段起號(hào)。技術(shù)治理能減少濫用AI帶來(lái)的破壞力，但斬?cái)噙`規(guī)賬號(hào)流量變現(xiàn)的利益鏈條，才是從根源打擊黑灰產(chǎn)業(yè)鏈的關(guān)鍵。AI造假起號(hào)怎么罰，買(mǎi)賣(mài)賬號(hào)如何處理，如何完善公眾參與亂象治理機(jī)制……唯有進(jìn)一步完善相關(guān)規(guī)則，方能更好凈化內(nèi)容生態(tài)。

  來(lái)源：南方日?qǐng)?bào)   作者：維辰