AI技術(shù)為社會消費帶來極大便利，與此同時，應(yīng)用場景中出現(xiàn)的違法違規(guī)現(xiàn)象也不可忽視。治理虛假人設(shè)營銷，既需法律震懾與技術(shù)攔截，也依賴平臺自律與社會監(jiān)督。積極構(gòu)建源頭審核、過程監(jiān)控、事后追責(zé)的全鏈條社會監(jiān)督機制，才能遏制技術(shù)濫用，營造健康放心的消費環(huán)境。

借助AI技術(shù)魔改文案和視頻資料，偽造虛假公眾人物形象、虛構(gòu)“精英人設(shè)”，在短視頻平臺推銷保健品，近一段時間以來，這股AI魔改之風(fēng)在網(wǎng)絡(luò)平臺甚囂塵上。從“老板娘楊麗華”到冒用張文宏等名人形象，屢禁不止的AI造假視頻不僅挑戰(zhàn)了消費者的辨別能力，更暴露出技術(shù)濫用下的監(jiān)管漏洞。應(yīng)該說，AI技術(shù)在短視頻領(lǐng)域的營銷應(yīng)用亂象，是流量經(jīng)濟下借助公眾健康焦慮的一次“合謀”，亟待法律、技術(shù)與社會的系統(tǒng)性治理。(據(jù)2月11日《中國消費者報》報道)

虛構(gòu)人設(shè)與AI技術(shù)結(jié)合，打造“信任背書”，是AI魔改視頻的顯著特點。商家通過AI技術(shù)生成虛假人物形象并盜用公眾人物肖像，利用其社會影響力誘導(dǎo)消費者，同時還常用夸大功效與擦邊宣傳。

AI魔改短視頻營銷中，眾多賬號與店鋪有頻繁更換名稱躲避監(jiān)管嫌疑。同一產(chǎn)品鏈接跳轉(zhuǎn)至不同網(wǎng)店，經(jīng)營主體多為注冊時間短、資質(zhì)存疑的小微企業(yè)。加之AI技術(shù)極大降低虛假視頻制作成本，讓批量生產(chǎn)、快速傳播、收割變現(xiàn)、注銷換殼的欺詐營銷閉環(huán)快速形成。

虛假宣傳導(dǎo)致消費者誤購高價低效產(chǎn)品，甚至延誤正規(guī)治療。虛構(gòu)人設(shè)營銷擾亂保健品行業(yè)競爭生態(tài)，網(wǎng)絡(luò)平臺若放任此類行為，將削弱消費者信任，最終損害自身商業(yè)信譽。同時，AI技術(shù)被濫用于造假，消解了“眼見為實”的認(rèn)知基礎(chǔ)，一些公眾人物遭AI換臉帶貨，不僅侵犯其肖像權(quán)，更可能引發(fā)社會對權(quán)威信息的普遍懷疑。

《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確，AI生成內(nèi)容應(yīng)當(dāng)進行明確標(biāo)識并由相關(guān)方承擔(dān)侵權(quán)責(zé)任。網(wǎng)絡(luò)平臺應(yīng)當(dāng)加強審查制度，落實主體責(zé)任，對未標(biāo)注的AI視頻強制下架，強化平臺管理約束機制。針對保健品宣傳，嚴(yán)格執(zhí)行《廣告法》《食品安全法》等法律法規(guī)，嚴(yán)懲虛假療效宣傳行為，并將屢犯者納入失信名單，發(fā)揮信用懲戒作用。

道高一尺，魔高一丈。首先，短視頻平臺可以利用AI識別技術(shù)篩查虛假人設(shè)賬號，對利用虛擬人設(shè)、虛假精英形象的賬號采取封禁與粉絲清零等措施。其次，建立溯源機制，對頻繁更換主體的店鋪實施流量限制，并公開違規(guī)案例以警示教育廣大消費者。同時，針對易受騙的老年群體，開展反詐宣傳，揭露所謂“養(yǎng)生大師”話術(shù)陷阱。社會應(yīng)當(dāng)關(guān)注老年人消費動態(tài)，有關(guān)機構(gòu)要及時介入異常購物行為，阻斷欺詐鏈條。

AI技術(shù)為社會消費帶來極大便利，與此同時，應(yīng)用場景中出現(xiàn)的違法違規(guī)現(xiàn)象也不可忽視。治理虛假人設(shè)營銷，既需法律震懾與技術(shù)攔截，也依賴平臺自律與社會監(jiān)督。積極構(gòu)建源頭審核、過程監(jiān)控、事后追責(zé)的全鏈條社會監(jiān)督機制，才能遏制技術(shù)濫用，營造健康放心的消費環(huán)境。