一條視頻中，兩名“兒童”身著白色短袖，在陽光下開心地玩滑板。鏡頭一轉，兩人在動作交錯時，身體竟然融合在一起，暴露出數字合成痕跡。

今年“雙11”期間，北京市民王歡在某社交平臺刷到這條童裝推廣視頻，深感詫異，直到看見角落一行“內容由AI生成”的提示，她才意識到孩子玩耍的畫面是技術合成的。“這畫面錯得有些離譜，讓人怎么相信商品的真實效果？”她疑惑地說。

近來，商家利用AI技術帶貨的現象日益增多，有的出現違法違規情形：有借助名人效應，仿冒專家學者、奧運冠軍、影視明星為產品站臺；有冒充知名品牌誤導消費者。不少消費者和粉絲難辨真偽，出于對“偶像”或“品牌”的信任下單，卻沒意識到背后潛藏的風險。

這些游走在灰色地帶的“AI李鬼”，涉嫌侵害當事者的肖像權以及消費者的知情權與選擇權，對當下網絡數字治理提出新挑戰。

AI帶貨視頻“批量化”生產

“兩人穿透彼此身體，明顯違背真實世界的物理規律，在行業中我們稱之為‘穿模’。”資深AI技術人員藍天說。

他指出，當前主流AI視頻生成模型，其核心邏輯是在海量數據訓練基礎上，具備較強的語言理解和圖像生成能力，能夠根據文本描述“畫”出逼真畫面。然而，對于真實世界中復雜的物理規律，如重力、碰撞、物體間的不可穿透性等，AI仍缺乏深刻的感知與預測能力。

“‘穿模’是AI生成視頻中的典型漏洞，反映了當前技術在處理復雜動態場景時的局限性，說明數字內容構建與真實物理法則之間仍存在鴻溝。”藍天說。

記者調查發現，利用AI工具批量生成營銷帶貨視頻，在電商運營中相當普遍，網絡上甚至出現系統化教程。

在一個面向電商從業者的教學視頻中，一名自稱經驗豐富的直播電商博主，詳細講解如何借助AI快速制作吸引眼球的帶貨視頻。他用來作為“優秀模板”向學員展示的案例，正是王歡看到的出現“穿模”問題的童裝視頻。

該博主講述制作“爆款邏輯”稱：“學員跟我學習之后，利用AI批量生產這類視頻，精準捕捉寶媽心理。視頻直擊寶媽群體對‘美觀’與‘實用’的雙重需求，這就是成功的關鍵。”

另一位博主在賬號中推薦更為“進階”的操作。該博主以一條網絡播放量破千萬的真實人物炸雞腿視頻為例，現場演示如何利用AI工具對原視頻人物進行“深度改造”——不僅能更換面部特征、上衣和飾品，甚至可調整人物的體型與性別。

此類教學內容的傳播，模糊了真實與虛構的邊界，給消費環境帶來隱患與風險。

知名人士接連被冒名帶貨

“凡是‘捎貨’（帶貨）的肯定不是我！”10月初，在江西南昌舉行的一場國際學術年會上，中國工程院院士、國醫大師張伯禮以“打假”聲明作為開場，向與會者展示了冒用他形象與聲音合成制作的AI偽造視頻。

“這是人工合成的假視頻，講話聲音聽起來很像我，但所講的內容完全不是我的本意。”張伯禮鄭重提醒公眾，務必提高鑒別力，警惕此類數字造假。

今年10月20日，天津中醫藥大學發布嚴正聲明，指出近期社會上有“伯禮醫堂”“伯禮國醫館”“張伯禮中醫院”“張伯禮大藥房”等多家機構，冒用張伯禮院士之名，通過社交媒體等平臺宣傳產品、培訓或評審活動。聲明中強調，這些機構均與張伯禮院士無任何關聯，其行為嚴重誤導社會公眾，損害公眾健康權益，帶來醫療安全隱患，并涉嫌違反相關法律法規。

不僅專家學者深受其擾，知名媒體人也成為被仿冒對象。今年6月，北京市海淀區市場監督管理局查處首例濫用AI技術發布虛假廣告的案件。

根據消費者舉報，執法人員對北京某公司展開調查發現，該公司通過一個擁有數十萬粉絲的視頻賬號，宣傳其銷售的“魚油”具有治療頭暈頭痛、記憶力下降等功效。直播視頻中出現中央廣播電視總臺主持人李梓萌的形象。

經深入調查，該公司銷售的所謂“魚油”，實際產品執行標準為普通糖果類食品，不具備治療功能。經權威機構鑒定，視頻中出現的“主持人”形象是利用AI技術偽造生成。最終，該公司因違反《中華人民共和國廣告法》相關規定，受到市場監管部門行政處罰。

某平臺售賣的“AI電商課”詳情頁面截圖，商家宣稱可幫助用戶“復刻爆款視頻”。受訪者供圖

向AI換臉、虛假廣告等“亮劍”

北京市市場監督管理局副局長周小豐表示，北京市支持AI技術在廣告中的廣泛應用，同時針對AI換臉、虛假廣告等問題敢于“亮劍”。他說，主持人、網紅等公眾人物社會認知度高，一些不法經營者利用AI技術等方式偽造圖片、音視頻開展虛假宣傳，借助公眾人物知名度推銷商品服務獲利，侵犯了消費者合法權益。

“鑒于AI技術的復雜性和應用的廣泛性，AI治理需要實現跨領域協同推進。需要監管持續加碼、平臺強化責任，更需要網民參與。”中國政法大學副教授、中國廣告協會法律與道德委員會專家朱巍表示。

在平臺治理方面，部分廣告企業著手構建全流程管理機制。營銷服務平臺巨量引擎商業安全治理標準負責人項韻介紹，面對AI廣告違背公序良俗、侵權抄襲、虛假宣傳等突出風險，平臺聚焦“精準識別、從嚴處置”，今年第三季度前置攔截涉AI違規素材84萬余個。

當前，對AI虛假廣告的治理正從依賴人工審核，向人機協同、智能識別方向演進。巨量引擎商業安全產品負責人潘荻表示，通過應用多模態大模型，平臺提升了識別效率。系統可快速解析視頻素材，定位違規內容出現的具體時段或畫面，為審核決策提供參考。

潘荻說，與傳統審核模型不同，融合AI能力的大模型能夠結合大量案例進行學習，理解規則背后的邏輯。“面對從未見過的人臉或全新的造假技術，系統能基于對規則的理解識別違規本質，從而顯著提升對新型、隱蔽違規內容的發現能力。”

面對不斷演變的AI造假技術，治理體系需持續優化。朱巍建議，應加強對合成內容的標識與溯源，推動平臺、監管部門及技術提供商之間的數據共享與標準共建，構建覆蓋內容生成、傳播、識別全鏈條的治理生態，切實維護市場秩序與消費者權益。

針對AI廣告帶貨亂象，北京市市場監督管理局提醒：消費者若發現疑似利用AI技術進行的虛假宣傳等違法行為，應注意留存證據材料，并通過12315、12345等熱線渠道向市場監管部門舉報，共同維護良好的廣告市場秩序和消費環境。同時，廣大經營者須嚴格遵守《中華人民共和國廣告法》《中華人民共和國反不正當競爭法》等法律法規，不得利用AI等新技術手段冒用他人名義或形象進行營銷宣傳活動。

來源：中國青年報