低至20元就能AI換臉，警惕騙子靠AI “開掛”

“姐姐我今年67，上市公司老總，這輩子啥都齊了，就缺個你�！�

“姐姐，年齡算啥，以后我寵你�！�

“大妹子，要是我把微信給你，你會添加我嗎？不圖別的，就想跟你說說心里話�！�

在主流短視頻平臺上，有無數個這樣喊著姐姐、說著情話的“AI霸總”。這些霸總大都穿著西裝，有的戴著大金鏈，對著鏡頭深情款款，配以抒情音樂。如果仔細看，有的霸總“撞臉”明星，而畫面底部有一行不起眼的小字：作品含AI生成。

第一財經發(fā)現，AI霸總的視頻點贊量動輒上千，評論里無數老年用戶熱情回應。但霸總背后暗藏風險。社交平臺上，有用戶反饋，家里老人和霸總網戀，“不相信是假的，因為老人無法理解AI。”而這些賬號往往能借此完成情感變現，或是帶貨，或是誘導轉賬等。

關于“假靳東”的騙局已經曝光數年，但類似的套路仍在“收割”老年群體。瑞萊科技聯合創(chuàng)始人蕭子豪對第一財經表示，近一年來利用AI進行詐騙、造謠等違法犯罪行為屢禁不止、愈演愈烈，呈顯著上升趨勢。犯罪行為變得更具迷惑性，也更加隱蔽。這與近年來生成式AI技術能力突飛猛進并持續(xù)開源開放有關，大量工具、產品問世，極大降低了不法分子的作惡門檻和成本。

第一財經記者調查發(fā)現，在電商平臺200元可定制一條以名人聲音“講話”的視頻，而制作AI換臉視頻的價格在20-500元不等。AI偽造的賬號和騙局泛濫成災，被侵權的對象也從明星迅速蔓延至普通民眾，讓維權變得更加困難。

AI換臉泛濫：從明星到普通人

近日，一位用戶在社交平臺反映自己的母親被騙了，從他分享的用戶私信圖片來看，母親賬號與多個“AI霸總”賬號私信互動，他們的話術如出一轍，“姐姐，終于等到你了”。其中一個賬號的頭像用的是演員靳東。

這不是孤例。此前有報道稱，不少老人迷上“AI霸總”，甚至有八旬老太被騙2000元。這些賬號的套路往往是針對老年女性用戶量身定做霸總視頻，提供情緒價值，進而實現帶貨或斂財。

公安部數據顯示，2025年上半年全國電信網絡詐騙涉案金額超百億，僅2025年第一季度，全國AI換臉、擬聲詐騙案件數量環(huán)比激增45%，其中老年群體受騙占比達到38%。

在利用AI斂財的陷阱里，老年人成為重點的“圍獵”目標，而被AI侵權的主要群體，是像靳東、溫崢嶸這樣的明星。曾被視為“高科技”的AI技術，早已成為小團隊甚至個人可輕松操作的工具，而明星這樣有大量素材的公眾人物，進行換臉生成的門檻不高。

在電商平臺，第一財經記者發(fā)現，直接搜索“AI換臉”會被平臺攔截無法顯示結果，但若將關鍵詞替換為“AI視頻制作”，則有更多操作空間。

記者問了近10個可以制作AI視頻的商家，能否制作明星換臉視頻，部分商家會明確拒絕AI換臉，但也有不少商家表示可以進一步溝通細節(jié)，并引導記者至微信交流。

有商家粗略報價，制作換臉視頻的價格在20元至200元不等。也有商家要求看完視頻內容和需求進行報價，記者發(fā)送了一份2分鐘的視頻，詢問能否換臉一位明星，在簡單詢問是否商用后，這位商家稱500元即可制作，對于價格他解釋稱，由于政策限制，現在行業(yè)里真人換臉的難度較大。

在AI擬聲方面，一位商家告訴記者，制作一條涉及名人講話的視頻，一口價是200元。

除了定制服務，各類可自行操作的AI工具更是讓換臉和擬聲變得人人可及。國內外多款AI視頻軟件都能生成逼真的人物視頻，無需專業(yè)的技術知識，普通人跟著教程就能上手。

“太可怕了，視頻、聲音、口型完全看不出來真假。”2026年2月，演員王勁松發(fā)文稱自己的形象被某視頻賬號盜用，“把我AI了”。經辨認，其原始素材來自2020年拍攝的電視劇《冰雨火》，AI換臉后的假王勁松以逼真的聲音和畫面進行商業(yè)推廣。

雖然最后經投訴視頻刪除了，但王勁松認為，侵權者的代價可以忽略不計，“不疼不癢過去了，但誰能保證，這種鉆法律空子的擦邊球，最后不淪為犯罪的手段？”

而2025年底，演員溫崢嶸更是被迫在個人賬號開啟多場“我是真的溫崢嶸”直播，以對抗網絡上層出不窮的“AI分身”。溫崢嶸團隊工作人員表示，發(fā)現該現象后團隊便持續(xù)進行舉報，一天時間內曾舉報50個假冒賬號，有的造假賬號被平臺下架處理，有的賬號剛被下架很快又換了個形式重新出現，令人防不勝防。

該工作人員稱，商家只需要截取一段影像，通過簡易工具便能生成虛假內容，但取證動作卻需要花費很大精力。且造假團隊喜歡在凌晨三四點鐘打時間差發(fā)布虛假視頻。雖然團隊已送達相關律師函，但目前調查的僅僅是一部分造假商家。

更令人憂慮的是，近一年，AI換臉的侵權對象正在從明星蔓延至普通人，更隱形，維權難度也更高了。

在小紅書上，一位萬粉博主@阿爾忒彌斯舟提到，“打開小紅書刷到自己的照片結果發(fā)現臉不是自己，被嚇了一跳，后面才反應過來是AI換臉。”他表示，后續(xù)舉報成功，這條作品已經被小紅書官方刪除了，但“不敢想象這種AI換臉被用到非法的途徑會是什么后果”。

評論區(qū)不少用戶反饋“辨認不出來哪個是AI”。但仔細看能發(fā)現，AI換臉后的照片還是有一些痕跡，脖子和臉比例不對等等，但并不是所有用戶都有分清AI的能力。

另外一名僅幾千粉的博主完全沒想到自己會被換臉，“以為只有網紅才會被盜用，沒想到我這點粉絲也會�！彼�已經發(fā)現四個人套用他的臉了。

由于并非明星，這些仿冒賬號用于婚戀詐騙和“殺豬盤”則更難被察覺，即便被發(fā)現，也就“一刪了事”，違法成本極低。

反AI騙局：沒有終點的“貓鼠游戲”

靳東是AI換臉的典型受害者，2026全國兩會期間，他也回應了AI換臉亂象，稱維權很難，不法分子利用AI換臉偽造其形象，在短視頻平臺針對中老年群體實施情感詐騙與非法集資，性質極其惡劣。靳東呼吁對AI換臉立法，出臺更多細則。

面對愈演愈烈的 AI 造假亂象，法律懲戒與平臺治理已開始“亮劍”，但從實際效果來看，仍存在違法成本低、取證難度大、維權流程繁等諸多短板。

在法律層面，AI 換臉侵權已有明確的法律依據：未經授權使用 AI 技術生成自然人面部特征、聲音用于營利，違反《民法典》相關規(guī)定，構成肖像權侵權；若內容丑化、貶損當事人，還會同時侵害名譽權，而情節(jié)嚴重者還將承擔刑事責任。

北京互聯網法院去年曾發(fā)布涉人工智能侵權典型案例，其中一個是用知名教授的公開演講視頻合成近似的聲音進行圖書“帶貨”，法院審理后認為，涉案視頻構成侵犯肖像權和聲音權，判被告道歉賠償12萬元。

在平臺治理方面，各大社交平臺也開展了專項治理。3月初，微信發(fā)布關于打擊利用AI仿冒名人進行引流虛假宣傳的公告，累計處置 AI 仿冒名人違規(guī)內容1.3萬余條，封禁賬號1200余個。抖音電商也發(fā)布公告稱“AI仿冒肖像及聲音侵權”成為重點治理領域，累計處置侵權仿冒達人賬號1.1萬個，處置仿冒李亞鵬等名人的侵權內容 16.5 萬條，關閉136個相關違規(guī)達人電商權限并凍結傭金30天。

部分 AI 技術平臺也開始采取限制措施，今年2月，豆包旗下視頻生成模型Seedance2.0上線后，執(zhí)行嚴格限制：禁止生成明星、公眾人物、網紅等真實人物肖像/視頻/語音，防范AI換臉/偽造/商用侵權。

不過，北京市京都律師事務所合伙人常莎認為，現有的法律運行存在侵權成本過低、平臺責任虛化、維權鏈條過長的困境。權利人需要經歷取證、公證、訴訟等漫長流程，因此治理AI換臉亂象的關鍵在于對現有法律進行針對性修補。例如引入懲罰性賠償機制，讓侵權成本高于收益；同時將平臺責任從“事后刪除”前移至“事前審核”，對涉及知名公眾人物的AI合成內容主動篩查。

蕭子豪對第一財經表示，AI技術衍生安全風險的治理問題是個非常復雜的社會問題，涉及很多方面。既要在法律法規(guī)層面事前規(guī)范引導、事后監(jiān)管懲戒，也需要有技術手段令AI更加安全、可控。

在技術層面，蕭子豪認為，對AI的鑒偽是一場“貓鼠游戲”，此消彼長，相互博弈。因此，對AI騙局的識別也要隨著生成技術的進展不斷研究、更新、迭代，沒有終點。