10月25日晚,央视网放出一个案子,很多人在屏幕上停了几秒,然后下意识地摸了一下自己的脸。
杭州市中级人民法院公布:两名不法分子,用一段AI合成的动态视频,骗过了购物平台的人脸核验。不是精修的静态图,是那种会对着镜头点头、摇头、眨眼的"活人"视频。
购物平台的人脸识别,一直是大家默认的"最安全那一档":密码可以破,验证码可以截,脸总不能复制吧。这个案子,把这层共识敲碎了。

一次当庭宣判,赔款只有5857块
案子是2025年9月4日在杭州中院宣判的,一桩民事公益诉讼。被告张某某和王某,从境外的聊天软件里弄来别人的手机号、头像照片、身份证信息,再用AI换脸技术,把一张静态照片"喂"成一段会动的脸。两个人强制登录购物平台的账号,把收货地址、购物车信息打包卖出去,还替人做虚假实名认证,收钱办事。
法院查明,两个人前前后后一共非法获利5857元。判决是:公开道歉,支付5857元公益损害赔偿金,这笔钱将专门用于个人信息保护和人脸深度合成技术滥用的治理。
5857块,听起来像个笑话。可法官助理叶永青在央视法治在线的解释,让这个"笑话"有了分量。
眨眼、摇头、张嘴,全都能演
这套技术的原理并不复杂:深度学习算法提取照片里的人脸要素,一层层训练建模,生成模拟真人的动态视频。平台验证环节让你眨眼睛,它就眨;让你摇头,它就摇。左看、右看、张嘴,这些常见动作它全会。
真正的杀招是"虚拟相机"。两个人往手机里植入了一个能顶替本地相机的App,当平台调取摄像头做人脸验证时,验证框里出现的根本不是镜头前的画面,而是一段提前做好的合成视频。你以为自己在跟一个真人面对面,其实对方只是按了个播放键。
更狠的版本还在后面。法官举过另一个案子:那套系统能按平台实时要求的动作生成画面——要求"眨眨眼",作案人点一下鼠标左键;要求"摇摇头",点一下鼠标右键。活体检测那点小动作,被拆成了两个按键。

你的自拍,就是他们的原料
比技术更让人不安的,是素材太好找了。你的朋友圈自拍、简历里交的证件照、网站上的头像,只要五官清楚,就都是现成的"原料"。法官说得很直接:人脸信息具有唯一性,密码丢了能改,脸丢了没得改。
一张脸一旦被克隆,就不只是丢个购物车的事了:收货地址、支付授权、实名认证,甚至政务平台的核验,都可能被人接管。都说人脸是最稳的一道保险,可这道保险本身正在漏风。
五百块查一条信息,五千块过户一个店
这案子不是孤例。2024年6月,杭州网警刷到一条广告:只需一张人脸照片,就能突破平台认证,强制登录账号,拿到聊天记录等隐私。广告图文并茂,还带演示视频。
顺着这条线索,警方筛出150个异常电商账号。有人店铺闲置多年,一觉醒来发现自己"扫过脸"把店过户给了别人;有人花1.7万刚买的店铺,两天之内在本人毫不知情的情况下换了主人。平台给出的答复一模一样:这是您本人授权的扫脸操作。
背后的团伙分工明确:技术兜底的张某,接单的吴某,供料的王某。最低五百块,查一条收货地址;最高五千块,帮你把整个店铺过户。150起盗号事件,获利十万多,直到2025年1月,三名被告人分别领到三年两个月、三年(缓刑四年)的刑期。
靳东、吴越,也没躲过这张"假脸"
普通人防不住,名人同样躲不开。演员吴越前段时间在微博发了段视频,质问一个叫"花姐美肤日记"的账号:视频里"吴越"亲自推荐产品,声音、口型、神态都对得上,可那根本不是她本人。温峥嵘说刷到AI盗播自己的直播间,进去质问,被秒拉黑。靳东的形象更早被仿冒过,专门用来骗中老年群体。
司法已经在跟进。今年9月7日,最高法发布涉人工智能纠纷的意见,明确规定:未经同意用AI处理姓名、肖像,生成可识别的虚拟形象并公开使用,构成对肖像权的侵害;用合成声音仿冒音色语气的,构成对声音权益的侵害。
脸不值钱了,什么才值钱
人脸识别最讽刺的地方在于:它从来不认识你,它只认识"看起来像你"的那组数据。AI把这组数据复制得太便宜了,便宜到一张自拍就能起家。
指望平台升级算法,靠监管部门掐断黑灰产的链条,也靠我们自己把习惯改一改:重要的账户,别只靠一张脸撑着,能开双重验证就开;收到"您本人扫脸授权"这种莫名其妙的短信,别急着忽略;朋友圈里太清晰的正脸照,发之前想一秒。
评论区聊聊:你有没有收到过那种"本人已扫脸授权"、自己却毫不知情的诡异短信?