吴越凌晨发文：谁在用AI替我作恶

主播交代事件：有账号用AI换脸与声音克隆伪造吴越形象，制作护肤品带货视频，角落仅以小字标注含AI生成内容；同一条视频还有伪造的邓亚萍，温峥嵘也遭遇同类情况。由此抛出四个问题：造假者为何敢做、会不会越来越多、普通人如何自处、法律管不管得住。

“太完美的是假的”：一次转发假视频的经历

嘉宾王毅说第一反应是毛骨悚然，原以为直播带货是名人用自身信誉背书，没想到技术已能在公共平台伪造形象牟利。主播讲自己转发假高晓松视频被朋友识破，对比真人音频后得出结论：合成的声音太完美，真人反而有吐字不清和个性字音。

AI短片让他叹为观止，但违法成本太低

王毅说自己更关注内容而非是否AI合成，最近大量AI生成短片在艺术上已达相当高度，普通人用很少的钱就能做出大片效果。但反过来，侵害肖像权的成本极低，借助平台危害被进一步放大。

法律定性：没有授权就是消费欺诈

主播援引民法典：不得以信息技术伪造方式侵害肖像权，声音保护参照肖像权。只要大众一眼认出是本人，即便标注AI，无授权用于商业带货即构成肖像权、姓名权侵权，本质是消费欺诈。她讲自己差点因闫妮推荐下单护肤品的经历。

授权之后：人不应成为他人实现目的的手段

王毅追问授权后的责任归属，认为授权只是本人对使用方的授权，不是对观众的授权。他引用康德“人是目的而非手段”，呼吁不要轻易授权声音与形象，否则可能变成别人牟利的手段。

铁面人与双胞胎：身份被替代的古老焦虑

王毅用路易十四铁面人传说和双胞胎换身份的故事说明，身份被替代的焦虑一直存在，AI只是把成本降到极低。他判断这会重塑社会信任机制。主播则担忧：当真假难辨，连真人号召也无人相信，社会信用体系会崩塌。

从英剧到身边：AI诈骗已经发生

王毅提到英剧《捕捉真相》讲伪造视频截断电视信号，认为每次新技术都会带来混乱期，交通规则就是这样逐步建立的。主播讲朋友父亲被冒充生意伙伴的视频电话骗走钱，以及配音演员只跟家人说武汉话防冒充。

验证问题挡不住AI，道德底线才是根

王毅认为靠设置验证问题防诈骗赶不上AI，很多验证信息本身可被搜集，杀猪盘已用AI批量沟通筛选目标。他提到马斯克发布会视频也被平台标注含AI内容，真实与虚幻的边界已经模糊。双方就“人被工具化”展开争论。

逐利压倒道德，立法永远追不上技术

主播认为仅靠道德约束力量微弱，利益足够大时人会铤而走险。王毅说当下对利益的追逐与对道德的放弃比很多社会更明显，主张重塑道德。他用“科技之圆越扩越大、需要管控的周长越来越长”比喻立法永远滞后。

直播带货的说服力与一体两面

主播承认直播和短视频的推荐比单纯搜索更有说服力和诱惑力，但比价后常发现直播间并不便宜。两人把直播带货放进电视购物、邮购目录的销售手段演变史，并指出技术是双刃剑，背后可能有一把更快的刀。

一组数据：AI换脸诈骗一年暴涨370%

王毅认为AI换脸并非高深技术，危害在于信用基数被侵蚀，而平台和部门可能睁一只眼闭一只眼。主播给出数据：2025年上半年AI换脸诈骗涉案金额超68亿元，单案最高损失2000万元，今年3月同比暴涨370%。

分身术、AI写书与一次查错电话的幻觉

主播设想未来一个人用分身同时在十地演讲，追问真人到场是否还有意义。王毅举朋友两小时手搓医疗小程序、半年用AI写六本书，也讲自己让AI查签证处电话被编造假邮箱，强调AI只能是助手，使用者要有判断框架。

平台责任：违法成本必须高过生成成本

王毅说人是否到场未必重要，重复性工作交给AI即可，不必恐慌。话题拉回治理：主播主张平台承担主体责任、执法加快；王毅认为国人的生活被几个大平台掌握，平台本应走在立法之前却很少自律，出了问题应直接追究平台责任。

收束：看到AI合成，信任度降到一成

主播总结普通人的应对：看到标有AI合成、尤其让你掏钱的视频，信任度就该降到两成甚至一成，不要盲目迷信。她收尾说技术可以创造无限可能，但商业不能脱离法律与道德底线，期待各方守住边界。