AI换脸拟声想合法，得同时拿到两张通行证

光明日报前两天发了一篇讲深度合成的稿子，作者是北师大法学院的劳佳琦。我看了两遍，核心其实就一句话：技术先进、用途新颖，不天然等于正当。这句话值得单独拎出来说。

两条红线，一条都不能少

稿子里提的「双重通行证」我是认同的。AI换脸、AI拟声这类东西，落到具体场景里，要同时在两个维度上站得住：一是目的本身合法，二是手段没越界。缺一个就成问题。

说白了，你不能因为「我这个模型效果特别好」，就默认拿别人的脸去做视频是没问题的。技术能力不是许可。

现实里被讨论最多的那几类事，基本都卡在这儿：有人照片被做成换脸视频到处传，有人没授权就被「变成」各种数字形象，还有拿 AI 克隆亲友声音搞诈骗的。这三种情况性质完全不同，但当事人第一反应都是一句话——我没同意。

为什么大家容易想岔

我观察下来，误区大多出在把「新颖」当「正当」用。早几年做产品也是这个路数，先上了再说，等出问题再补规则。深度合成这个领域不太适合这么干，因为它直接作用在人的身份上。

身份这个东西，一旦被复制出去，收不回来。

我记得前段时间跟一个做短视频的朋友聊，他说平台现在对 AI 生成内容的标注要求越来越细，他嫌麻烦。我当时的回答是：等你哪天自己的声音被拿去打电话给你妈，你就不嫌麻烦了。这话有点冲，但确实是这样。

给做站的人的提醒

如果你的站有用户上传功能，尤其允许传图片、音频的，这块最好早点想清楚。至少两件事：生成内容要能标识，投诉渠道要能走通。别等有人拿你的站当素材库。

这点我没做过完整的合规梳理，具体到不同业务形态差别很大，建议真要做的话找专业的人看，别照着我这段抄。

技术跑得快不是坏事。跑的时候记得看一眼身后有没有人。