本文来自微信公众号：直面AI，作者：毕安娣，编辑：王靖，题图来自：AI生成

9月1日施行的《人工智能生成合成内容标识办法》强制AI内容添加显隐性标识，DeepSeek等大模型已响应，涵盖文本、图片、音频、视频。这源于AI造假泛滥问题，如老人受AI乖孙欺骗、虚假宣传致经济损失。中国强制监管领先全球，而美国YouTube自愿标识难控乱象，标识保护辨别弱者、规范未来发展。

• 🏛️ 法规实施：《人工智能生成合成内容标识办法》强制AI内容标明来源，要求技术服务者、平台和用户共同遵守。

• 🤖 平台响应：DeepSeek、腾讯元宝等大模型已添加显隐性标识，确保AI生成内容透明可识别。

• ⚠️ 欺骗案例：AI乖孙、假宣传视频泛滥，导致老人受情感和金钱欺骗，如马来西亚老人被假缆车视频误导。

• 👵 保护群体：标识尤其针对辨别能力有限的老人，通过显明提示降低诈骗风险。

• 🌍 全球对比：中国强制措施领先于美国自愿标识体系，后者在YouTube平台问题频发如AI短视频扰乱创作者生态。

• 🚧 未来挑战：标识是监管第一步，但AI内容将暴增，需克服标识落实难点和潜在漏网问题。

“作品含AI内容”的标识成为一种标配，不知道有多少人松了一口气。

9月1日，DeepSeek在官方公众号发布公告，表示对AI生成合成内容添加标识，并明确提醒用户相关内容由AI生成。

其他大模型厂商其实也早有动作，8月31日，腾讯元宝也在公众号发布了《关于AI内容标识的公告》。字节豆包、阿里通义、Kimi、智谱清言等也已纷纷更新了用户协议中与AI标识相关的内容，表示已履行AI标识相关义务，包括但不限于显性标识和隐性标识。

在大模型厂商纷纷“打标”的背后，是9月1日起正式实施的《人工智能生成合成内容标识办法》。该《办法》由国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局四部门联合发布，要求所有AI生成的内容都要“亮明身份”。

·文本、图片、音频、视频、虚拟场景等，通通包括在内；

·AIGC技术服务者、平台、用户都得遵守。

首先，AIGC技术服务者需要在生成AI内容时，就埋好隐性标识，做好“出厂盖章”。

其次，平台识别并给AI内容添加显式标识和隐式标识，如在内容下方标明“作品含AI内容”，做好“上架明牌”。

最后，用户在发布和传播相关内容的时候，不可以用任何方式删除、篡改、伪造或隐匿平台添加的AI标识。

因此，除了大模型厂商之外，B站、抖音、快手等互联网平台也纷纷上线相关功能，让用户可以主动声明AI内容，并且配以平台识别打标。

经常网上冲浪的朋友都清楚，AI标识是一场及时雨。这几年，大家眼睁睁看着AI内容越来越多、越来越多样、越来越真：

AI文案与文章赚着点击，AI美女在线擦边骗口水，AI乖孙生生把爷爷奶奶“哄成胚胎”，AI说教视频都成了长辈的催婚利器……最可怕的是，连十级冲浪选手都惊恐地发现，昨天刚给老人做了“如何辨别AI内容”的教育工作，今天自己就中了招。

我们要么被骗，要么被“创”，一不小心已经走进了《黑镜》的片场。

AI乖孙的魔力

很多人第一次被AI内容震撼到，是发现老人爱上AI乖孙。

本来在办公室当着脱脂牛马，用AI写代码写方案做PPT，让AI帮忙解读体检报告，在无聊的时候和AI玩角色扮演，或者用AI合成网络模因，和AI的关系挺和谐的。

结果过年一回家，却看到老人抱着手机憨笑，里面传来一阵阵“奶奶”“爷爷”的孩童甜音，一瞅居然是平滑感十足的“六指灵童”在作祟。发视频的知道那是AI合成的，你也知道那是AI合成的，唯独老人当真的看。

最绝望的是，老人不仅相信了还爱得不行，拿AI乖孙和真孙比。没想到都已经成年了，还得遭受“看看人家孩子看看你”的折磨，况且这次把你比下去的不是隔壁小李，而是空气。

这种震撼有两层。一层是惊讶，你以为的“一眼假”，其实只是你以为。一层是担忧，把AI内容被当成真的，被骗到的不仅是点击，还可能是感情甚至金钱。

现实也确实如此。

说两个极端例子。

一个例子是今年6月的时候，马来西亚有一对老夫妻在网上看到一则“记者走访”视频。视频中一名记者正在介绍某景区的缆车项目，于是他们说走就走，驱车4.5小时前往，却被当地旅馆员工告知根本没有缆车。

“我向阿姨解释说，这段影片是AI制作的，并不是真的。我在这里土生土长，如果真有缆车，这里一定比现在热闹得多。”

我们也专门找到这则视频，画面中有意为之的低画质，右上角的电视台标，配上“记者走访”这种形式和流畅的画面，缆车悠然穿越树林，溪流和山脉的壮丽景观，都极具迷惑性。

虽然可以通过一些动作和行人不自然地走姿看出端倪，但要精准地传达给一位老人“假”在哪里，还真不容易。

另一个例子是今年3月，中国工程院院士、天津中医药大学名誉校长张伯礼推荐某美白护肤产品的视频出现在网络上，他不得不出来辟谣：这些内容全是假的。我从来没用过这个护肤品，我也没做过这方面的宣传，更没研究过，所以里边完全是编造的。

当时网络上涉及他形象和声音的假视频在网络上传播的至少还有十几条。

道理都懂，但是给老人讲清楚又是另一回事，难度堪比解释为什么有人花三十万买那个龇牙咧嘴的玩偶拉布布。甚至有博主专门拍摄用AI工具合成“乖孙”的视频，就是方便大家转发给家中老人。

辨别能力有限的不只有老人，更不只是中国用户。YouTube上一位忧心忡忡的用户就分享说，自己的孩子看了一则短视频，是关于“游乐场恶魔”的，吓得不轻。她不得不费劲给孩子解释什么是人工智能，最后干脆禁止孩子再用YouTube。

AI标识变为标配，无疑是对在这方面辨别能力有限的群体的一种保护。至少可以告诉他们，凡是有“作品有AI内容”这样的标识，就别信以为真。

当年轻人也无法识别AI内容

除了单纯地担忧家人之外，年轻人自己也会直接变成“受害人”。

爷爷奶奶用AI乖孙PUA你，都已经算小意思，尝过长辈用AI催婚的人才知道什么是真正的苦涩。

“妈妈说了这番话，我想结婚了”“不结婚的人以后有多惨”“人到中年最可怕的事是孤身一人”“不结婚的十大坏处”，不知道什么时候开始，各种催婚视频变成了老人的“嘴替”。

更魔幻的是，你从明显的掉帧，以及“穿模”的牙齿，惊讶地发现如今催婚视频都在用AI了——原视频也许只是一段普通的街头采访，被人用AI一处理，就成了对口型文案点读机。

好歹以前营销号的催婚视频还是真人拍摄，如今就只动动小手指用AI搞deepfake？更有甚者，直接用AI猫猫成亲视频配催婚文案，就连你家猫看了都得连连摆手，为自己的物种发声。

真把老实人逼没辙了，年轻人开始用“魔法打败魔法”。

轻则让AI支招紧急学习反催婚话术；重则用AI合成自己和光头大金链子油腻男拥抱的视频，骗长辈“已经找到对象了，勿催”；或者直接合成猫猫洗衣做饭的视频，下次长辈再问“不生孩子老了怎么办”，你只需要说“请看VCR”——谁用AI不是用啊，年轻人还能自己制作，直接让自家猫猫上场。

不过在和家长斗智斗力的过程中，都还是愤怒的对抗，毕竟那些催婚视频，不管是猫猫结婚还是路人被对口型，都还是和老年人爱上的“AI乖孙”一样，是一眼假的视频。

当十级冲浪选手发现，连自己都会开始分辨不出AI视频和真实视频的时候，这一切才真的变成赛博恐怖故事。

这就不得不说到“袋鼠登机”视频了。今年5月，一则视频走红网络，获得百万点赞。视频中一位女士正在和工作人员理论，她们中间站着一只袋鼠，手里握着登机牌，一脸无辜地看着镜头。

由于没有明显的光影、动作、肢体硬伤，袋鼠的表情又实在惹人怜爱，很多人压根就来不及想“袋鼠能不能坐飞机”的问题，甚至注意不到女人挥舞的手露出了破绽，就冲到评论区疯狂键入“好可爱呀”。

最后发现小丑竟是自己，这是一则AI视频，甚至引来多家媒体帮忙辟谣。

不过在那之后，第三方视频还在转发这则视频，而评论区依然有“蒙鼓人（被蒙在鼓里的人）”。

这种事儿对年轻人的打击无疑是巨大的，上午还在跳脚“这么假的AI视频你为什么要相信”，下午就发现自己也分不出来：我三岁玩iPad，五岁玩电脑，十二岁就已经是冲浪满级选手，结果发现AI视频是不长眼的，作为人类的自信心是没有的，真与假的界限是模糊的。

好在AI标识来了，袋鼠再可爱，也别想骗我。

AI标识成标配，真的很有必要

AI的能力越来越强，真与假的界限在屏幕里逐渐变得模糊，人为划清这道界限就显得尤为重要。

这并不容易。

正如刚刚开始实施的《办法》，强制规范，AI生产商、平台、用户三方共同努力，意味着不留“视情况遵守”的灰色地带，也不留“猫鼠游戏”的空间，这样的力度在全球都实属罕见。

比较相似的是韩国和西班牙，前者有人工智能框架法，后者有AI标识要求，都是在今年年初的动作。

欧盟动作比较快，2024年正式公布《人工智能法案》（EU AI Act），不过这是一个针对AI比较大、全的法案，核心是人工智能规制分级管理，将人工智能系统分为“禁止类”“高风险类”“有限风险类”与“最低风险类”，并据此提出差异化监管要求。目前法案还在逐步铺开，强制标签要求可能要到2026年生效。

而且这个法案并非没遇到阻力，如8月，美国科技巨头就是不是要自愿签署《通用人工智能行为准则》进行了表态，Meta就明确表示拒绝。

在美国本土，至今还没有关于AI标识的全国性法规，部分州（如加州）有强制标签要求，但联邦层面仅有指导性的意见，而科技公司如OpenAI、谷歌、Meta等是自愿支持AI水印、AI标识等措施。

“自愿”可靠吗？

在非强制性监管的环境之下，AI标识的落实也好，AI内容的控制也罢，确实不尽如人意。

最典型的就是谷歌旗下视频平台YouTube的乱象。

虽然谷歌自己的Gemini模型早就自愿加入“打水印”的行列，但是在YouTube这个平台上，AI短视频泛滥已经到了夸张的程度，周排名里前几的短视频总是AI视频，尤其是儿童频道，简直就是重灾区。

这些AI短视频有的是蹩脚和无意义的，有的是猫猫狗狗配上狗血短剧剧情，还有的是生成的诡异生物/怪物在飘荡，而最引人担忧的则是AI短视频讲历史讲科学知识，但是错误百出。而且不少AI视频账号，会重复上传十几条相同的视频。以此来多赚流量激励。

这背后当然是利益驱使，曾有人在Medium发文，表示利用AI短视频，5天就赚了5000美元。

而AI内容的泛滥，势必会挤压人类创作者的生存空间，已经有不少YouTuber制作视频讨论此类乱象，呼吁平台治理。

虽然YouTube已经表态会打击大规模生产的、重复的AI短视频，但是目前YouTube Shorts仍然有乌烟瘴气之感，并没有从根本上解决问题。

更值得玩味的是，YouTube在8月底还陷入了另一场争议。

有创作者发现，自己的短视频上传到YouTube Shorts之后，质感变得很奇怪，貌似变得更清晰了，但是边缘过度锐利、画面有诡异的平滑感、阴影格外明显……换句话说，明明是真正的人类视频，却莫名其妙变得很“塑料”，就像AI视频一样。

但是同步分发到Instagram（Meta旗下社交媒体）的短视频并没有异常，因此怀疑YouTube擅自为短视频做了AI增强。本来AI短视频泛滥就很烦人了，真人视频也强行被AI过了一手。

这件事也已经被多家美国主流媒体报道，基本上是实锤了。

用AI功能赋能创作者是一回事，不打声招呼偷偷摸摸给统一加上一层“AI滤镜”是另一回事，也难怪YouTuber都很生气。

“我不喜欢我的视频变成这样，我更不希望我的粉丝误认为我开始做AI视频了。”

YouTube的这两件事（AI短视频泛滥和偷偷做AI增强）暴露了一个很大的问题——AI的规范只被当作科技公司的“自愿”行为，是远远不够的。

尤其是既做面包又卖面包的科技巨头，是有原始动力多加糖、多做、多卖的，尽管它在宣传的时候要大谈健康。

未来AI视频的数量恐怕只会越来越多。

分享两个数据。

一个是Twicsy.com的一项研究，称人类影响者目前的平均收入是AI影响者的46倍。这主要是因为AI内容在真实性、情感连接和信任方面仍有差距，导致赞助和广告收入较低。

46倍感觉是人类大胜，但是转念想想人类制作视频的投入水平，和AI视频的投入水平（以创作者来论），这个差距不是太大，反而是小得可怕。

另一个数据是，Business Insider的2025创作者市场报告显示，整个创作者经济（包括AI生成内容）在2025年已达250亿美元，比2022年的164亿美元增长了52%。KBV Research的报告预测，虚拟创作市场（包括AI生成的内容创作者）到2030年将达到378亿美元。

如今我们是AI内容试图混入“真实”世界，在不远的将来，会不会反过来、我们需要在AI世界里挑拣“真实”内容？不好说。

《办法》正式实施，AI标识的难点仍然存在，“漏网之鱼”也总会出现，明显的AI标识甚至有可能依然阻挡不了长辈用AI视频催婚、老人对着“AI乖孙”憨笑。

但至少先把脚抬起来了，才能迈开步子。

本文来自微信公众号：直面AI，作者：毕安娣，编辑：王靖