互联网平台现状：鼓励AI，限制AI

本文由 新莓daybreak 撰写/授权提供，转载请注明原出处。

以下文章来源于：新莓daybreak

撰文：何聆筝

编辑：翟文婷

一场针对 AIGC 作品的限制，正规模化地席卷各个平台。

一些 AIGC 创作者在小红书拉起群组，分享自己被限制的经历。有人发布 12 星座内容被判定「传播封建迷信」，有人因为生成 AI 明星而遇到「侵权」提示。「虚构事件」和「假冒真人」是最常被引用的处罚理由。

同样的情况也发生在视频号和抖音，大量 AIGC 作品遭遇下架和封禁。作品即便不被封禁，也会被限制流量曝光和商业权益。

许多人推断，这一轮监管可能与 9 月 1 日即将实施的《人工智能生成合成内容标识办法》有关。该《办法》要求所有 AIGC 内容需添加显式标识（如文字提示、角标、语音声明）和隐式标识（如元数据、数字水印）。

不过依然有创作者反映，标注 AI 水印后的作品，还是没有被正常对待。

鼓励 AI 创作的同时，也在限制 AI。

平台的这种矛盾心理让创作者迷茫，困惑。他们不是明知故犯，挑战规则，只是不知道边界和红线到底在哪，未来不知何去何从。

频繁踩红线？ 

AIGC 创作者林聪最近有点烦。

她发布在视频号的两个 AI 人物视频，因为被判定非真人出镜，视频推荐、私信和评论能力直接被停用。

按照要求，林聪详细提交了个人身份验证，选定 AI 制作选项，提交相关手机制作截图。系统回复，信息不够详细，不能证明制作过程。

虽然她内心有些不情愿，还是按照提示，再次把 PC 端所有制作关键流程截图依序提交。这次验证通过，而且系统提示：之后发表 AI 制作内容，选择「内容为 AI 技术制作，虚构内容请谨慎甄别」等提示。

不过这次验证只是恢复了视频评论功能，若需恢复私信功能，需要删除所有 AI 制作内容后，再次提交申请。

删除作品等于擦除个人名片，这让她有些无法接受，所以至今她的私信功能都没有恢复。

即便如此，林聪的体感是，这波针对 AI 作品的监管风潮，视频号不是最严苛的平台。她告诉新莓 daybreak，「好像除了快手打上 AI 标识没什么影响，几个大的视频平台都在清查 AI 创作的作品。」

林聪不是个例。小红书关于 AI 限流的笔记数量超过 3 万篇。从流量曝光，商业权益限制，到产品被下架，涉及不同程度的封禁。

短视频平台风声鹤唳，网文圈的行动其实更早。

今年 2 月，晋江打出「反 AI」的第一枪，发布了《关于 AI 辅助写作使用、判定的试运行公告》，明确规定使用 AI 的边界。接着，起点、番茄小说宣布全面禁止 AI，要求作品必须 100% 人工创作。

网文平台整治力度之强，导致出现不少误判的现象。甚至评论区出现「感觉像是 AI 写的」，也有可能被编辑永久拉黑。

电商也加入行列，对「AI 假图」进行整顿。

3 月 27 日，淘宝修订了《淘宝网商品发布规范》和《天猫商品发布规范》，对「商品失真」做出明确的拓展解读。其中一个重点的指向，便是利用 AI 等技术合成方式，呈现显著失真的与实际不符的商品信息效果图。

整治力度空前，大有「宁杀错不放过」的决心。

AI 原罪？

过去两年，在「AI 暴富论」、「超级个体」的叙事逻辑下，「一键生成」的内容迅速在互联网泛滥。

有人利用 AI 卖课，有人利用 AI 数字人贩卖三无产品。淘宝上，大量AI生成的卖家秀误导消费者购入，结果到手商品与图片严重不符。AI 乱象，AI 污染的声音不绝于耳。

据林聪观察，这一轮 AI 内容治理中，打击较多的是同质化、低原创性内容。「现在有了 AI，谁家的内容火了，大家就会快速大量地复制。」

一个典型的例子就是今年过年期间《哪吒》爆火后，抖音出现了大量跟风制作哪吒的现象。而这类题材往往使用的都是相似的提示词或者同一个 Lora 生成的内容。

AI 也让一些机构的起号成本变低了，利用 AI 工具一天内可以生成了上百篇引发矛盾对立的笔记。小红书去年三个月里处置了超过 100 万个黑灰产团伙，均为通过超大规模矩阵生成同质化内容。

为此，抖音从算法层面切入，将「原创识别率」纳入核心指标，AI 生成内容若未标注或存在同质化「如重复率超 25%」，会被判定为低质内容。而视频号则明确「禁止批量发布通过近似的情景、文案、元素等编造的同质化内容」。

平台重点整治的另一个方向便是，虚构真人形象和情节虚假夸大。

从平台的角度，这一点不难理解。毕竟小红书以「真实分享」为社区根基，视频号则要保障社交关系链中的信息可信度。

这也是为什么，小红书去年就着手研发基于「分类器」技术的 AI 识别模型，对识别为疑似 AI 生成的内容进行标记。为了巩固效果，小红书还设置了机器识别与人工审核的双重屏障。

站在创作者的角度来看，这有些无奈。

因为「真实」这一特质天然就和 AIGC 背离，人物本身就是虚构的，情节自然也是虚构，所以这更像是贴附于自身的「原罪」。

平台为「真实」所设立的门槛，还引发了另一个层面的「不公」：比起真实题材的视频，AIGC 的审核标准更为严苛。

半职业 AIGC 创作者蓝心的作品最近也遭遇了违规提示。在小红书上，她曾先后发布了一系列真实的王一博的照片和 AI 生成的王一博视频。如今，前者仍挂在她的主页，而后者已经被平台要求删除。同样的题材，因为是由 AI 生成，便得到不同的判定结果。

值得一提的是，当下所有 AI 视频工具都在强调「真实感」。比如可灵的物理规律模拟、大幅度运动生成，比如即梦的质感提升、动作模仿，一切都在强调自身生成的效果接近真实。

从结果看，平台不希望创作者利用 AI 复原人物真实感，假如 AI 创作一只小猫、小狗，做出真实感，应该是会被接纳的。

未来何去何从？

AI 创作内容被严格限流的同时，各平台的 AI「军备竞赛」却是日趋白热化。

3 月 19 日，小红书才刚为旗下的 AI 应用「点点」上线了新入口，位于消息页面，且支持深度思考模式。几天前，字节开启了「即梦 3.0」的灰度测试，该版本在分辨率上提升了 50%，生成速度提升了 30%。

更方便的入口、更新的版本、更强的性能，这些平台投入了大量资源，推动了 AI 工具的发展。目的是为了抢占下一代内容生产基础设施，将创作者绑定在自身生态内。

但当大量创作者开始使用 AI 工具，并且涌入 AIGC 这个领域，平台却缺少一套清晰的规则和审核标准来承接，这让质疑声频出。

有人说平台使劲拉人给 AI 工具做任务，搞了特别多相关的比赛和活动，然后大规模封禁，是一种诱导；也有人也说 AI 给平台带来不了利益，影响真人主播的收益，趁着政策出台，正好「一刀切」比较痛快。

平台既扮演 AI 工具提供者，又承担内容审核者角色，这种双重身份本身就是一种挑战。

有些平台甚至还在主动催生矛盾，比如番茄小说为了训练自己的 AI，在签约协议中曾新增 AI 训练条款，引发过大量作者抵制和不满。

自 2023 年生成式 AI 广泛运用以来，伴随 AIGC 作品而来的就是诸多质疑和限制。知名如 AI 绘画作品《太空歌剧院》，曾两次进行版权申请被拒绝。

AI 作品不仅版权上得不到正名，「同行」之间的关系也愈发紧张。大量传统内容创作者竖起了「反 AIGC」的旗帜。这也使得 2024 年一款名为 Cara 的反 AIGC 社交产品，开始频繁登顶美国 App Store 的下载榜单。

小红书上也形成了一种「反 AIGC」的氛围，创作者唐飞对此感到无奈，「一些用户看到 AIGC 作品就会点举报，特别是绘画圈的那群人。」

除了社会和法律法规层面的不被认同，对大模型厂商，AIGC 还意味着一种危险：用 AI 生成的数据去训练 AI 超过 5 次，模型性能会大减。莱斯大学和斯坦福团队的研究人员将此称之为「模型自噬障碍（MAD）」。

而当下的中文互联网，AIGC 作品正在走向泛滥。在已经公布数据的平台中，微信视频号 AI 生成内容占比已经达到了 30%。

其它平台上，AI 生成内容也肉眼可见地攀升。这一次封禁，小红书上的一条评论得到了高赞：这是好事，每次搜资料搜素材出来全是大批大批的 AI，想找到正经参考的都难。

大刀阔斧砍向 AIGC 的平台，有点像是在治理一场数字领域的「蝗灾」，目的不是为了「灭绝」，先从整体数量规模上减少，再从生态环境中防治劣质内容的生产。

面向未来，AIGC 创作者又该何去何从？

有人总结了一条「532 法则」，即：50% 的人工，原创案例、真实情感、独家观点；30% 的 AI，数据整理、框架搭建、标题优化；20% 的工具，用 ContentAny 等去除 AI 痕迹。

但这些经验是否奏效，谁也无法保证。又或者说，当下奏效的经验，几个月后是否依然可行，没人知道。

所有人都要习惯这种不确定性。

扫码关注公众号

获取更多技术资讯