Instagram收紧AI生成账号标签规则，未标注冒用人物将遭限流

Meta旗下Instagram周一宣布调整AI生成内容的管理方式：原有的“AI创作者”标签将更名为“AI生成档案”，同时平台将限制未标注AI生成人物的账号触达。这项新政旨在解决用户屡屡遭遇“看似真人、实为AI”的账号所产生的困惑与挫败感。

Instagram在官方声明中表示，新标签的用途是告知用户，某个档案页面中出现的人物由AI生成或主要由AI辅助生成。平台强调，创作者使用这一标签不会被处罚，AI生成人物本身也不构成违规，真正会被限制的是那些使用AI人物却隐瞒不报的账号。

这种“人类错觉”带来的困扰已在社交媒体上存在多时。今年早些时候，《连线》杂志的调查发现，同性交友应用Goose在Instagram上投放了大量由AI生成男模特的推广内容，这些账号不仅发布照片，还通过私信引导潜在用户下载应用，数量超过二十个。

健康领域的问题更是要警惕。《纽约时报》曾在7月报道，Instagram上出现数百个AI生成的医生、治疗师和健康达人账号，他们向用户推荐保健品、作出医学建议，普通用户很难辨别其身份真实性。这类内容触碰的不仅是欺骗问题，还直接关系到用户的身心健康安全。

Instagram也明确划定了新标签的适用边界。使用AI编辑照片、润色文案、制作图形或其他辅助性创意的用户，不需要使用“AI生成档案”标签。只有档案主体人物本身是由AI生成或实质创作时，才需要标注。

这一区分在操作层面仍有模糊地带。AI修图的边界在哪里？“实质创作”如何界定？当生成式AI工具日益深入创作者的日常流程，标注线划在哪里，将直接影响大量内容创作者的合规成本。平台未来可能需要通过实际案例逐步澄清这些细节。

这项新政策公布前，Meta刚经历了一系列与AI和平台责任相关的事件。上个月，Meta因一款允许用户利用他人形象生成图片的AI工具遭到强烈反对，在用户抗议未经授权使用其公开内容后，公司下架了该功能。

上周，Meta就Facebook和Instagram对儿童及青少年影响的指控，与美国各州达成了180亿美元的初步和解协议。协议内容包括为青少年账号默认设置每日两小时使用上限、开启“夜间模式”、在上课时间屏蔽通知等限制措施。

两件事放在一起看，Meta正在同时应对AI内容信任危机和青少年保护压力。前者关乎内容生态的真实性底线，后者则直接动摇监管机构和家长对平台的信心。Instagram选择在这个时间点收紧AI生成账号的管理，既是对用户反馈的回应，也是面向监管环境作出的姿态调整。

但也要看到，新政策采用的是“限流”而非“删除”的方式，这意味着Meta仍然允许AI生成人物账号存在——只要明确标注即可。对平台来说，AI网红带来的互动量、停留时长和广告库存都是实打实的数据资产，完全清除并不符合商业利益。标签透明化是一种折中方案：保留内容供给，同时把辨别责任转交给用户。

对普通用户而言，“AI生成档案”标签能降低识别的成本，却无法消除所有风险。随着生成式AI技术门槛不断下降，社交平台上的AI生成内容只会更多，而不是更少。平台能做的是让标注规则更清晰、执行更严格，而用户也需要逐渐习惯一个事实——屏幕上那张微笑的脸，背后可能没有真实的人。

Instagram的声明没有给出新规的具体执行时间表。从“AI创作者”到“AI生成档案”，改的不只是一个名字，更是平台对AI内容态度的明确表态。AI重塑内容生态的进程中，如何在商业利益与用户信任之间取得平衡，仍是Meta乃至整个社交行业需要持续回答的问题。