作 者丨肖潇
编 辑丨王俊，江佩佩
AI谣言泛滥！
4月18日，女星张馨予在社交平台发文，称有商家利用AI技术复制其声音售卖减肥药，引发关注。
据公开资料，过去一年，AI深度合成音视频侵权现象愈演愈烈。
张馨予称被AI复制声音卖减肥药
4月18日，女星张馨予发声：近期发现有品牌AI复制我的声音，未经授权编造剪辑广告视频，还有减肥药广告，我觉得这样的行为很恶劣。在此说明我从来没有推荐过任何减肥药，有商家利用AI技术非法剪辑投放广告，我一定追究到底。
评论区，不少网友表示自己此前也刷到过类似的视频，不仔细看很容易被骗。
张馨予曾多次因“减肥”相关话题登上热搜。
张馨予，1987年3月28日出生于江苏省苏州市昆山市，中国内地影视女演员。代表作品有《钱多多嫁人记》《非诚勿扰2》《神雕侠侣》《思美人》等。
AI谣言泛滥！不少明星卷入“AI合成”风波
据21世纪经济报道记者观察，目前网上不少内容，都由AI生成。
《哪吒2》员工愿意996是因为公司在成都分房、梁文峰在知乎上首次回应DeepSeek走红、80后死亡率突破5.2%……类似的信息正在占领互联网。它们看起来有精确的细节，但没有信息来源，仔细搜索后还有明显事实错误。
据公开资料，除了张馨予，还曾有不少明星成为AI伪造视频的素材。3月3日，有网友向演员刘晓庆反馈有人在视频号AI生成视频假冒她。
刘晓庆转发并配文：“天哪，我点进去看了一下，画面是我，声音很像我，但不是我！这是怎么做到的？大家以后不会搞不清楚哪个才是真的我了吧？我在各个平台都叫刘晓庆！”
此前，据公安部网安局3月14日消息，3月10日以来，一则“有顶流明星在澳门输了10亿”的信息在互联网平台传播，引发网民热议和各种猜测。
公安网安部门查明，网民徐某强（男，36岁）为博取流量、谋取非法利益，于2025年3月10日10时，使用软件“某书”中AI智慧生成功能，输入社会热点词制作了标题为“顶流明星被曝境外豪赌输光十亿身价引发舆论海啸”的谣言信息，并通过互联网平台对外发布，造成谣言迅速传播扩散，引发大量网民议论，诱发相关谣言、话题等频繁登上热搜热榜，严重扰乱公共秩序。
多家平台出手，情节严重将被封号
据21世纪经济报道记者梳理，针对未标识的“AI谣言”，3月11日微博宣布启动治理。微博社区治理官方账号发文称，治理的重点领域是社会民生、突发事件、科普医疗和个人权益，会对不同情况予以处置。
具体而言，如果账号的单条内容由AI生成且未主动标识，微博称会主动打标，提示“疑似由AI生成”；如果账号有多条AI内容都未标识，会限制流量分发；如果这些内容造成了恶劣影响，则会被禁言乃至封号。
21世纪经济报道记者在3月12日核查，目前要加上AI标识，微博用户需点击内容发布页右下角的“公开”权限，增加“内容声明”，选择“内容由AI生成”。发布后，该微博的时间栏会新增“AI生成”状态框。
AI谣言泛滥的问题不止微博一家碰到。除了微博，抖音、快手、微信、小红书、哔哩哔哩六家国内日活量最大的社交平台，都已要求用户在上传内容时声明是否由AI生成。
今日头条在近期的治理开放日透露了一组数据：去年打压了超过93万条低质AI内容，处罚了近3万个利用AI批量发布虚假、低质内容或恶意洗稿、抄袭的账号。
“我们能够非常直观地看到，AI技术对内容平台是一把双刃剑。对于创作者来说，AI可以丰富内容多样性，我们也在工作、生活等各种场合开始尝试用AI工具减负增效；但很多用户对新技术掌握不够充分，产出的内容也给站内生态带来了问题，包括滥用AI生产的劣质空洞内容、利用AI洗稿侵犯他人著作权等等。这些问题既损害了用户体验，又挤压了优秀原创作者的流量，严重损害了创作的公平性。”该平台一位负责人称，过去一年里，AI内容给平台带来了很大挑战。
该负责人指出，低质AI内容的典型特征是内容空洞、前后矛盾。与微博的举措类似，今日头条在收严对低质AI内容的审核力度，另外监测AI内容的整体流量占比，“评估处一个相对健康的水位，确保原创作者的空间，同时接纳合理的AI内容的存在。”
但前述负责人也在会上坦言，过去的治理重点是“用户能明显感知到的低质AI内容”，现在批量生产、难辨真假的AI内容成为新的挑战。
近一年里，已经有不少“AI内容农场”产业链曝光。2024年4月，陕西西安警方公布了一起AI造谣案件：涉案人员通过“翠绿笔墨”AI写作软件，将热门社会新闻重新拼凑、替换同义词，并批量生成内容，日均产量高达19万篇，流向6000多个自媒体账号，以获取平台流量分成。
2024年1月，南昌一家MCN机构因编造“西安爆炸”事件遭到警方调查。警方评估显示，负责人一共经营了5家MCN机构，运营账号842个，一天能AI生成4000—7000篇文章，全程基本不需要人工参与。经初步的估算，每天的收入在1万元以上。
科技自媒体博主阮一峰曾核算使用某国产大模型API批量生成文章的成本，一篇AI文章的成本是人民币0.00138元，也就是一分钱可以生成七篇文章。AI的成本之低、生产能力之强，再绑定流量变现的吸引力，可以通过“量大管饱”的方式迅速冲击互联网内容生态。
为AI内容加标识，是目前解决“深度伪造”“信息污染”等问题的主要措施之一，也是国内监管机构着力推进的方向。2023年8月开始实施的《生成式人工智能服务管理暂行办法》要求，AI服务提供者对图片、视频等内容进行标识。2024年9月，《人工智能生成合成内容标识办法(征求意见稿)》进一步要求，不仅是AI提供者，社交传播平台也需要添加明显的AI标识，区别AI内容和真实内容。
记者在年初时测试发现，平台里许多明显的AI内容并没有相应标识，实际执行效果不尽人意。微博此次指出，现在的治理难点是技术手段有限、法律滞后、公众认知分歧。接下来，计划结合AI检测、人工审核与用户举报机制，加强对未标识AI内容的主动识别。
今年2月，网信办发布2025年“清朗”系列专项行动通知，指出今年的重点会是整治AI技术滥用乱象，强化生成合成内容标识，打击借AI技术生成发布虚假信息、实施网络水军行为等问题。
AI换脸、拟声成违法重灾区，雷军呼吁立法
据21世纪经济报道此前消息，今年3月，小米集团创始人、董事长兼CEO雷军表示，这两年人工智能技术快速突破以后，出现了很多老百姓喜闻乐见的应用，比如AI换脸、拟声等，但任何一个人的脸和声音都能轻松被用来做各种视频，成了新的违法重灾区。
雷军3月4日公开了今年两会的5条建议，其中“加强‘AI换脸拟声’违法侵权重灾区治理”尤为引人关注，他表示，他本人就是AI换脸拟声的“受害者”。
你支持AI换脸拟声立法吗？评论说说
部分资料来自 @张馨予、公开资料
SFC
本期编辑 江佩佩
不会赚取最后一个“铜板”！金价狂飙，机构撤退？
刚刚，杭州重磅发布！4月21日起执行
AI真的那么靠谱吗？提问330次，平均准确率25%！近一半链接打不开
