Kaiyun·（官方定制）-中国大陆未来网站

　　打开手机看视频，已经成为很多人日常生活中不可或缺的一部分。不过，有图有视频，不一定就有真相，你刷到的短视频，内容很有可能是假的。

　　外国人熟练演唱中文歌曲、银发奶奶传授养生秘诀、氛围感女孩分享穿搭美学……据报道，互联网上，一些AI生成的视频关注度颇高，“细节满满”让很多网友信以为真，不少社交账号利用AI技术造假、博眼球快速“吸粉”起号，进而变现。

　　什么是起号，可能很多人不太清楚，简单地说，就是指在社交媒体或电商平台开设新账号，通过运营吸引粉丝、获取流量，最终实现商业转化。目前多个社交平台上都出现大量“AI起号秘籍”相关内容，这些AI生成内容多以俊男靓女、育儿百科、健康养生为主，大都低俗猎奇。一旦起号成功，这些账号就会隐藏AI引流内容，开始带货、卖课。有的账号还被明码标价放到账号交易网站上，形成了一条“起号、转型、转卖”的灰色产业链。

　　今年3月，就有媒体记者实测发现，市面主流AI工具仅需输入“明星丑闻”“社会冲突”等关键词，即可生成包含时间、地点、人物的“新闻报道”，配合换脸图片、篡改语音后，一条以假乱线分钟即可完成。某网络水军团伙甚至形成“搜集热点—AI编剧—真人出镜—多平台分发”的产业链，利用虚假内容收割流量返利。

　　那么问题到底有多严重？各位可以回想一下：这两年，名人被AI已成常态。“假靳东”迷倒一众大妈，“假雷军”辣评世间百态，种种乱象轻则为当事人带来困扰，重则催生诈骗案件。2024人工智能安全报告显示，2023年基于AI的深度伪造欺诈增长了3000%，若不能有效打击，这个数字必然会继续飙升。

　　有评论就说，当 AI 技术能精准克隆名人的声音与面容，当虚拟主播顶着明星的脸推销商品，当合成视频让“不存在的场景”看起来真实可信。可以说，这场由技术引发的信任危机，正在挑战法律与道德的双重底线。去年颁发诺贝尔物理学奖的过程中，也提到了要对AI技术加以肯定，更要重申科技伦理与责任的重要性。正如获奖者杰佛里·辛顿说的，科技界与社会必须共同思考，如何在推动AI技术进步的同时，确保它被负责任地使用。当然，这句话是他本人获奖后的亲口回应，并非AI生成。

　　怎么办？近几年，我国已相继出台《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等规定。今年3月，国家互联网信息办公室等四部门联合发布《人工智能生成合成内容标识办法》，要求对生成合成内容添加显式标识，在生成合成内容的文件元数据中添加隐式标识。一句话总结，就是要给所有AI生成的内容打水印。

　　Kaiyun客户常见的问题有哪些？

　　规定有了，就要严格执行，严惩伪造传播、牟取不法利益的侵害者。当然，对于爱看这些短视频的人来说，如果仅仅图个乐呵，那也没什么。如果你要有消费或者再次传播的冲动时，最好查查来源，核实发布者是否为官方认证账号；辨辨细节，AI生成内容常出现逻辑矛盾或时空错乱；用用工具，利用“AI内容检测平台”验证真伪；等等权威，对某些信息保持警惕，等待政府或媒体通报。