18568522466
近年来，随着人工智能向经济社会各领域加速渗透，AI技术滥用风险日益凸显，不仅扰乱网络环境，甚至被用于实施诈骗活动，成为违法侵权重灾区。今年4月30日起，为期3个月的“清朗·整治AI技术滥用”专项行动在全国范围内展开。
专项行动旨在强化AI技术源头治理，清理整治违规AI应用程序，加强AI生成合成技术和内容标识管理，推动网站平台提升检测鉴伪能力，整治利用AI制作发布虚假信息、实施侵权违法行为等突出问题，努力营造清朗有序的AI应用网络环境。
AI技术是一把双刃剑，既带来了便利，也埋下了隐患。随着全民AI时代的到来，及时理清AI技术滥用乱象之下的底层技术逻辑，对于规范AI技术服务和应用、促进技术向善、保障社会公平正义具有重要的现实意义。
AI仿冒名人侵权现象愈演愈烈，AI生成虚假信息扰乱传播秩序，AI预测彩票骗局已有多人中招……我们不禁要问，为何AI技术滥用的门槛如此之低？
从发布吸引眼球的谣言信息，到仿冒名人学者、知名企业家，AI技术成了自媒体博主收割流量的工具。近日，天融信科技集团网络安全专家接受央视采访，揭秘AI仿冒视频合成原理，提醒广大网友警惕仿冒名人的诈骗行为。
目前网络上多数AI深度合成的工具都是开源软件，使用起来没有门槛，要仿冒任何一个人的过程并不复杂。采访过程中，天融信科技集团网络安全专家吕硕解释了数字人制作的底层逻辑——首先分析人的面部表情、手部动作以及声纹，然后使用相应的技术框架进行克隆识别，最后根据输入的文字内容生成相应的语态，模拟出人物的面部表情以及动作，生成一段与之高度契合的视频内容。
吕硕指出，应用AI深度合成大模型来制作仿冒别人的短视频，只要有一段声音、人物清晰的视频就能操作，而且整个过程仅需5-10分钟就能完成。采访现场，吕硕采集了记者的画面，通过AI合成技术制作出了带货矿泉水的“记者数字人”。
天融信科技集团网络安全专家潘季明认为，目前很多AI大模型采用开源模式的初衷是共享协同的创新协作模式，其根本目的是为了降低创新门槛，避免重复冗余的开发，加速信息技术的更新迭代。一旦被滥用，则会带来严重的负面影响。
因此，他建议开源模型要对使用者进行一定限制，从技术角度来讲，可以在发布开源软件过程中，强制添加一些无法去除的水印，或者在原数据上打上标记，也可以在生成内容的时长或清晰度上做出限制。
防范AI深度合成音视频侵权，也可以利用AI技术来对抗跟检测AI。今年2月，天融信科技集团副总裁、中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧接受央视采访时提到，“当前有一些典型的AI技术，能够对AI生成的图片或者音视频进行检测，来判断或者分析是否为后期加工和合成的。”
在全民AI热潮下，很多人养成了有问题拿起手机问AI的习惯。今年5月，有网友通过AI软件提问得出宁波交警抖音号注销的原因“主要与一起交通事故引发广泛关注有关”的结论，并分享至社交媒体，导致舆论进一步发酵，后宁波交警辟谣称信息不实。
那么，AI生成内容为什么会出现传播虚假信息、干扰传播秩序的问题？从技术角度来讲，现阶段网民普遍接触到的AI软件本质上是一个概率计算器，而不是真正的思考者，其原理可以分为喂数据、学规律和做推理三个步骤。
但是对于超出知识库的问题，这种技术则会容易出现AI幻觉，也就生成了貌似合理连贯但同输入问题意图不一致，与现实或已知数据不符合或无法验证的内容。现阶段的AI幻觉难以完全被消除，但可以试着缓解。
薛智慧在接受央视记者采访时谈到，当使用AI软件生成内容时，可以从三个方面进行重点关注：
技术本身没有善恶，关键是看人怎么用。薛智慧进一步建议，可以从用户层面让民众了解AI生成内容的原理，学习辨别虚假信息；在平台层面，AI软件服务商应建立严格的审查、检测、过滤等制度；在社会层面，建议出台相关政策制度，规范AI的使用等多个方面去考虑。
数据显示，2025年一季度全国彩票销售额1326亿元，同比增长了15.7%。与此同时，“AI赋能”的目光也瞄准了彩票，网络上出现了很多“AI预测彩票号码”的视频。
有人说，“AI可以破解彩票规律，预测彩票号码。”有人说，“只要购买预测服务，就能轻松赚百万！”也有人说，自己确实通过AI预测的彩票号码中了奖。那么，AI真的可以预测彩票中奖号码吗？AI到底是通过什么原理、如何给出的彩票号码？
薛智慧分析指出，通过AI算法生成彩票号码的技术原理使用了数据分析、模式识别、概率统计等多项技术。
更进一步分析，从技术角度讲，AI主要是通过学习历史数据的规律来生成号码，而生成彩票号码是一个高度随机的过程，理论上没有预测的模式。因此，通过AI生成彩票中奖号码是不可行的，根据AI给出的号码中大奖无异于痴人说梦。
事实上，AI换脸换声、AI生成虚假信息、AI预测彩票骗局，不是AI技术自身的问题，而是AI技术被滥用的问题。当前，AI前沿技术正处于高速发展时期，其应用场景也日趋多元，防范AI技术滥用已由个体权益侵害演变为系统性社会问题。
2022年，国家网信办、工信部、公安部联合发布《互联网信息服务深度合成管理规定》，要求任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律行政法规禁止的信息。
2023年，国家网信办等七部门联合发布《生成式人工智能服务管理暂行办法》，规定不得利用生成式人工智能服务生成虚假有害信息、从事违法活动。
2025年，国家网信办等四部门发布的《人工智能生成合成内容标识办法》提出，对AI生成合成内容要进行标识，以便公众识别和区分，防止误导性信息传播。
“防范AI滥用需要构筑多方联动的治理网络，从法律、行业、平台和公众等多个层面综合施策。”天融信科技集团副总裁、中国计算机学会计算机安全专业委员会委员吕延辉在采访中指出。
应进一步完善相关立法，细化AI技术使用的各项法律条款，明确滥用AI技术的定义和责任，同时加强执法力度。
应推动人工智能行业组织加强自律管理，制定相关标准和规范来约束AI技术开发和应用，减少不法分子利用AI技术进行诈骗的机会。
需要平台企业严格依照国家网信办发布的《网络信息内容生态治理规定》，履行信息内容管理主体责任，建立健全内容审核和投诉举报机制，并结合应用适当的技术手段，及时发现并依法处置虚假宣传和欺诈行为。
增加公众对AI技术健康使用的认知和理解，消除公众对“技术捷径”的幻想，提升公众的防范意识。
我国相关法律法规明确规定，未经授权，任何组织或个人不得深度合成制作发布他人信息。使用AI深度合成技术，制作出售名人的音视频，将构成侵权行为，应该承担相应的法律责任。
随着AI技术的快速发展和广泛应用，遏制AI技术滥用风险，促进AI技术向善，已经成为全社会的共同责任。天融信将与业界同仁一道，携手构建安全可信的AI生态，让AI技术真正成为推动社会进步的普惠能量。
注意啦!大型灯光秀来了!整整一个月。一天演3场。免费观看。地铁2号线。北陵公园站B口。出来就能到达哦。
湖南怀化直达四川泸州，终于找了一趟货离开了#货车司机#抖音记录美好生活#货运行业#记录我的拉货日常
不开特惠没单，开特惠全是垃圾单 这是多少司机困扰的问题今天分享三个小方法#滴滴出行 #网约车平台 #网约车司机 #网约车那点事
本轮以伊冲突已暂停数日，以色列军方6月27日对伊朗军事行动进行总结称，以军已全面达成甚至超额完成作战目标；伊朗继续对与美国恢复核谈判持消极态度；美总统特朗普当天扬言考虑因铀浓缩问题再次轰炸伊朗。
近日，海南省三亚市中级人民法院的一则布告显示，已经对故意杀人犯李某某执行了枪决。根据布告内容，李某某1997年出生于山东威海。2023年1月20日，农历腊月二十九，李某某与21岁的女友潘某在海南三亚旅游期间，因购物等问题在三亚湾某酒店房间内发生争吵厮打。
本年度的北约峰会定于当地时间6月24日至25日在荷兰海牙举行，而通过美国总统特朗普设定的最新军费标准，即达到国内生产总值的5%，被认为是本次会议的首要任务。
别以为都是夸张，当下的中东乱局，我们不得不说，就在10天时间里，曾经能人辈出的伊朗，至少被美国骗了三次。
天融信科技集团创始于1995年，是中国领先的网络安全、大数据与云服务提供商。
服务热线 18568522466 