Kaiyun·(官方定制)-中国大陆未来网站

18568522466
当前位置: 首页 > 行业资讯 > 公司新闻

警惕!别被“智慧老人”割韭菜

2025-05-06 14:37:25 小编

  

警惕!别被“智慧老人”割韭菜(图1)

  前不久,“天坛大爷”的视频被不法分子盗用,经AI合成技术篡改后带起了货,这给老人的生活带来了极大困扰。记者调查发现,在短视频平台上,炮制老年类AI短视频成了一条快速起号的捷径。这些AI生成的图片、声音、视频让老人难辨真假。在嘈杂的网络环境中,应该如何进一步规范AI的使用,帮助老人在AI世界里擦亮眼睛呢?

  “刷到这条视频的你有福了”“奶奶有些真心话要对你说”……在短视频平台上,活跃着这样一些账号,他们自称“智慧老人”,以过来人的口吻说一些心灵鸡汤、人生哲理,就能获得不少点赞。

  在某个“智慧老人”的账号下,制作者一共发布了109条作品,目前已获赞23.2万,其中点赞量最高的一条视频获得了15.8万赞。这些高赞视频只有短短几句话,主要是讲一些大道理,例如“脾气越好福报越大”“用言语伤害他人是最愚蠢的行为”等。在其中一条高赞视频下,有3000多条评论。评论区中的用户头像显示,给这些视频评论的大多数是老年人。

  仔细端详,这些仙风道骨的“智慧老人”在说话时表情僵硬,与真人说话的神态有着明显区别。原来,它们只是用AI模板生成的“数字人”。在播放过程中,有的视频会在页面下方显示一行平台标注的小字,称该视频“疑似使用了AI生成技术”“可能在现实中不存在或未实际发生”,并提示观众要谨慎区分。而视频制作者却没有作出任何说明或解释。

  记者发现,这类面向老年人的AI短视频,如今已经成了一条“新赛道”。在电商平台上,有商家专门兜售AI数字老人的制作教程,并宣称:“AI数字人项目‘老人言’,轻松月入一万”“中老年养生赛道,单人可做”。

  有博主称,用AI制作这类视频,高频次更新到网上,就能迅速涨粉起号。待粉丝量达到一定数量后,就可以开始接保健品、中药材的品牌推广单,售卖泡脚桶、五红茶等养生产品,或是索性开通付费课。

  令人惊讶的是,这些教程只需要几元钱就能买到,最便宜的居然只要一分钱。记者下单了一份“老人言教程”,卖家很快就发来了资料包,里面包含视频、图片等内容。

  这份教程不但详细介绍了制作AI短视频的准备工作、制作技巧、变现方式等内容,还提供了不同类型“智慧老人”的模板。记者看到,这些“智慧老人”有仙风道骨的世外高人,有博学睿智的老教授,还有八块腹肌的“健身老人”。但无一例外,它们都是由AI生成的虚拟形象。

  如果不想用资料包里的模板,还能生成自己专属的“智慧老人”形象。在AI绘图软件中,输入“中国男性老人、白胡子、坐在田地里”等条件,就能立刻生成一个饱经风霜的老农形象。在数字人制作软件中,导入刚才制作的AI图片,输入文案,选择“智慧老者”音效,点击生成视频,只需几分钟,就能让“老农”动起来讲各种人生大道理。虽然这些数字人的AI痕迹都很明显,但大部分老年人难以分辨。

  教程卖家表示,学会了制作“智慧老人”,就可以轻松变现。“收益包括视频播放的收益,也可以通过商品橱窗售卖一些低单价的书籍或养生产品,还可以带徒弟。”一位卖家说。

  用AI“收割”老年人,已经不是什么秘密。在短视频平台上,还有人专门对这条老年人情感养生赛道进行揭秘:用AI生成保养有方的老奶奶,分享日常保养小秘诀;或者扮成中医世家,分享中医养生小知识,通过带货能月入两三万……

  这些AI生成的图片、声音、视频让老人真假难辨,而AI生成的变声换脸视频,则更让老人无法招架。

  “宝贝姐姐,你为什么不理我,我好难过……”在某短视频平台上,一个名为“不知道”的博主一连发了4条同样的视频。这些视频的文案虽然只有短短一句话,每条视频的点赞量却高达数百个。视频中,一名穿着西装、打着领带的男子坐在沙发上,俨然一位“成功男士”,其形象、声音都与演员靳东高度相似。

  点开短视频平台的“靳东”标签,一个名叫“按时吃饭”的博主发布了一段视频。“亲爱的宝贝姐姐,我已经顺利收到了你的消息,弟弟我真心实意感谢姐姐的喜爱与坚定支持……”在评论区中,老年人对这位嘴甜的“弟弟”热情回应,点赞、收藏的数量多达上千。虽然博主“按时吃饭”并未露脸,但显然不少老人把这位博主当成了靳东本人。

  视频最后,这位博主请求姐姐们点击主页排在最前面的3条视频,或者点开橱窗购买商品。记者看到,这3条视频都是带货视频,橱窗里也都是纸巾、洗碗巾、黑芝麻核桃桑葚粉等商品,有的商品销量已达百万件。

  近年来,不法分子利用换脸技术炮制“假靳东”“假马云”来蒙骗老年人的报道已经屡见不鲜,为何现在仍有那么多老人相信?

  “许多老年人孤独寂寞、缺少陪伴,一些人正是拿捏了这种心理。”北京律维银龄研究与服务中心的一位负责人告诉记者,老年人学会智能手机后,每天会用大量时间来刷短视频。有些年轻人稍加注意就能分辨的AI技术,老年人却往往无法分辨。基于算法的推荐机制,老人一旦关注了这些短视频,就容易越刷越多、停不下来。每天看,自然就会被“洗脑”,甚至会产生情感依赖。

  老年人被“假靳东”欺骗,“真靳东”也是受害者。在今年的全国“两会”上,靳东就表示,“一些喜欢我影视剧的观众,被AI换脸视频骗得很惨,这个性质非常恶劣,希望能建立更好的规则。”

  今年全国“两会”期间,小米集团董事长雷军提出的《关于加强“AI换脸拟声”违法侵权重灾区治理的建议》引发了社会关注。雷军在建议案中提出,“AI换脸拟声”不当滥用造成了违法侵权行为的重灾区,还易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为,甚至造成难以挽回的大规模形象和声誉损害,带来社会治理等风险。他建议,加快单行法立法进程,强化行业自律共治,压实平台企业等各方的责任和义务。他还建议,应加大普法宣传的广度力度,增强公众的警惕性和鉴别力。

  近日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》,明确要求对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识,以减轻人工智能生成合成技术滥用危害,防范利用人工智能技术制作传播虚假信息等风险行为,推动人工智能健康有序发展。

  一些公益组织也关注到了这一问题,开始尝试帮助老年人提高辨别能力。今年3月,科技助老公益组织“夕阳再晨”在学院路街道地大二社区开展了一堂DeepSeek科普课,帮助老人了解AI应用以及一些防骗知识。

  “我们面向老人开展AI课,更多的是希望把反诈的内容加入进去。”“夕阳再晨”志愿服务指导中心主任尤海凤表示,一些不法分子采用AI换脸、AI变声等技术,伪装成熟人诈骗,让老年人防不胜防。未来,“夕阳再晨”还将融合当前的AI热点进行新型AI软件的使用课程研发,促进科技助老事业与时俱进。

  老人爱刷手机、容易被骗,归根结底是因孤独寂寞。北京市慈善协会老友帮专项基金主任陈亚辉表示,随着智能手机的普及,老年人“网瘾”问题越来越突出。由于缺乏辨别能力,AI技术可能会造成新的“数字鸿沟”,对此应予以关注。

  “一方面我们要帮助老年人提高AI的一些基础知识,提高防骗意识;另一方面,我们也要提醒,家人一定要给老人多一些关注,对于老人多倾听,多进行高质量的陪伴,而不是回家看老人时,吃完饭就各玩各的手机。”陈亚辉说,老年人需要陪伴。

  记者注意到,随着各种AI应用的普及,一些年轻人转而利用AI技术陪老人聊天,帮老人打发寂寞时光。今年寒假期间,北京城市学院研究生罗挺利用AI工具“豆包”与自己的奶奶聊天,引发了网友纷纷效仿。

  在罗挺发布的视频中,奶奶兴致勃勃地举着手机与AI聊天,脸上堆满了笑容。从小时候没钱读书,到一个人拉扯大几个子女,老人对着AI讲个不停。而AI不但能够和老人聊得有来有回,还会停顿、叹气,语气也会跟着老人的讲述有所起伏,就像真人在倾听。视频发布后,很快就收获了超过50万的浏览量。在评论区里,网友们纷纷赞叹:“感觉AI比我还会聊天。”

  罗挺表示,奶奶今年87岁,因为长期卧床,缺乏陪伴,所以他才想到给老人找一个AI“聊天搭子”。但他也表示,老人缺乏对AI内容的分辨能力,需要家人给予更多关注,避免老人上当受骗。

  专家认为,利用AI陪老人聊天是一种利用新技术丰富老人晚年生活的有益尝试。不过,AI虽然功能强大,但毕竟代替不了真人,子女不能为了图省事而把老人丢给AI,AI虽然会说话,但不能代替爱。(记者 王琪鹏 张楠)

  5月4日16时40分许,贵州毕节黔西市新仁乡乌江百里画廊景区六广河水域遭遇突发大风发生游船倾覆事故。此次事故造成4艘船倾覆、84人落水。据新华社消息,5月5日12时45分,最后1名失联人员已找到,但已无生命体征。事故共造成10人遇难,70人尚在医院救治(无生命危险),4人未受伤。

  村干部回应“全红婵家人在老家建新房” 新房宅基地系其东京奥运会夺冠后 村里奖励给她的

  村干部回应“全红婵家人在老家广东湛江市迈合村盖新房”:新房宅基地是全红婵在东京奥运会夺冠后村里奖励给她的。全红婵妈妈“想在农村盖一栋楼房”的愿望实现了,恭喜!

  美国取消对中国小额包裹免税政策正式生效 财经老王:小额包裹涨价风暴让美民众心寒

  美国取消对中国小额包裹免税政策正式生效·财经老王:小额包裹涨价风暴让美民众心寒。

  父亲与小33岁已故儿子女友再婚,新婚妻子:不想要财产,结婚是为了防止老人被送至养老院

  近日,佛山顺德86岁的标叔,与已故儿子的女朋友——小33岁的王女士登记结婚,引发女儿覃女士不满,覃女士多次来到父亲居住的房屋,做出撬门、砸锁、剪电线等一系列破坏行为。

  Kaiyun的用户回馈和满意度如何?

  北京时间5月6日,斯诺克世锦赛决赛第四阶段比赛结束,中国选手赵心童总比分18比12战胜马克・威廉姆斯夺得冠军,成为中国首位,也是亚洲首位斯诺克世锦赛冠军,创造了斯诺克运动的历史。赵心童以17比8的比分领先威廉姆斯,拿到赛点结束第三阶段。

  “我让你来得了 回不去!”歼-16在南海亮剑 与美军机缠斗近50分钟#看台海

  浙江胖都来负责人再回应命名问题 公司会统一发声。目前正常营业,系服装卖场和日用百货,消费者:通过工商正常注册的应该就不涉及侵权了,双方的经营模式也不太一样,商场开业时多位明星发来祝贺#胖都来 #胖都来开业 #胖东来

  硬核报恩感动全城!10万块遗忘在店内,老板拒收万元酬谢,失主喊来了70人的舞狮队

  5月1日上午 ,锦旗、横幅、鲜花,乐队演奏还有舞狮表演,六七十人组成的感谢队伍出现在国际城小区一家名叫“平民肠旺”的粉面馆门前,好不热闹。

  五一最先被骂的景区出现了,不是拥堵的重庆,纷拥而至的八达岭长城,不是商业化的鼓浪屿,而是湖南的张家界。取材网络今年五一假期第一天,张家界突然“火”了,不过不是因为风景,而是被游客吐槽“挤到崩溃”。

联系专业的商务顾问,制定方案,专业设计,一对一咨询及其报价详情
服务热线服务热线 18568522466
免费互联网咨询服务

联系我们 contact us
18568522466