来源：环球网
【环球网科技报道 记者 郑湘琪】“我正躺在病床上输液呢，能去我橱窗买个东西么？”“立春养生啊，最应该吃这些，包治百病……”短视频平台上，这样的情景屡见不鲜。然而，仔细观察就会发现，部分主播的表情与动作略显生硬，口型与声音时有不匹配，甚至还有些塑料感。
“AI靳东”“AI张文宏”“AI雷军”……迅猛发展的AI焕新了千家万户的生活，激活了千行百业的“动脉”，但却有这样一群不法分子滥用AI进行虚假宣传甚至诈骗。他们运用AI换脸技术，假冒知名人士、医疗专家，扮演“孝顺儿女”“苦情人设”进行直播带货，诱骗老年人购买一系列非必需商品，严重损害了老年人的合法权益。
第55次《中国互联网络发展状况统计报告》显示，截至2024年12月，我国网民规模中，50岁及以上网民群体占比提升至34.1%，其中60岁以上占14.1%，互联网进一步向中老年群体渗透。当银发族在数字浪潮中踉跄前行，如何帮助他们跨越“数字鸿沟”，远离AI“温情陷阱”？
“AI专家”们想掏空银发族钱包
2024年底，伪造的“AI张文宏”直播带货蛋白棒，不少老年人信以为真转发到家族群，一时销量近1200件。而这并非孤例，在社交平台搜索“AI”“保健品”“老年人”等关键词，一大批网友分享的真实案例随之涌现，一个收割“养老钱”的灰黑产业链已然形成。
在这些灰产“操盘手”花样翻新的“套路”下，治理的“工具箱”亟待扩容。今年全国两会上，全国人大代表，TCL创始人、董事长李东生表示，近年来，我国相关立法虽有关注这一议题，但已出台的规章制度尚不成体系，还不具备可操作的细则和明确的处罚标准。据此前报道，当前我国虽然制定发布了《生成式人工智能服务管理暂行办法》等多部规章政策，但监管仍滞后于AI技术发展。
而作为信息传播的重要载体，平台层面的监管尚存漏洞。知名经济学者、工信部信息通信经济专家委员会委员盘和林告诉记者，“AI降低了虚假内容制作门槛，但其实AI伪造带货视频的问题不在于AI，而在于发布者。利益驱使发布者实施违法行为，而平台对内容审核又不到位。很多平台能够用算法发现AI合成内容，那么这些漏网之鱼是如何送达老年人面前的？只能说，平台的监管精准度还不够。”
北京市康达律师事务所执业律师赵一翰也谈到，部分深度合成服务提供者没有遵守《互联网信息服务深度合成管理规定》第十六条及第十七条，未在相关的信息内容上添加标识以向用户提示深度合成情况。另一方面，AI换脸技术开展直播带货的行为发生频繁且数量巨大，直播平台若缺乏高效的技术识别手段，将很难短时间内全部审核完毕，这就会导致老年人容易暴露在AI伪造带货视频下。
同时，更不容忽视的是，作为互联网“原住民”，很多年轻人早已练就出甄别AI生成内容的“火眼金睛”。而银发族“触网”较晚，对网络技术和规则了解有限，风险防范意识相对薄弱，更容易被情感绑架、权威背书等手法精准击穿心理防线。
如何让“数字鸿沟”变为“护老屏障”
面对AI滥用“坑老”的困境，多方为银发族共筑“防火墙”已成共识。从顶层设计来看，2025年全国两会期间，多位代表委员呼吁立法整治AI“换脸拟声”。
比如李东生代表建议，加快人工智能深度合成内容标识管理规章制度的出台，明确对人工智能深度合成服务商未履行标识义务的惩罚制度，完善未按要求进行标识的行为界定、分类细则，以及相应的处罚标准。加强深度合成内容标识技术标准和发布的管理，保证标识的有效性，对相关内容平台出台要求，用户在发布深度合成的视频、音频等内容时，有义务对其进行标识。
令人感到欣慰的是，就在近日，国家互联网信息办公室等四部门联合发布《人工智能生成合成内容标识办法》。据悉，办法聚焦人工智能“生成合成内容标识”关键点，通过标识提醒用户辨别虚假信息，明确相关服务主体的标识责任义务，规范内容制作、传播各环节标识行为，将于2025年9月1日起施行。
此外，压实平台方的审查责任、加大对通过AI伪造视频发布者的惩处力度也势在必行。盘和林强调，“现如今我们应该有一条大原则，那就是虚假的AI换脸视频，谁发布，谁承担责任。当然，如果AI换脸并非是恶意，那么这属于当事人双方之间的范畴，但如果明显的以AI换脸获利，那么这就应该是警方需要介入的案件。个人认为，要从重从快处理此类案件。平台也需要通过新技术和人工审核结合的方式，对内容进行有效审核。”
更重要的是，如何帮助老年人增强“防骗免疫力”？赵一翰认为，可以通过社区宣传、反诈APP案例推送，提升老年人对AI换脸技术开展直播带货行为的警惕性以及对AI换脸技术的辨识能力。老年人及亲友也应提高自身维权意识，在发现AI换脸技术开展直播带货行为存在虚假或误导性宣传时，可及时向平台或相关部门举报。
公安部网安局用四个关键词教网友如何识别AI谣言，即查源头，警惕无明确作者、无正规信源的内容；看细节，观察手指数量异常、光影不自然等，注意口型与声音不同步、背景模糊扭曲；验逻辑，AI生成谣言常出现时间矛盾；用工具，通过权威渠道进行查证。“查源头”“看细节”“验逻辑”“用工具”四大法则同样适用于老年人防骗场景，值得银发族学习。
科技进步与人文温度从来不是对立命题。当AI一路狂飙，我们也该慢下脚步，让老年人不“掉队”、不迷失。随着AI合成技术不断消解真实与虚构的边界，人类唯有将科技向善的基因注入算法肌理，方能守护数字时代的每一份信任与尊严。而相关部门、网络平台、亲友及全社会的合力“围堵”，正是抵御这场银发族“AI围猎”的最坚实盾牌。