在互联网上，奥运冠军的“声音”突然开始推销农产品，知名演员的“声音”24小时不间断在直播间与粉丝互动……声音是人们在社会交往中传递信息、表达情感的重要象征符号之一，当下正面临着从“一听就假”到“真假难辨”的严峻挑战，AI技术发展已进入了“深度伪造”的时代。

诈骗分子利用克隆的亲人声音实施电信诈骗，商业机构盗用明星声音进行虚假代言……这些乱象折射出一个核心问题：当声音的可信度被技术彻底解构，人际交往中最基础的认知方式正在失效。“当亲耳听到未必为真”，我们在享受着科技便捷的同时，亟待完善立法、强化技术监管、压实平台责任与社会监督等举措，构建综合治理体系推动AI技术发展回归“以人为本、智能向善”。

完善法律法规，明确AI技术应用红线。生成式AI技术的迅猛发展，使得虚假视频、音频、图文等内容极易生成，其滥用风险也日益凸显。为了追逐利益，一些不法分子不惜突破道德底线和法治红线。规范AI技术应用，需要建立健全相关法律法规，明确界定AI技术的使用范围、应用条件和禁止领域。通过清晰的法律规则为AI技术使用划定红线，将资本与创新的活力引导至那些真正能够解决人类共同挑战、增进人类尊严与福祉的方向。

强化技术监管，确保AI技术发展方向。随着AI技术深度融入生产生活，未经过授权和未进行标注的AI技术产品很容易引发公众误解，造成恶劣社会影响。治理AI技术“玩过界”，必须通过强化技术监管，为其铺设“善治”的法治轨道。要健全AI技术生成内容审核机制，提升技术检测能力，让人民群众真正享受到人工智能的发展红利。AI技术提供方也不能“置身事外”，需要完善运营规则，强化对源头素材的把控和对生成内容的全过程监管。

压实平台责任，凝聚社会监督合力。防范AI技术滥用风险，作为内容传播的服务提供者，短视频等传播平台必须切实履行主体责任。要建立AI技术生成内容的甄别和追踪的机制，强化主动监管意识，及时发现、处理可能涉及侵权的违规内容。相关部门应继续强化AI技术源头治理，严厉打击利用AI技术进行诈骗等违法犯罪行为。同时，要加强人工智能相关政策的宣传推广和人工智能素养的科普教育，引导社会各界正确认识和应用人工智能技术，不断凝聚治理共识。

凡事有度，过犹不及。历史上每一次技术革命的核心价值，都在于拓展人类能力的边界、提升整体福祉，而非成为灰色产业链谋利的工具。AI技术作为赋能工具，其应用必须有边界、有约束、有方向，绝不能无边界滥用。（尹永全、玉溪市红塔区融媒体中心供稿）