莫让人工智能“高颜值”遮蔽“真问题”
继机器狗等智能设备进驻政务大厅后,“政务龙虾”智能体也悄然下场,正掀起一场治理革命。这场治理革命看似抢抓新质生产力发展机遇,将人工智能技术赋能政务服务,展现了政务服务“高颜值”,但暗藏不容忽视的风险隐患。
要警惕技术开发的“安全盲区”。深圳福田发布AI数智员工2.0,率先部署“政务龙虾”智能体,实现了政务服务“当日提交,当日预审”。然而,不能只看到技术的便利性,要重视技术安全里面的“信任边界”和“自主决策权限”风险,不能将AI应用简化为“一键部署”,甚至默认配置为直接上线,把政务安全置于险境。要让智能体发展不仅“跑得快”,更要“走得稳”,必须明确技术服务只是辅助工具,对涉及大额资金拨付、行政许可发放等关键环节,保留人工复核的“一票否决权”,让决策主体永远是组织和个人。要探索建立算法备案、评估、审计机制,加快完善政务AI、算法应用法规和技术标准,划定技术“红线”,明确哪些场景可以授权AI政务决策,哪些场景必须保留人工干预,让AI技术的“信任边界”有法可依。
要警惕网络数据的“平安假象”。“政务龙虾”是安装、运行并持续优化AI智能体的过程,是能够执行实际任务的“数智员工”。当AI授权系统操控、文件访问及命令执行权限时,数据泄露、恶意攻击等风险会随之加大。因此,AI政务经不起网络攻击“一推”,但也不能因风险警示就否定AI政务的价值,也不能因工作便利就无视安全红线,要坚持效率提升和安全底线缺一不可,重点关注潜藏着的网络数据安全,把安全作为数字化建设的“一票否决”项,配齐配强网络安全人员,落实安全制度,明确岗位职责,同步落实防护措施,确保运行环境安全。要对关键信息基础设施单位必须设立网络安全官,实行严格分级分类保护,通过访问控制、加密存储、操作审计以及开展专项安全检查等措施,切实把网络数据安全抓紧抓实抓到位。
要警惕基层治理的“监管真空”。AI政务是政务数字化转型中数字技术红利和政务效率提升的新产物。因此,对于新产物要坚持“在发展中规范、在规范中发展”,提前开展调查研究,及时研究发展趋势和潜在风险,制定“包容审慎”的监管规则,既留足发展空间,又能防止新事物成为“脱缰之马”,填补治理空白。要探索“人机协同”机制,坚决防止过度依赖AI工具,在明确使用边界,尤其在政策研判、敏感数据处理时,坚持人工审核和责任到人。同时,党员干部应主动拥抱变革,提升对新事物的认知能力和监管水平,加强新知识、新业态等业务培训,善用AI优化服务,并建立动态监测机制,发现问题及时干预、总结经验及时推广、成熟做法及时固化。(周露,临沧市临翔区委组织部供稿)







