原标题：人工智能应用安全值得关注

本报记者李珮

由基于知识规则的知识驱动，到基于深度学习与数据规律的数据驱动，再到算法、知识、数据、算力多元驱动的人工智能，近年来获得了长足发展，成为新一代信息技术的重点发展领域。

基于人工智能的精准获客到标准的风控模型、定制化的风控模型以及全流程的解决方案，安全、可靠、可信、可扩展是人工智能技术发展的目标。

然而， “人工智能是人工经验的总结与数据价值的提炼，也是风险管理当中更高智能化的一个最终体现，但同时也带来了巨大的挑战。”融慧金科联合创始人兼首席战略官张羽直言，在不同的人工智能算法里，模型的透明度、稳定性及可解释性都会成为挑战。

人工智能应用场景广泛

随着人工智能科研机构的大量涌现与科技巨头的大力布局，新兴企业迅速崛起，人工智能技术开始广泛应用于各行各业，展现出可观的商业价值和巨大的发展潜力，对经济发展、社会进步和人类生活产生了深远影响。

深圳市人工智能行业协会发布的《2021人工智能发展白皮书》显示，人工智能正加速与实体经济深度融合，助力产业转型升级。截至2020年末，中国人工智能相关企业数量达到6425家，同比增长25.37%。人工智能核心产业规模达到3251亿元，同比增长16.7%。

不可否认的是，人工智能已经影响到各行各业，特别是具有高度数据化特点的金融行业，其人工智能应用场景更为广泛。

伴随着高质量的大数据积累，得益于在深度学习算法上的突破，人工智能技术催生了金融行业一系列产品和业务模式的创新，在推动传统金融机构科技化转型和新金融机构技术赋能中发挥了重要作用。金融机构开始通过智能机器人与客户进行自然语言交流，并提供涵盖产品咨询、市场分析等的综合金融服务，构建涵盖智能投顾、智能营销、智能风控、智能客服、反欺诈等全流程智能金融服务模式，推动金融服务向主动化、个性化、智慧化发展。

据科大讯飞金融行业解决方案总监杨鹤介绍，科大讯飞正在通过数据中台、AI中台，知识中台三个方面打造金融行业的“超脑”。在三个中台之下，推动金融机构数智化转型，为内部提供财务、招聘、培训、办公等服务，对外部提供客服、营销、风控等业务上的服务。

关注人工智能算法安全

可以看到，在金融领域，打造兼具决策分析和感官感知的智慧大脑，用数据安全支持智慧决策，用算法安全赋能感官感知，需要以安全可控的人工智能为基础。

《中华人民共和国数据安全法》提出，开展数据处理活动以及研究开发数据新技术，应当有利于促进经济社会发展，增进人民福祉，符合社会公德和伦理。

“不仅是金融领域，在政务、互联网、医疗等高价值场景，人工智能首要解决的就是底层数据隐私保护。”清华大学教授、北京智源人工智能研究院安全人工智能创新中心主任朱军表示，数据的流通涉及多个方面，包括应用方、提供方和个人用户，使用过程中会涉及同行间、跨行业、个人和机构以及机构内部的数据整合等各方面的需求，这个过程中关键隐私数据需要被合理的保护，在数据不可见的情况下充分发挥价值。

从数据的流动链路来看，数据保有方进行数据采集后，经过传输链路，给金融机构的信贷评估方即客户授权方，若隐私无法有效保护或数据安全保障不健全，在三个触点都可能发生问题。

因此，在人工智能领域，除数据安全外，隐私计算的发展也受到了更多的关注。“市场上，在应用或者在探索隐私计算的时候存在诸多问题，比如安全性怎么界定等。” 瑞莱智慧RealAI联合创始人刘荔园认为，不仅要提供更安全的隐私计算，还需要提供隐私计算领域的安全攻防，帮助金融机构验证现有系统的安全性和鲁棒性。

简单来说，隐私计算解决的是两个客户授权中间传输安全的问题，同时也可以解决传输及运算问题。此外，匿名化、多方安全计算等需求也可以通过隐私计算中的匿名查询、联合统计等模块来实现。

构筑人工智能安全“防火墙”

《人工智能安全框架(2020年)》报告中提出，产业智能化转型升级的内在驱动，不断推动人工智能深度内嵌于各行各业各环节中，真正实现物理世界变化实时映射于数字世界，以及数字世界演进优化带动物理世界发展的双向融合。然而，人工智能在各行业的应用中带来了数字和物理世界的双向融合，将促使人工智能在数字世界中的安全风险向物理世界和人类社会蔓延。

可以看到，当人脸识别广泛应用，刷脸支付与验证十分常见，但技术和算法风险所带来的诸如换脸或以特定干扰图案破解身份验证等问题也随之出现。

当前，针对人工智能在刷脸支付、刷脸验证等实际应用中，因算法缺陷出现的突出风险问题，科技企业也在积极调整与落地安全解决方案。例如，针对模型安全性的检测平台和模型安全“防火墙”，对模型安全性进行加固;针对人脸伪造问题，建立自动化深度伪造内容检测平台，快速、精准对多种格式与质量的图像与视频进行真伪鉴别。

在人工智能开放和应用场景中，数据与技术安全保护问题并不仅是人工智能模块本身，而是包含了人工智能模块的整个应用系统的安全问题以及人工智能产业链上下游中的数据安全问题，包括了数据采集、传输、存储、使用以及流通等数据生命周期的各个环节。

相关研究建议，当下，人工智能安全攻防理论和技术均在快速演变过程中，因此应不局限于现阶段人工智能安全风险及防御技术，而是着眼于实现保障人工智能内生安全这一根本目标，构建包含安全目标、安全能力、安全技术和安全管理四个维度的人工智能安全框架，从四个不同的层面指导企业与金融机构开展人工智能安全防护工作。