【两会提案】关于加强人为智能利用安全 ，推进数字经济稳步发展的提案

颁布功夫 2021-03-05

1.jpg


备受关注的全国两会在火热进行中 。今天 ，为各人分享全国政协委员、宝运莱官方网站信息技术集团股份有限公司首席执行官严望佳第二份提案 。


提案二：关于加强人为智能利用安全 ，推进数字经济稳步发展的提案


问题及原因分析


数字经济作为引领将来的新经济状态已成为我国高质量发展的新引擎 ，习近平总书记更是指出“数字经济是全球将来的发展方向” 。数据作为出产身分 ，依附人为智能利用将会充分展示其身分价值 ，推进数字经济的进一步腾飞 。


在大力发展人为智能利用 ，助力数字经济发展的同时 ，必须对峙两全发展与安全 ，加强人为智能利用安全 ，推进数字经济稳步前行 。当前人为智能利用重要面对如下一些安全问题 。

1）与人为智能利用有关的数据安全及隐衷�；の侍� 。构建人为智能利用通常以大量数据为基础 ，蕴含可能涉及的幼我数据、企业敏感数据等 。而数据的采集、处置、推算等过程不成预防会产生数据安全与隐衷�；の侍� 。


2）人为智能利用中算法“黑河妆利用模式的安全隐患 。当前好多人为智能利用往往直接套用现有模型 ，不足对主题算法的深刻分解 ，忽视其工作道理 。在这些利用中 ，算法是不通明的“黑盒子” ，很可能潜藏未知的安全隐患 。


3）人为智能利用软硬件供给链安全问题 。人为智能利用的实现蕴含大量工程化工作 ，涉及从底层芯片到上层利用开发的一系列软硬件供给链 ，每一环节都可能产生安全问题 。另表 ，实现中可能依赖开源代码 ，既存在引入缝隙或后门的风险 ，又触及知识产权方面的问题 。


4）逐步显露的人为智能利用伦理安全问题 。在这些问题中 ，寂仔将人为智能利用于谬误主张 ，好比每每产生的“大数据杀熟”；也有利用构建过程不合理 ，好比算法私见造成的决策不公；还有利用部署后的问题 ，好比决策谬误引发损失时的责任认定等 。


具体建议


“安满是发展的前提 ，发展是安全的保险” ，为了稳步推动数字经济发展 ，充分阐扬人为智能利用在挖掘数据身分价值方面的作用 ，必须始终贯彻安全发展理想 ，从多方面采取有效措施加强人为智能利用安全 。具体建议如下：


1）加强人为智能利用有关的数据安全及隐衷�；ぜ际踝暄�


人为智能利用在获取数据价值的同时也面对着数据安全风险 。传统的数据脱敏等安全防护技术在暗藏敏感信息的同时也造成数据价值的损失 。因而 ，在推动数据安全有关司法美满的同时 ，还应加强隐衷推算、安全多方推算等前沿技术钻研 ，在不泄露隐衷与敏感信息的前提下保留数据价值并支持人为智能利用构建所需的高效推算 。建议设立有关专项课题推动产学研合作发展技术钻研与利用落地攻关等 。


2）强化人为智能利用的通明性要求 ，预防“黑河妆利用


以深度神经网络为代表的新型人为智能算法模型复杂 ，尚不足严格的理论基础 ，其可诠释性依然是一个前沿钻研课题 。在主题算法道理不明的情况下构建的人为智能利用可能产生意料之表的行为 ，安全风险不成控 。因而 ，必须提高人为智能利用的通明性要求 ，尤其在涉及社会、人身安全的关键领域应预防“黑河妆利用 。建议造订有关司法及尺度规范 ，明确各领域人为智能利用的通明性要求与衡量指标等 。


3）推动人为智能利用供给链安全评估 ，强化自主可控要求


在如今供给链安全事务频发的态势下 ，人为智能利用软硬件供给链的安全问题应得到更多关注 。因而 ，必须加强人为智能利用供给链安全评估 ，尤其对于涉及国计民生行业中的关键信息基础设施有关的人为智能利用 ，在做好安全评估的基础上还应强化自主可控要求 ，预防被“卡脖子” 。建议规范人为智能利用供给链安全评估机造并钻研评估技术与步骤 ，推进有关主题技术钻研以实现自主可控等 。此表 ，思考到人为智能利用越来越多的源自开源软件领域 ，建议高度关注与加强评估开源供给链安全和开源软件安全 ，做好开源领域的风险管控 。


4）造杜纂技术双轮驱动掌管任的人为智能利用


国度新一代人为智能治理专业委员会颁布的《新一代人为智能治理准则——发展掌管任的人为智能》提出了和调敦睦、平正公正、安全可控、共担责任等人为智能发展准则 。这些准则的落实对于人为智能利用伦理安全问题的应对及数字经济的长远发展拥有沉大意思 。因而 ，必须从造杜纂技术两方面共同采取措施推进发展掌管任的人为智能利用 。建议推动人为智能治理规范的量化评测步骤钻研并造订有关规范造度 ，推进产学研协同钻研打造掌管任的人为智能利用等 。