近日，上海市浦东新区科技和经济委员会发布消息称，截至2020年底，浦东人工智能企业约600家，涵盖人工智能基础层、技术层及应用层，相关产业规模预计达910多亿元，以人工智能技术驱动社会经济高质量发展变革的效应逐步显现。

浦东地区人工智能的蓬勃发展，是我国人工智能产业的一个缩影。中国信息通信研究院近日发布的数据显示，2020年，我国人工智能产业规模大约3100亿元人民币，同比增长15%。

值得注意的是，伴随着人工智能的快速发展，其“双刃剑”的特性也愈发引人关注。人工智能在深刻改变人类社会生活、改变世界的同时，其发展的不确定性也给个人隐私、经济安全、社会稳定等领域带来前所未有的新挑战。

人工智能要实现健康发展，法治是不可或缺的坚实保障。清华大学法学院院长申卫星建议，在大力发展人工智能的同时，高度重视其可能带来的安全风险挑战，加强前瞻预防与约束引导，最大限度降低风险、化解风险，从技术、伦理和法律三个路径共同构建符合人工智能运作基本逻辑的规制体系，确保人工智能安全、可控发展。

在基层医疗等领域有特殊价值

得益于人工智能在近年来的迅猛发展，我国应对新冠肺炎疫情的能力有了进一步提升。在疫情期间，人工智能在基层医疗、教育教学、城市治理等多个领域凸显特殊价值。

近日，北京市顺义区发生局部聚集性疫情。如何破解疫情传播链，成为疫情防控中的一项重要工作。在取得授权的前提下，人工智能技术团队绘出患者流调轨迹地图，帮助疾控人员迅速锁定管控范围。

2020年初，人工智能领域的智能语音机器人在进行社区疫情排查和防疫宣传上就起到了很大作用。记者在科大讯飞海南自贸港人工智能翻译服务中心看到，使用了语音技术的机器人，可以给人们打电话进行电话访问，对人们的身体状况等信息进行询问，在电话访问结束之后还可以自动生成统计报表，将相关信息直接提供给疫情防控有关部门。这项技术在湖北武汉“封城”期间就已得到广泛应用，6小时即可完成100万人的电话访问。在全国推广后，共完成了5900万次的访问和统计，极大地节省了随访时间。

全国人大代表、科大讯飞股份有限公司董事长刘庆峰说，人工智能在过去60多年的发展历程里，一方面，在技术创新上，人工智能已经实现了“让机器能听会说、能看会认”，正朝着“让机器能理解、会思考”的方向发展;另一方面，在教育、医疗、社会治理、司法、翻译、办公等关系民生福祉的各行各业，人工智能也开始切切实实解决刚需应用。

“未来十年，人工智能将像水和电一样进入每一个行业，深刻改变世界。”刘庆峰说。

可能带来重大风险和潜在威胁

在飞速发展的过程中，人工智能的“双刃剑”特性也展现出来。

疫情防控工作中，人工智能在信息收集、资源调配、支持复工复产等领域展现了巨大能量。与此同时，人工智能也因为公民个人信息保护、老年人面临“数字鸿沟”等问题而备受关注。

近年来，人工智能在广泛应用于多个领域的同时，其对于个人隐私、社会公平、生命安全、科技伦理等方面的影响时常被关注。

申卫星认为，人工智能技术的发展，不仅使得保护隐私和个人信息更具有挑战性，也有着引发歧视和不公平对待等伦理风险、诱发垄断阻碍经济发展、成为威胁国家和社会安全的突破口等风险。

“在人工智能的社会伦理上，人们日益被数据化和被算法化，算法在劣势累计影响下所作出的推断与决策结果将导致对少数群体或受保护群体的负面成见和刻板印象，故意或过失的错误应用和算法歧视引发对儿童、老年人、残疾人、消费者等弱势群体的不公平对待，对社会正义观和实质结果提出了严峻挑战。”申卫星举例说。

数据信息采集应用可能侵犯公民权利，威胁隐私;算法偏好可能加剧社会偏见或歧视，威胁公平;机器深度学习难以理解人性和道德，无人驾驶汽车紧急避险等智能决策可能危及特定人群生命，威胁安全;人机交互式产品广泛应用带来的工作生活高度依赖，对人类情感体验、家庭社会关系等带来了一定冲击，可能影响未来社会塑造，威胁伦理……全国政协曾在2020年9月至10月对人工智能进行专题调研，专题调研组了解到，我国人工智能发展势头迅猛，但发展机遇与风险并存，对人类社会发展也可能带来重大风险和潜在威胁。

加快对应用基础较好领域立法

为推动新一代人工智能健康发展，相关的法律制度正在加速构建。

2020年12月21日，全国人大常委会法工委发言人岳仲明介绍了2021年全国人大的重点立法工作。数据安全法、个人信息保护法等法律案2021年安排常委会会议继续审议，争取早日出台。

尽管相关的立法工作正在提速，但与人工智能的发展速度相比，仍然显得有些滞后。

西南政法大学高等研究院院长、人工智能法律研究院院长侯东德认为，当前，人工智能发展缺乏具有前瞻性、可操作性、指引性的法律法规，人工智能发展中涉及的个人信息保护、数据共享等问题也亟须立法明确。

值得注意的是，国务院在2017年7月印发的《新一代人工智能发展规划》提出，重点围绕自动驾驶、服务机器人等应用基础较好的细分领域，加快研究制定相关安全管理法规，为新技术的快速应用奠定法律基础。

申卫星建议，对自动驾驶、自动化决策、精准医疗等领域分别进行立法，要区分不同行业和场景对人工智能技术进行规范。

中国法学会商法学研究会理事张韬认为，在人工智能发展过程中，数据占据着极为重要的地位。无论是解决“数据隐私”“算法歧视”等问题，还是针对自动驾驶、服务机器人等快速发展的领域进行立法，都需要对数据的收集、利用、使用等内容作出细致规定。

上海众人网络安全技术有限公司董事长谈剑锋说，针对个人生物特征、医疗数据等唯一性、不可再生性的重要数据，必须提前设防。建议对此进行立法，对互联网企业的信息采集进行严格的管理规定，只可针对企业产品的特性进行相关必要的数据采集，不得过度、无序、随意地采集。同时，明确规范由谁来采集、如何采集等相关安全技术规范和流程标准，采取严格的安全防范措施。