毕舸

张朝 AI聊天机器人ChatGPT一经推出，就让社会各界看到了生成式AI所蕴含的巨大发展潜力，也再次引爆AI产业发展热潮。我国多个地区已经着手布局，北京提出将支持头部企业打造对标ChatGPT的大模型，着力构建开源框架和通用大模型的应用生态。众多互联网企业也将纷纷推出类ChatGPT应用，AI产业有望迎来又一个爆发期。

但随着AI技术和产品的持续迭代升级，另一个终极命题也随之浮现：如何让日益强大的AI能够更好地服务于人类发展所需，而非制造出难以控制的“技术怪兽”？近日，国家工业信息安全发展研究中心联合北京市门头沟区政府、中关村发展集团、华为公司共同发起“人工智能安全可信护航计划”，包括中国联通、奇安信、绿盟科技、山石网科、麒麟软件、格灵深瞳、软通动力等在内的31家首批伙伴加入，未来将参与理论研究、标准制定、评估评测等相关工作，这一计划将助力我国AI产业的规范化建设，打造兼顾创新性和安全性的发展路径。

正如ChatGPT开发方所表示，欢迎包括监管机构和政府在内的各方力量介入，对这一新生事物进行更具针对性的监管。各国须更好研究AI的演进以及潜在风险，以确保其开发和应用，符合公共安全、社会道德等原则，带来的创新收益能够广泛分配，最大可能实现普惠性。

作为AI产业发展迅速的国家，中国同样需要对这一前沿科技产业进行统筹规划与合理监管。一方面，近年来我国AI产业的投资力度不断增强，涌现出一大批独角兽企业，各类技术应用也日渐深入社会经济的细微层面。AI技术在医疗、教育、交通、文化等众多产业的应用层出不穷，由此形成了庞大的市场规模。根据中国信通院预计，2022年我国AI核心产业规模（增加值）达到5080亿元，同比增长18%。AI成为产业优化升级、生产力整体跃升的科技新动能。

另一方面，无论是政府、企业还是公众，对于AI技术的使用边界仍处于探索之中，也面临日益增多的争议和担忧，如人脸识别、大数据抓取带来的公众隐私安全问题，系统本身可能因存在不完善之处被不法分子利用等。AI逐步形成的社会经济发展新基建属性、公共保障属性、新型技术应用属性，决定了其发展与安全须科学统筹，实现高质量发展与高水平管理的良性循环。

“人工智能安全可信护航计划”的出台，正是基于AI产业的挑战与机遇并存，希望通过政企协力构建合规发展模式，共同参与标准制定，持续探索AI安全实践及解决方案，从而打造更具开放性、协作性的生态环境。

近年来，我国不少地方出台了AI产业政策，2022年底之前，上海（浦东新区）、深圳、济南-青岛、北京、天津（滨海新区）、杭州、广州、成都、南京、武汉、长沙等11个国家AI创新应用先导区，陆续发布了当地AI专项行动方案或发展规划，其中也有相当篇幅涉及AI产业的安全管理。但也要看到，宏观政策的制定亟待市场层面的呼应和支持，尤其是作为创新主体与应用主体的AI企业，承担着我国AI技术自主研发、推广应用与安全管理的多重责任，对于理应遵循的技术研究和应用规律、技术发展过程中要恪守的责任边界，都有着更符合实际的考量。以“人工智能安全可信护航计划”为纽带，形成企业与政府、学界更紧密的合作关系，能够兼容并蓄各方意见和建议，加快立法到执法的转化力度，也能以产学研合作模式加快各项安全应用成果的落地。

此外，构建我国AI发展的安全生态，除了法规与技术的持续演进，还需要专项技术、管理人才的培养。“人工智能安全可信护航计划”可通过加快建设系统性的人才培养与应用工程，帮助政府、高校、研究机构和企业共同培育高层次的AI安全新型人才，为我国AI产业可持续发展提供更完善的人才供给。

通过对AI安全与发展的顶层设计，能给予我国AI产业治理更明确和有力的制度支撑，在安全、隐私、公平等方面提供更正向的引导和明确的规范。必须指出，围绕“人工智能安全可信护航计划”的AI产业规划与建设，是一个动态发展的过程，参与各方须根据AI新技术、新产业、新业态、新模式的形势所需，顺应其快速迭代、延伸至更多领域的特点，制定、修改或者废止相应的监管规则和标准，不断探索新的治理模式和发展标准，发挥行业安全管理的示范作用。如此方能充分激发各类主体的创新活力，拓展AI发展空间，为我国AI技术重大创新突破、与实体经济的融合，提供具有前瞻性的战略规划与安全“防火墙”，为民生服务、社会治理、经济发展领域的数字化转型提供更加安全可靠的技术支撑。