王忠民：用技术逻辑不能解决人工智能风险问题时，要回到人类过去解决问题的方法

12月9日，2023第四届全球保险科技大会在天津港保税区隆重举行。本次大会以“向新 向实 向强——科技引领高质量发展 助力金融强国建设”为主题，来自监管部门、金融机构、知名高校等二百余位嘉宾出席。

2022年11月30日，OpenAI发布了基于GPT 3.5基础模型的ChatGPT，且自身仍在不断更新迭代；2023年是AI元年，一大批人工智能研究领域的高科技公司将人工智能技术平民化，AI技术变得越来越普及，ChatGPT背后的大语言模型也从 GPT 3.5进化到GPT-4，可以说，人工智能时代已全面到来。

在本届大会的“巅峰对话”环节，燕梳研究院首席研究员孙芙蓉作为主持人，同全国社保基金理事会原副理事长王忠民、中国银行原行长李礼辉就人工智能金融领域应用、风险防范等话题展开对话。

谈及“人工智能在金融领域的运用”，王忠民表示，如果所有的金融基础设施端被人工智能改造，在数字基础设施方面会有三条曲线，一是边际成本无限趋近于零，二是规模效应无限大，三是范围效应无限大。如果用这一逻辑把金融基础设施世界改变，金融所有前端的边际成长就是建立在其他人免费边际基础设施之上，所有规模经济是你给它提供规模，它成长你也成长，这个数字基础设施逻辑今天正全面生成，全面改变，全面应用。

谈及“人工智能风险及防范”，王忠民表示，目前来看，最大的危险是如果人工智能超越了人，所有人不仅变成无用的，甚至其产生的东西也无法掌控；一旦发展迅速到人无法迎接、无法对付时，就会把人颠覆掉，而技术一旦失去人的控制，可能对我们人造成伤害，甚至社会组织行为、社会原有工具、原有管理逻辑全部失灵，这是我们今天面临的一个重大问题。

第二个风险，金融产品的深度和外延极度广泛，人工智能的服务能力可能从某些方面超越人本身。比如人工智能加密，如果加密服务才是完成金融安全、保密、确权、交易权利、收益权利等一切的前提，但市场在不成熟时，势必造成利益不对称、产生很多冲突矛盾，但加密一旦完成，一个时代基于人工智能的服务便超越了人的服务能力。

他强调，如果用技术逻辑不能有效解决问题时，一定要回到人类过去解决问题的方法，比如社会法治、社会规范、社会价值，反向来规范技术逻辑。（保险 宋源珺）