王忠民:用技术逻辑不能解决人工智能风险问题时,要回到人类过去解决问题的方法

12月9日,2023第四届全球保险科技大会在天津港保税区隆重举行。本次大会以“向新 向实 向强——科技引领高质量发展 助力金融强国建设”为主题,来自监管部门、金融机构、知名高校等二百余位嘉宾出席。

2022年11月30日,OpenAI发布了基于GPT 3.5基础模型的ChatGPT,且自身仍在不断更新迭代;2023年是AI元年,一大批人工智能研究领域的高科技公司将人工智能技术平民化,AI技术变得越来越普及,ChatGPT背后的大语言模型也从 GPT 3.5进化到GPT-4,可以说,人工智能时代已全面到来。

在本届大会的“巅峰对话”环节,燕梳研究院首席研究员孙芙蓉作为主持人,同全国社保基金理事会原副理事长王忠民、中国银行原行长李礼辉就人工智能金融领域应用、风险防范等话题展开对话。

谈及“人工智能在金融领域的运用”,王忠民表示,如果所有的金融基础设施端被人工智能改造,在数字基础设施方面会有三条曲线,一是边际成本无限趋近于零,二是规模效应无限大,三是范围效应无限大。如果用这一逻辑把金融基础设施世界改变,金融所有前端的边际成长就是建立在其他人免费边际基础设施之上,所有规模经济是你给它提供规模,它成长你也成长,这个数字基础设施逻辑今天正全面生成,全面改变,全面应用。

谈及“人工智能风险及防范”,王忠民表示,目前来看,最大的危险是如果人工智能超越了人,所有人不仅变成无用的,甚至其产生的东西也无法掌控;一旦发展迅速到人无法迎接、无法对付时,就会把人颠覆掉,而技术一旦失去人的控制,可能对我们人造成伤害,甚至社会组织行为、社会原有工具、原有管理逻辑全部失灵,这是我们今天面临的一个重大问题。

第二个风险,金融产品的深度和外延极度广泛,人工智能的服务能力可能从某些方面超越人本身。比如人工智能加密,如果加密服务才是完成金融安全、保密、确权、交易权利、收益权利等一切的前提,但市场在不成熟时,势必造成利益不对称、产生很多冲突矛盾,但加密一旦完成,一个时代基于人工智能的服务便超越了人的服务能力。

他强调,如果用技术逻辑不能有效解决问题时,一定要回到人类过去解决问题的方法,比如社会法治、社会规范、社会价值,反向来规范技术逻辑。(金融界保险 宋源珺)

责任编辑:宋源珺
精彩推荐
加载更多
全部评论
金融界App
金融界微博
金融界公众号