AI商业应用暗藏六大风险

1评论 2018-10-15 10:00:46 来源:中国保险报网 A股进入长线抄底区域

  □贝恩公司全球合伙人、大中华区总裁 韩微文

  AI能够在许多领域保护人们免受已知或未知威胁的伤害,帮助人们保持彼此之间的联系,能以比人工更快的速度、更低的成本完成工作,并可能提供更好的解决方案。但是随着AI逐渐渗入到我们的日常工作和生活中,人们开始意识到AI所带来的一些预期之外的结果,例如人工专业技能的缺失。我们应该如何着手并处理这些问题?

  AI六大风险

  根据贝恩多年来积累的经验,我们认为,对商业领袖和技术投资者们来说,了解并处理以下六大风险已成为不容忽视的责任:

  1.隐形错误

  与传统、以规则为导向的程序不同,AI模型通过自我学习提供答案,但却并非完美无缺。很多AI模型的不透明性以及快速扩张的能力有可能将真正的错误隐藏起来。例如,随着自动驾驶和飞行系统的训练数据飞速增长,以这些数据为基础的模型也在飞速进步,但是人们还是能够不断地在算法中发现错误,某些情况下,只有在车毁人亡的悲剧发生后才被发现。

  2.技能、判断性思维和理解能力的缺失

  这种情况不仅出现在新手出租车司机身上。一位硅谷工程师曾表示他的网站上的推荐算法让他的团队不再投入太多的思考精力,不了解自己业务的基本要素和真正的需求推动因素,对团队来说是一件十分危险的事情。

  3.新的灾难

  和传统员工一样,AI算法是可以被操纵的。不同的是,员工在被管理层监督的时候自己所能做的决策相对较少,而AI算法可以在暗中自作主张。黑客们对AI的攻击才刚刚开始,随着AI算法发挥作用的领域越来越广(帮助电商平台定价、决定车险费率、招聘等),经理们必须预见算法被人操纵的可能性并及时进行相应的调整。

  4.“惯例化”偏见

  大多数AI机器是通过研究编辑好的数据样本进行学习的。一位AI专家也许能够理解一套算法是如何得出结论的,或者这对专家来说也如黑箱一般神秘莫测。这就引发了人们对于偏见的担忧,因为任何通过历史数据进行训练的算法,会很自然地在自己的结论中体现出数据中存在的偏见。这可能会导致一些严重的问题,例如歧视性的借贷算法,或是一些误导性的结论,例如从现有客户数据样本进行学习的算法会自然而然地偏向现有客户群的偏好,从而忽略了潜在客户群的口味。

  5.缺乏同理心

  随着越来越多的企业利用机器人等与消费者进行互动,他们不得不承受与客户日渐疏远的风险。对企业高管来说,用算法代替自己来管理员工,就像让算法控制网约车司机一样,给人一种疏远感。疏远感可能会减少管理者感同身受的能力,弱化他们倾听各个团队的能力。

  6.失控

  AI驱动的决策体系既方便又快捷,因此非常具有吸引力,但是有时也需要人为参与。现在,无人机执行某些远程任务时必须要进行人为判断,而随着人们对这项技术越来越熟悉,这一状况有可能会发生改变。这是一件好事吗?同样还有很多关于AI削弱人类控制权的难题。对于商业领袖来说,克服这些问题是十分必要的。

  贝恩AI观点

  贝恩认为,对于AI来说,控制是关键。企业的最高管理层需要通过参与目标制定,来为被广泛应用于公司业务的AI保驾护航。在过去几十年里,对于信用算法依赖度极高的金融机构被要求要严格管控风险;现在,对于广泛应用AI技术的机构来说,对于AI的监管要求上升到了同样的高度。

  在企业中,任何重要的算法都需要有一个产品经理:一个可以检验、检测算法、审计其结果、评估并改善其性能的角色。

  另一个不可或缺的是强而有力的沟通体系。在一套重要的算法中,定期向客户、员工和合作伙伴寻求意见和反馈,是一个非常重要的组成部分,在管理和使用任何算法时必须以“同理心”为导向。

  AI技术的普遍性和可扩展性,让AI算法可以在很短的时间内影响到上百万人。企业为了应对行业竞争,取得进步,研发并使用AI技术是必不可少的。但是,技术本身不具备道德,也不会进行自我改善,关键依然取决于那些使用技术的人。

责任编辑:Robot RF13015
快来分享:
评论 已有 0 条评论
精彩推荐
人社部:2018年退休人员养老金继续上调

2018-03-27 17:12:10来源:中国保险报网

中国平安陈心颖:陆金所控股2018年无上市时间表

2018-03-21 16:03:15来源:金融界保险频道

中国平安首次详解“金融+科技”双驱动战略布局

2017-11-30 16:47:32来源:中国保险报·中保网

平安产险欲再增资汽车之家10亿美元 打造汽车生态圈

2018-11-21 06:47:55来源:国际金融报

李源祥获中国政府友谊奖 中国平安第四位高管获此殊荣

2018-09-30 09:20:23来源:金融界网站

中国平安四大子公司拟分拆上市 陆金所估值600亿美元

2018-01-18 10:17:58来源:金融界保险频道

理赔审核调阅病例最快仅20秒 平安医保科技发布智慧商保服务方案

2018-10-25 15:23:00来源:证券时报网作者:邓雄鹰

2018财险业严监管继续 编制提交虚假报表遭保监会重罚

2018-02-24 08:18:28来源:金融界保险频道

中国平安评出2017公司十大新闻

2018-01-03 18:53:05来源:中国保险报·中保网

91家寿险保费逾3万亿 9家险企进“千亿俱乐部”

2018-12-18 00:38:35来源:证券日报

科技引领金融变革中国平安首次全面披露五大创新科技

2017-07-20 12:51:05来源:新疆保险网

国寿PK平安谁是寿险“一哥”竞争背后科技为引擎

2018-03-26 09:09:52来源:经济观察报

平安科技新一轮战略蓄势而发 “高科技+低成本”赋能保险业

2017-09-13 09:02:00来源:金融时报-中国金融新闻网

公司价值是否被低估? 马明哲和平安高管给出了答案

2018-03-22 07:30:46来源:国际金融报

个人贷款保证险频曝高赔付 “T+2刚兑”是祸首

2018-12-17 02:37:33来源:证券时报

参会股东持股市值超3800亿 马明哲详解平安生态3部曲

2018-05-24 07:21:32来源:券商中国

烟台人保财险抓严抓实党建重点工作

2018-03-20 09:17:38来源:中国保险报网

人保财险宁夏分公司与同心县政府签署“政融保”扶贫协议

2017-12-01 10:45:00来源:证券日报·中国资本证券网

铭记初心,与您同行 ——马明哲董事长2018年新年致辞

2017-12-29 10:42:00来源:中国平安

平安30周年司庆 马明哲追问初心:为什么做保险?

2018-05-28 07:46:18来源:券商中国

加载更多

更多>> 以下为您的最近访问股
理财产品快速查询
实时热点