天书资讯站

人工智能技术,徐云程认为,技术的善恶应放在具体场景讨论

  • 日期:2020-07-11 18:56:28
  • 来源:互联网
  • 编辑:小狐
  • 阅读人数:259

人工智能技术带来高效和便利,也带来了一系列治理问题。在7月10日召开的第三届世界人工智能大会(WAIC)“人工智能治理论坛”上 ,众多科学家、企业家就围绕AI治理问题展开了讨论。

人工智能技术,徐云程认为,技术的善恶应放在具体场景讨论(图1)

旷视COO徐云程

技术的善恶应放在具体场景讨论

作为国内视觉计算领域里的明星企业,旷视是国内较早注意到AI治理问题的公司之一。2019年7月,旷视对外发布了《人工智能应用准则》为企业的AI治理指明了行动方向。随后旷视成立了“人工智能道德委员会”开启了企业AI治理的机制建设。2020年1月,旷视成立了“AI治理研究院”向社会发布2019年《全球十大AI治理事件》与社会各界探讨AI治理的方向与界限,并开始与各界机构探讨联合研究课题。

其次,徐云程认为,不管人工智能技术还是其它先进技术,都要有界限,这就是人工智能治理的作用。“这些考量点会使得技术无论在研发阶段,还是将来产品化的时候,必须有一些考量因素要前置。同时,在人工智能领域一直有一个观点,必需要边发展边治理。”徐云程称。

企业如何参与AI治理

“春江水暖鸭先知。在这样一个领域中,面对各种各样产业发展中的问题、和思考,旷视是属于在前沿探索的先行者。”徐云程称。

回顾旷视过去一年多的AI治理历程,徐云程表示,我们还处在“学生”状态。她将旷视参与AI治理的过程分为三个阶段。

第一阶段是学习和了解。在这个阶段里,AI治理是以高管团队驱动的、自上而下的过程。

第二阶段是广泛和外部专家、机构学习沟通的阶段。这时候,旷视学习到很多外部的思想和做法,并与各界开展了深入的交流和讨论,收获良多。

第三阶段是AI治理在企业内部逐渐成为共识,既有自上而下的推动,又有自下而上的交流。从旷视内部实施结果来看,已初见成效。徐云程举了一个小例子,现在旷视的产品经理在产品预研阶段,就会主动找到AI治理团队来讨论产品是否符合公司AI伦理的应用准则, 从而在流程上形成了规范。

从旷视角度来看,企业重视AI治理的投入势必会增加成本,对于大部分尚处创业早期的企业来说,做到这一点并不容易。另外,AI治理是个长期过程,治理带来的回报并不会立竿见影。

徐云程认为,企业现阶段急迫需要解决的是让自律变得更加主动一些,AI治理是一项长期的事业,要上升到公司战略的高度;同时,企业AI治理的成本是不可避免的,要么事先投入进行预防,要么事后吸取教训进行补救,对此企业需做好充分的心理准备。

本文相关词条概念解析:

治理

治理是政府的治理工具是指政府的行为方式,以及通过某些途径用以调节政府行为的机制。释义1.管理;统治;得到管理、统治。2.指理政的成绩。3.治理政务的道理。4.处理;整修。如:治理黄河。治理行政是政治国家与公民社会的合作、政府与非政府组织的合作、公共机构与私人机构的合作、强制与自愿的合作。与统治、管制不同,治理指的是一种由共同的目标支持的活动,这些管理活动的主体未必是政府,也不一定非得依靠国家的强制力量来实现。治理侧重于宏观决策,权力与利益风险的设计与安排,管理侧重于具体执行。

网友评论

提交评论

网站申明:本站图片仅为设计美化,与文章无关。如认为影响您的权益,请与我们联系。