AI 成熟度调研 | 像教育孩子一样教导AI?——详解人工智能互信

AI 成熟度调研 | 像教育孩子一样教导AI?——详解人工智能互信

“随着人工智能(AI)对业务运营的影响越来越大,董事会需要了解AI技术将如何影响其组织的商业战略、文化、运营模式和所在行业。他们不仅需要考虑全局的变化,还要考虑如何全面评估管理层对AI的治理,尤其在道德、社会等方面的影响。”

——珍妮·波耶(Jeanne Boillet)

安永全球审计业务创新主管合伙人

人工智能从来都不是一种单一技术,而是随着数据科学、芯片设计、云服务和终端用户使用而不断发展的方法和工具。AI系统具有随着时间的推移提高性能的独特能力(无论是通过有监督的学习还是无监督的学习),这是一种高度类似于人的能力。

人工智能正被应用到越来越广泛的业务场景中,以实现在以往由人执行的活动和任务上的自动化。对于AI系统的设计人员、架构师和开发人员而言,充分意识到AI相关法规和社会影响变得越来越重要。此外,他们还应该采用符合道德规范的设计以及参考AI治理方面的最佳实践。

建立对人工智能的信任

AI的负面影响包括运营压力、诉讼、负面新闻、客户流失、盈利能力降低和监管审查等,其中个人数据滥用问题更可能导致企业公信力危机。

安永开发的AI框架可以帮助企业了解可能会影响系统、产品、品牌和声誉的潜在风险。

框架的核心着重在AI相关系统。企业必须了解、治理、调整和保护AI系统内部和相连的所有组件才能达到对AI完全信任。

要建立对AI的信任既需要技术也需要企业文化的支持。AI要想被用户接受,AI首先需要能够被理解,也就是说其决策框架是可以解释和验证的。AI还需要达到预期的性能,并且得到可靠的产出结果。

建立负责任的人工智能

前微软全球执行副总裁、微软人工智能及微软研究事业部负责人沈向洋博士与微软公司总裁、首席法务官施博德(Brad Smith)在《计算未来 人工智能及其社会角色》一书中强调负责任的人工智能所需的六个原则1

建立可信任人工智能的重要步骤

安永认为可信任的人工智能是基于以下三个重要步骤:

1

目的性设计:

有目的地设计和构建系统,维护机器人、智能和自主功能之间的平衡,关注因果关系、限制条件、准备情况和相应风险

2

敏捷治理:

从社会、法规、声誉和道德领域出发,识别并跟踪新出现的问题,为流程治理提供指导。在过程中保障流程管理系统的完整性、系统使用、架构和嵌入式组件、数据寻源和管理、模型训练和监控

3

密切监控:

持续微调、整合和监控系统,以确保性能的可靠性,发现和纠正偏差并提高透明度和包容性

“教育AI就像养育孩子一样,你不仅需要教AI怎样做一件事,还要教它社会规范和价值观。开发人员在AI设计和开发之初就应该考虑到道德和信任风险。”

——凯茜·科比(Cathy Cobey)

安永全球人工智能信任主管合伙人

建立可信任的AI治理模式

尽管越来越多企业意识到AI必须符合道德规范并具备可信赖性,但要确保AI的透明、公正、安全、准确和可审核性,可能会超出开发人员的能力。企业需要建立可信任的AI生态系统。

微软已经设立了开发和研究人工智能与道德标准(AETHER)委员会。该委员会囊括了来自微软公司开发、研究、咨询和法律部门的高管,专注于积极制定内部政策,以及如何应对所出现的具体问题。AETHER委员会审查和界定最佳实践,提供指导原则,指导微软人工智能产品和解决方案的开发和部署,并帮助解决微软人工智能研究、产品和客户沟通中产生的伦理和社会影响问题。

 

数据治理能够确保人工智能系统运行可靠且安全、有保障且尊重隐私、透明且易于理解。安永的数据治理解决方案能够很大程度上帮助企业建立可信任的人工智能并推动人工智能互信:

安永与微软如何提供帮助

由微软Azure支持的安永可信赖人工智能平台(EY Trusted AI Platform)为用户提供了一种集成的方法来评估、监视和量化AI的影响和可信赖性。

人工智能在各个行业的应用和未来发展趋势备受关注,敬请期待下一期AI成熟度调研系列文章,来自微软和安永的行业专家将对热点问题答疑解惑。

安永正与微软合作进行微软 x 安永人工智能成熟度调研,共同剖析各行业内企业人工智能成熟度现状,展望崭新业务机会。安永与微软将后续联手推出系列相关活动,敬请期待。

如果您愿意参与本次调研活动,请长按并识别左侧二维码报名。

联系我们。

注:1、《计算未来 人工智能及其社会角色》

推荐阅读

AI 成熟度调研 | 是什么阻碍了企业智能化道路?七大人工智能挑战你问我答

AI成熟度调研 | 82%的CEO认为人工智能将重塑公司业务,但企业该如何迈出第一步?

长按二维码关注我们,获取更多专业资讯。

点“在看”,分享你喜爱的文章

免责声明:本文仅代表文章作者的个人观点,与本站无关。其原创性、真实性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容文字的真实性、完整性和原创性本站不作任何保证或承诺,请读者仅作参考,并自行核实相关内容。

http://image99.pinlue.com/thumb/img_jpg/0rDQibuhbbeiax7t7VGMoiavGlweuSzW9gEicM8FSlJTwams8IDQOKic0t3qdNLVWRO8HMpabIcYvVVAN3UA71jdwibQ/0.jpeg