主页 > N维生活 >Google发表7条AI该有的道德原则,确保科技发展在正确轨 >

Google发表7条AI该有的道德原则,确保科技发展在正确轨

  • N维生活 | 2020-06-07 04:40:10 阅读量:21万+
Google发表7条AI该有的道德原则,确保科技发展在正确轨
REUTERS/Charles Platiau

6 月 7 日,Google CEO Sundar Pichai 发布了七条 AI 应用的「道德原则」,包括对社会有益;避免製造或强加不公平的偏见;发展和利用 AI 技术时注重隐私原则等。Google 称其不会将 AI 用于军事武器和侵犯人权的监控中。但是仍会在其他领域保持跟政府和军队的合作,包括网路安全、军事训练、军队招募、退伍兵医疗、搜索、营救等方面。Sundar Pichai 表示这些合作至关重要,Google 也会积极寻求其他方式来加强这些方面的工作,并保证服务人员和平民的安全。同时,Google 不会研发可能会造成伤害的科技,除非 Google 认定「科技带来的好处远超过其造成的威胁」。

早在 4 月,Google 因为美国国防部提供 AI 技术而受到公司内外的广泛批评和质疑。合作计画叫做「Project Maven」,帮助开发应用于无人机的人工智慧系统。此举遭到四千多名员工联名上书,数十名员工离职,要求 Pichai 远离「战争的生意」。最终 Google 向员工做出妥协,承诺明年合约到期后将终止「Project Maven」计划。这场「风暴」之后,Google 管理层承诺会发布一系列「道德原则」规範未来的计画,指导技术研究、产品发展、商务决策。Google 对 The Verge 透露,如果这项原则发布得早一点,Google 也许不会参与到「Project Maven」中。

其实,Google 决定发布这项 AI 原则也是考虑到多年以来自动化系统所构成的威胁,还有人工通用智慧引起的耸人听闻的传闻。就在上个月,一个人权组织和技术团体联盟发起「多伦多宣言」,呼吁政府和科技公司确保 AI 尊重平等和非歧视的基本准则。

作为行走在人工智慧领域前沿的科技公司,Google 早已将其未来押注在人工智慧技术上,公司管理层都相信人工智慧所带来的影响力绝不亚于互联网所能做到的。Pichai 表示,「在 Google,我们用 AI 技术让产品变得更好:从 Gmail 电子邮件服务做到垃圾邮件拦截率高至 99.9%,为使用者编写邮件时提供简单的建议到语音助手自如地与使用者交谈。但是 AI 也有「犯错」的时刻,比如 Google

儘管 Google 发布了这项原则,也无法控制全方面科技。Google 拥有顶级的人工智慧实验室,承载很多重要的学术研究,Google 也公开发布了人工智慧领域的很多研究成果。这意味着,其他公司可以重新创造和使用 Google 的研究方法和思想。当 Google 与其他实验室合作的时候,如果认为后者没有「正当」使用自己的研究成果,就会将其收回。Google 的一位发言人说着,「比如拿 Google 开源的 AI 软体库——TensorFlow 来说,发布的原则不可能照顾得『面面俱到』,但是 Google 可以做到发挥其在开源社区的影响力,直接控制软体开发工具包,出台更严格的许可条例。最起码,在「不作恶」的这件事情上,Google 明确表示,「如果在使用科技的过程中违背了原则,那幺我们保留阻止或者停止科技的权利。」

Google 还在极力争取竞标国防部价值 100 亿美元的云端服务订单。在微软、IBM 等公司的共同竞争下,Google AI 原则的发布也许意味着其将离国防合同更远了一步。但是 Pichai 表示「原则的出台为的就是减少人工智慧造成的危害、限制人工智慧的滥用。我们承认人工智慧如此强大的科技一定会引起同等效应的社会问题。也许在未来的几年,人工智慧的发展和应用会给社会造成严重的影响。但是作为人工智慧领域的领导者,Google 有责任要让人工智慧的发展步入正轨。」




上一篇: 下一篇: