DeepMind成立新部门:专注处理AI社会伦理问题!

2020-06-06 作者 : 浏览量:736
DeepMind成立新部门:专注处理AI社会伦理问题!
Demis Hassabis, the CEO of DeepMind Technologies and developer of AlphaGO, speaks during a news conference ahead of matches against Google’s artificial intelligence program AlphaGo, in Seoul, South Korea, March 8, 2016. REUTERS/Kim Hong-Ji - RTS9QRR

据外媒 The Verge 报导,近日,Google 旗下 AI 研发公司 DeepMind 宣布成立一个 AI 新部门 ,主要负责研究 AI 带来的伦理问题和社会问题,如自动化给未来经济带来的影响等等。

据了解,新部门的主要目标是帮助技术人员将伦理应用于实践,帮助社会预测 AI 的影响,并对其影响给予引导,确保 AI 造福人类。2016 年,DeepMind 开发的 AI 系统在围棋棋盘上打败世界顶尖选手,因而名声大震。

DeepMind 为新部门命名为 DMES。新部门将于 2018 年开始就这些课题目标进行研究。目前,该部门已有 8 名全职员工。不过,按照 DeepMind 的计划,该部门的员工规模将在一年时间内增至 25 名左右。

为了壮大团队,DeepMind 还从外部学术机构和慈善机构聘请一些顾问,为新部门提供谘询服务,包括哥伦比亚大学发展学教授 Jeffrey Sachs、牛津大学 AI 教授 Nick Bostrom、气候变化活动家 Christiana Figueres。

DMES 联合主管 Verity Harding、Sean Legassick 在公告中表示,这些专家不只精通专业技术,还可以带来多样化的思考。同时,二位还表示,DMES 将帮助 DeepMind 探索和了解 AI 带给现实世界的影响。

雷锋网还了解到,新部门届时还将与有着类似研究目标的学术团体合作,如纽约大学的 AI Now Institute 和剑桥大学未来智慧研究中心等等。

事实上,2014 年 DeepMind 被 Google 收购时曾承诺要建立一个「AI 伦理委员会」。与新部门不一样,该委员会主要用以监管公司的所有 AI 研究活动。不过,自收购以来该伦理委员会并没有多大作为。特别是 2016 年,DeepMind 在与英国国民健康服务局合作时,受到了公众的大肆批评,这让其进一步认识到 AI 伦理问题的重要性。

2015 年,DeepMind 和伦敦三家医院达成合作,处理了其中 160 万名患者的诊疗数据。2017 年,该行为被英国的数据监督机构判定为非法,因为该公司没有通知到个人他们的数据已被使用。DeepMind 后来表示,他们低估了「NHS 的複杂性和患者数据的规则」,并聘请了新的独立伦理审查员以监督未来的任何交易。

虽然 DMES 的成立主要是基于 DeepMind 对 AI 带来的伦理问题的考虑和重视,但至目前为止,该公司的内部伦理审查员依然笼罩着神秘面纱。同时,据了解,新部门将与 DeepMind 的产品部门并行运营。未来,新部门聘请了哪些审查员,多久进行一次会议,主要讨论哪些要点,又有哪些形式. 关于这些问题,只能在未来慢慢寻找答案。