微软沈向洋:技术也有偏见,如何打造负责任的人工智能
来源:大发快三综合 发表于2019-09-02 20:00:02 编辑:时小峰
摘要: 原标题:微软沈向洋:技术也有偏见,如何打造负责任的人工智能 大部分人都高估了自己在一年里能做到的事情,同时却低估了自己能在10年里取得的成就
  原标题:微软沈向洋:技术也有偏见,如何打造负责任的人工智能
 
  “大部分人都高估了自己在一年里能做到的事情,同时却低估了自己能在10年里取得的成就。”在2019世界人工智能大会,AI FOR ALL“二十一世纪的计算”学术研讨会上,微软全球执行副总裁、微软人工智能及微软研究事业部负责人沈向洋用这句话表明微软在人工智能领域里的投入和专注。
  在当天的演讲中,沈向洋介绍了在过去的一年时间里,全球各地的微软研究院取得的成就。例如,微软开发出了第一个能将数据编码存储到DNA中的方法,能够将一座仓库那么大的数据中心,压缩到只有几个骰子大小;微软的Project Natick项目,在大洋深处的海底,建成了一座数据中心;微软还开发了一套能够解释机器学习的开源方案,帮助人们开启人工智能的黑箱;同时,微软还创造了一套叫做Code Jumper的工具,利用不同形状的模块,帮助视力障碍的孩子们,学会如何编程。
 
  当下,以人工智能为代表的一系列技术正在让很多不可思议的事情成为现实。但在推动技术进步的同时,如何解决技术带来的社会影响,以及人类将要共同面对的前瞻挑战?如何避免人工智能技术发展带来的偏见和歧视?也应该是科技公司需要关注的问题。
 
  在当天的演讲中,沈向洋就举了一个例子。微软的研究团队,利用称为“单词嵌入”的自然语言处理工具,解决了文本搜索中的性别偏见的问题。
 
  所谓单词嵌入,是一种用来将单词转换为向量数字的算法,它能够以来自新闻数据或者网页数据的海量文本数据为依据,为每个单词赋予一个对应的向量数字。通过在向量坐标系中,比对常见词汇与“他”、“她”这两个性别代词之间的关联度,研究人员发现了一些明显的特征,例如“sassy(刁蛮)”、“knitting(编织)”这样的词更靠近女性,而“hero(英雄)”、“genius(天才)”更靠近男性。算法之所以会为这些词汇赋予性别特征,原因在于训练算法用的基准数据集——通常是来自新闻和网页的数据——本身,就存在着由语言习惯造成的“性别偏见”,算法也自然“继承”了人类对这些词汇理解的性别差异。
 
  其结果就是,当微软用试验算法,根据梅林达·盖茨的 LinkedIn 信息推测其职业时,得到了“教师”的判断,但只要将人称代词换成“他”,盖茨夫人的职业就会变为“律师”。
 
  为了解决这个问题,微软的研究员提出了一个简单易行的方案:在单词嵌入中,删除区分“他”和“她”的判断维度。
 
  除此之外,据沈向洋介绍,微软早在2016年就开始关注技术带来的道德伦理问题。2016 年,微软 CEO 萨提亚·纳德拉发表了一篇关于人工智能共同责任的专栏文章,几个月后,第一次公开提出了微软的人工智能准则:公平、可靠和安全、隐私和保障、包容、透明、责任。
 
  2017年,微软出版了《计算未来》一书,对人工智能发展过程中可能引发的道德、法律思考和社会影响,进行了全面详实的探讨。此外,微软成立了AETHER(“工程与科研中的人工智能道德”的缩写)人工智能伦理道德委员会,这个委员会由微软公司领导、工程师、科研人员、律师等组成,负责对微软内部与人工智能伦理道德相关的事宜,进行探讨和评估。
投稿邮箱:lukejiwang@163.com
相关推荐
美国多家顶级大学和微软结盟:用超级计算机和AI攻克
美国多家顶级大学和微软结盟:用超级计算机和AI攻克

原标题:美国多家顶级大学和微软结盟:用超级计算机和AI攻克新冠 3月29日消息

AI2020-03-29 14:11:14

华为云正式推出业界首款企业级AI应用开发专业套件M
华为云正式推出业界首款企业级AI应用开发专业套件M

原标题:华为云正式推出业界首款企业级AI应用开发专业套件ModelArts Pro 28日,华

AI2020-03-28 12:27:42

英特尔研发神经模拟原型芯片 能模拟人脑 13 万个神经
英特尔研发神经模拟原型芯片 能模拟人脑 13 万个神经

原标题:英特尔研发神经模拟原型芯片 能模拟人脑 13 万个神经元 芯片巨头英特

AI2020-03-21 09:25:32

亚马逊 AWS 云服务:将拨出 2000 万美元帮助加快诊断方
亚马逊 AWS 云服务:将拨出 2000 万美元帮助加快诊断方

原标题:亚马逊 AWS 云服务:将拨出 2000 万美元帮助加快诊断方案的研发 据外媒

AI2020-03-21 09:22:00

360官方回应安全云盘近期出现的数据异常和交易异常情
360官方回应安全云盘近期出现的数据异常和交易异常情

原标题:360官方回应安全云盘近期出现的数据异常和交易异常情况 针对360安全

AI2020-03-20 11:14:14

阿里云免费开放云上病毒比对服务 最快只需 60 秒即可
阿里云免费开放云上病毒比对服务 最快只需 60 秒即可

原标题:阿里云免费开放云上病毒比对服务 最快只需 60 秒即可完成病毒基因对

AI2020-03-13 16:29:32

谷歌在其官方 AI 博客宣布推出 TensorFlow Quantum(TFQ)
谷歌在其官方 AI 博客宣布推出 TensorFlow Quantum(TFQ)

原标题:谷歌在其官方 AI 博客宣布推出 TensorFlow Quantum(TFQ) 谷歌在其官方 A

AI2020-03-11 10:35:39

初创公司融得的资金将用于加速其Hailo-8芯片的推出
初创公司融得的资金将用于加速其Hailo-8芯片的推出

原标题:初创公司融得的资金将用于加速其Hailo-8芯片的推出 据外媒报道,近日

AI2020-03-09 10:58:02

斯坦福大学与丰田合作开发新机器学习方法
斯坦福大学与丰田合作开发新机器学习方法

原标题:斯坦福大学与丰田合作开发新机器学习方法 当前,电池企业和科学家

AI2020-02-29 16:25:12

阿里本地生活宣布全资收购客如云
阿里本地生活宣布全资收购客如云

原标题:阿里本地生活宣布全资收购客如云 今日,阿里本地生活服务公司正式

AI2020-02-26 10:49:42