新闻中心

EEPW首页 > 智能计算 > 业界动态 > 李飞飞离职谷歌背后:AI还很稚嫩 作为科学家很卑微

李飞飞离职谷歌背后:AI还很稚嫩 作为科学家很卑微

作者:时间:2018-11-20来源:新浪科技收藏

  正如李飞飞所说,深层学习系统“可获得偏见,输出偏见。”李飞飞认识到,虽然驱动人工智能的算法可能貌似是中性的,但影响这些算法结果的数据和应用却不是。重要的是创建它的人,以及创建的目的。那天,李飞飞在国会山指出,如果没有一群背景多样的工程师,我们可能会创建出一套有偏见的算法,做出不公平的贷款申请决策,或者只在白人脸上训练神经网络,从而创建出一种在黑人脸上表现不佳的模型。“我认为,如果我们20年后觉醒,发现我们的技术、领导者和从业者缺乏多样性,那将是我的末日图景,”她说。

本文引用地址:http://www.eepw.com.cn/article/201811/394572.htm

  李飞飞开始相信,关键任务是把人工智能的发展重点放在帮助人类体验上。她在斯坦福大学所从事的一个项目是与医学院合作,将人工智能带到ICU,努力减少诸如医院获得性感染之类的问题。它涉及到开发一个摄像头系统,可监控洗手站,并在医院工作人员忘记正确擦洗量给出提示。这种类型的跨学科合作是不寻常的。斯坦福大学临床卓越研究中心主任、医学教授阿诺德·米尔斯坦(Arnold Milstein)说:“没有其他来自计算机科学领域的人向我伸出援助之手。”

  应当如何进化?这项工作让李飞飞看到了希望。可以用来补充人们的技能,而不是简单地替换之。如果其他学科的人(甚至是现实世界中的人)加入这一工程,他们就可以制造出一些工具来扩展人类能力,比如实现耗时工作自动化,让ICU护士有更多时间陪伴病人,而不是建立人工智能使某人的购物体验自动化,并让出纳员下岗。

  考虑到正在飞速发展,李飞飞认为她的团队需要调整人员——越快越好。

  帮助女性进入计算机领域


李飞飞在斯坦福大学人工智能实验室

  李飞飞在斯坦福大学人工智能实验室

  李飞飞对数学相当很痴迷,她深知要让女性或者其它有色人种进入计算机领域,需要付出巨大努力。根据国家科学基金会(National Science Foundation)的统计,2000年,女性拿到的计算机学士学位只占全年总量的28%,2015年更是降到18%。在李飞飞自己的实验室内,也很难聘请到足够多的有色人种和女性研究员。李飞飞说,虽然她的实验室比典型AI实验室更加多样化,但是男性仍然占主导。她还说:“女性不够多,少数民族更是不够多,实验室储备人才也存在这样的问题。学生参加AI会议,会看到90%的与会者都是同性,非裔美国人的数量也远没有白人男性多。”

  当李飞飞成为奥尔加·鲁萨科沃斯基(Olga Russakovsky)的导师时,她几乎快要退出行业。鲁萨科沃斯基当时已经是一名计算机科学家,拿到了数学学士学位和计算机硕士学位,都是在斯坦福拿到的,但是她在论文方面落后了。鲁萨科沃斯基是实验室唯一的女性,她觉得自己与同行脱节了。后来李飞飞来到斯坦福,情况有了变化。李飞飞帮助鲁萨科沃斯基学会一些研究技能,鲁萨科沃斯基还说,李飞飞让她有了自信。现在鲁萨科沃斯基是普林斯顿大学计算机系的助理教授。

  4年前,鲁萨科沃斯基念完博士,她希望李飞飞能帮助自己建一个夏令营,让那些对AI有兴趣的女士参与进来。李飞飞同意了,她们马上召集志愿者,给高中二年级学生打电话。虽然只有24个名额,但是一个月之内却收到200份申请。2年后,他们扩大了项目,设立非盈利组织AI4All,将年轻人带到斯坦福、加州大学伯克利分校,包括女孩、有色人种、经济状况不佳的人。

  在加州奥克兰市区,AI4All有一个狭小的共享办公室,由于组织的成长,现在它即将搬出。现在AI4All在6所大学设立夏令营。去年她们在卡耐基梅隆大学举办夏令营,为20个名额招募成员,收到900份申请。有一名AI4All学生想用计算机视觉技术侦测眼病,还有一人用AI编写程序,给911呼叫按紧急程度排序,由于救护车未能及时抵达,这名学员的祖母不幸离开人世。很明显,个人视角会给未来AI工具带来巨大影响。

  旅程


斯坦福大学AI实验室内,装丰田Human Support机器人的箱子

  斯坦福大学AI实验室内,装丰田Human Support机器人的箱子

  在斯坦福管理实验室近3年后,李飞飞于2016年离开,加盟,担任云(Google Cloud)首席科学家,谷歌云是公司的企业计算业务部门。李飞飞想知道行业是如何运作的,如果能根据客户的关注点部署新工具,也许可以扩大自己的研究范围。Facebook、谷歌、微软等企业也投入巨资,研究AI,希望AI能帮助业务快速发展。与大学相比,企业拥有更多更好的数据。对于AI研究人员来说,数据就是燃料。

  最开始时,李飞飞充满激情与活力。她与企业会谈,将科学研究应用于现实。在她的领导下,部门推出面向公众的AI工具,有了这套工具,任何人不需要写一行代码就能开发机器学习算法。她在中国设立实验室,优化AI工具,用于医疗健康领域。她在达沃斯世界经济论坛发表演讲,与国家元首、流行艺人交流。

  然而,在私营企业工作带来新的压力,这种压力往往让人不舒服。去年春天,由于谷歌与美国国防部签署Project Maven合同,李飞飞招来非议。从本质上讲,项目就是要用AI工具分析视频图像,政府可能会用该技术控制无人机袭击目标,按照谷歌的描述,它们可以用AI识别低分辨率目标,拯救生命才是首要使命。许多员工反对公司将自己开发的技术应用于军事无人机。当时4000名员工请愿,要求公司发表声明,承诺谷歌与合同承包商不会开发战争技术。还有几人辞职抗议。

  虽然李飞飞没有直接参与交易,不过负责Maven项目的正是她所工作的部门。李飞飞写过一封邮件,希望公司不要陷入尴尬境地,这封邮件被《纽约时报》拿到,媒体报道将李飞飞推向风口浪尖。看起来让人困惑,因为在整个行业李飞飞如同伦理道德的化身。事实上,在公众抗议之前,李飞飞认为这门技术是无害的,她从未想过员工会反感。

  为什么会出现这样的问题?李飞飞还是知道的,她说:“问题的关键不在于事件本身,而在于时间点,企业的责任感、AI崛起、硅谷应该参与对话,所有这些因素交织在一起,Maven项目成为了交汇点。”虽然谷歌说自己“不做恶”,立场还不够鲜明。

  迫于压力,谷歌没有续签Maven合同,争议慢慢平复。一些谷歌科学家和高管组成团队,李飞飞也是其中一员,他们编写公开指南,承诺谷歌会用AI技术造福社会,避免工具出现偏见,不让工具伤害人类。一直以来,李飞飞都在为重返斯坦福做准备,不过她觉得自己有必要亲眼看到指南通过。李飞飞说:“每个机构都必须设立一套行事原则,评估流程时必须负责,我觉得这点相当重要。本杰明·富兰克林曾经说过,当宪法出台时,它可能不是完美的,但它的确是当时最好的。大家会有不同的意见,不同的派别可以继续对话。”李飞飞说,指南发表的几天是她当年最快乐的几天。李飞飞还说:“能够参与,能够做点贡献,对我而言相当重要。”

  AI伦理

  6月份,我前往李飞飞的家中拜访她,李飞飞的家在斯坦福校园。那时刚好晚上8点多一些,当我们交流时,她的丈夫将小儿子和女儿送到楼上睡觉,父母在姻亲的单元楼过夜。餐厅变成了游戏室,所以我们坐在客厅聊天。到处都是家人的照片,架子上放着一台1930年代的老式坏电话。当我问她时,她说父母是移民过来的,李飞飞的父亲喜欢去跳蚤市场出售旧东西。

  一边交流,信息在手机上跳了出来。医生给李飞飞的母亲开了药,父母让她将说明翻译给自己听。李飞飞可能会在Googleplex开会,或者在世界经济论坛演讲,也可能正在参加国会听证会,如果父母需要帮助,会发短信给她。她马上回应,没有打断思路。

  在生活的大部分时间里,李飞飞往往需要同时关注两件不同的事。她是一名科学家,对艺术也有着深刻的见解。她既是美国人,又是中国人。她对人很感兴趣,也对机器人感兴趣。

  7月末,李飞飞打电话给我,当时她们家正在为旅行做准备,她在给女儿洗手。李飞飞问我:“你看到沙伦·沃拉尔(Shannon Vallor)发表的声明了吗?” 沃拉尔是圣塔克拉拉大学的哲学家,专门研究新兴科学技术存在的哲学与伦理问题,她说自己要到谷歌云工作,担任伦理顾问。

  为了这件事,李飞飞做了许多努力,在华盛顿证词中,她曾经引用沃拉尔的话说:“没有真正独立的机器价值,机器价值就是人类价值。”谷歌任命史无前例。其它企业也行动起来,围绕AI软件的使用、谁能使用设置围栏。2016年,微软设立内部伦理委员会,微软还说,由于伦理委员会存在伦理担忧,它已经拒绝与某些潜在客户合作。如何使用AI技术?微软也开始设限,比如封杀某些面部识别应用。

  7月份我们交谈时,李飞飞知道自己即将离开谷歌,2年的休假快要结束了。当时有许多人猜测说,李飞飞会因为Project Maven争议离开。不过李飞飞却说,她之所以回到斯坦福,主要是因为不想放弃学术职位,而且她也有些累了。李飞飞还说,在谷歌度过动荡的夏天之后,伦理指南就像是隧道尽头的一线光。

  李飞飞渴望能在斯坦福设立新项目。秋天,李飞飞与约翰·艾切曼第(John Etchemendy,前斯坦福大学教务长)宣布说要设立一个学术中心,将AI与人类研究融合在一起,汇聚硬科学、设计研究、多学科研究。李飞飞认为:“作为一门新兴科学,AI从没有真正倾尽全力吸引人文主义者和社会科学家参与进来。”许久以来,大家都认为这些领域对AI来说无关紧要,但李飞飞却认为它相当关键。

  从本质上讲,李飞飞是一名乐观主义者。6月参加听证之后,她曾告诉立法者:“我深入思考那些对人类既危险又有危害的工作,比如救火、自然灾害搜救。”她相信,技术可以帮助人类尽可能避开危险。

  想让单个机构的单个程序改变整个行业的确有些难,受到诸多限制。尽管如此,李飞飞还是认为要竭尽所能训练研究人员,让他们像伦理学家一样思考,研究人员用原则而非利润指导自己行事,背景多种多样。

  在电话中,我问李飞飞,她有没有想过AI也许可以用完全不同的方式发展,避开至今我们所看到的问题。她回答说:“很难想象。”李飞飞还说:“科学进步和创新来自于几代人的乏味工作,要不断纠错试错。我们花了一段时间才认清偏见。我工作了6年,然后才意识到:‘天啊,我们陷入了危机。’”

  在美国国会山参加听证时,李飞飞曾说:“AI科学还很稚嫩,作为一名科学家,我感受到自己的卑微。这门科学诞生只有60年。一些经典科学存在已久,比如物理、化学、生物学,这些科学每天都在进步,让人类生活变得更好,与它们相比,AI还要走漫长的路才能认清自己,知道自己有哪些可以帮助人类的潜能。用适当的指南引导AI发展,可以让生活变得更美好。如果没有指南,技术会让贫富分化变得更严重,让排斥力变得更强大,进一步强化偏见,几个世代以来,我们一直在努力克服这种偏见。”李飞飞试图让我们相信,现在的时代已经是一个介于发明和影响(指发明带来的影响)之间的时代。


上一页 1 2 下一页

关键词: AI 谷歌

评论


相关推荐

技术专区

关闭