人工智能也存在种族歧视吗

※发布时间:2019-11-15 23:52:21   ※发布作者:小编   ※出自何处: 

  2017年,一款皂液分发器走红网络:在推特用户Chukwuemeka Afigbo上传的视频中,一位白人男性在分发器下方挥手,皂液正常流出;而黑皮肤的手放到分发器下时,机器却毫无反应。这两个人交谈着,再一次这台冒的、乐柏美商务用品出品的机器。一人问:“你的手怎么回事?”另一个回答说:“太黑了。”

  他说的也有道理。皂液分发器通过灯泡发射不可见光,接收手的反射光启动机器。肤色较暗的人吸收的光多于反射的光,因此阻碍了皂液分发器的正常工作。

  这则视频在全球广泛流传,被分享成百上千次,也激起不少;这告诉了我们一个简单的道理:不同于长期以来技术推动人类进步的说法,技术仍然存在种族差异。

  技术在娱乐应用程序里的失败技术应用是一回事,但环顾四周会发现,生活中常用的技术出现种族差异是另一回事。如果你怀疑世界建立之初就只考虑到了白人,不妨看看新一轮技术热潮是如何在早期开发过程中忽略“有色人种”的。

  开发者承担了大部分责任,同时科技初创公司正尝试填补硅谷及其他地区“白人男性”开发者留下的空缺。到了2017年,开发人员自主研发不再是什么新鲜事,但让技术忽略大部分全球人口,无非是个亏本买卖。有关新闻(附带视频)报道了一名刘姓中国学生的iPhone X面部识别功能如何无法分辨他和他的母亲。技术的失误带来的安全隐患仅仅基于种族问题。

  肤色问题在面部识别软件中的表现得更为严峻:后者在遇到执法过程中无法摆脱对黑人面孔的无意识。Alexandria Ocasio-Cortez议员于五月就亚马逊和移民和海关执法局(ICE)对监管委员会(House Oversight Committee)提出质询,她指出,“这些算法的有效程度因人而异”,并进一步提问,它对女性、有色人种和不同性别是否有效。得到回应均为否定时,她提出了一个尖刻的问题:这些算法对谁最有效?回答很简短:“肯定是白人男性。”

  今年,也许最令人担忧的是一份Georgia Tech的报告,该报告考察了自动驾驶汽车问题,并分析了多种“机器视觉”系统识别不同肤色行人的有效程度。结果表明,比起较深肤色的人,AI系统更善于识别浅色皮肤的行人,成功识别白人行人的几率比黑人高出10%。另一份近期的报告指出,Fitbit等可穿戴心率追踪器在有色人种身上不太靠谱,因为它利用了一种极易被黑色素吸收的绿光。

  无数实例表明,技术设计忽视种族是当今社会的“时兴”问题。长期以来,世界的发展就没有考虑过有色人种,现在随着朝AI和自动化方向的变革,未来似乎仍没有顾及这群人。尽管自动化汽车和面部识别远未在全球范围内普及,此时此刻,人们日常生活中普遍使用的技术正在他们的口袋里传达着有关种族优越的信息。

  “iPhone里的Siri是我现在唯一常用的技术,我主要用它识别像‘带我回家’之类的基础句子,”Julian Mendel在Facetime上说,“但有几次它听到我的声音后没有反应或压根没听懂我在说什么。”

  凭借自己在牙买加长大、近期移居美国的经历,用户Julian Mendel正用(英国人听来)浓重的牙买加口音外加美式鼻音解释Siri的用户体验。“我觉得我的确在用一个不同的声音和Siri说话,因为它绝对听不懂方言。我不认为牙买加那边有这种东西,所以我这种技术还有很长一段要走。对很多人而言,它几乎没什么作用。很多人能够支付技术的费用,却没办法使用它,因为平常大家会说方言。”

  有色人种为了被人理解而采用更清晰(意作:更接近白人)的语音屡见不鲜,但让一些人为新技术而白人的语音习惯至少可以说是令人沮丧的。毕竟,根据口音缩小市场的技术能有多有效呢?

  Mendel不是唯一受这类问题困扰的人。我和带有浓重的印度、韩国和西班牙口音的人交谈过,他们都表示遇到过类似情况。何况还有其他没有说到的语言。所以,有没有方决这个让一部分全球人口无法使用技术的问题吗?

  在的Collision(最大的技术会议)会场上,Mozilla的创意总监Katharina Borchert正面对200名听众。她展示的主题是:用语音数据弥补市场的空白。她穿着时髦,有一头栗色的头发,戴眼镜,说着一口带德语鼻音的口音,Borchert正在解释技术公司代表的“白皮肤的陈旧男性”垄断如何怠慢被她称为来自“新兴市场”的人群。她强调了很多人已经知道的事实:语音识别不能满足有口音或非英语母语者的需求(她指出,即使像中文普通话一样的通用语言也以男性语音为主)。她Common Voice,一个意在通过收集个体声音作为数据集,促进A.I.语音多样化的项目。点击Common Voice,诸如“所有房子都由木材建成”,或“带有种族成见的各种民族恐慌和”等句子贡献语音。

  “我们意识到,数据生态系统十分闭塞,因为总是那么几个大公司拥有训练数据集,”Borchert结束后在茶歇时间说,“苹果、亚马逊、谷歌、Nuance和微软,你可以利用它们的数据集,也可以利用亚马逊Alexa的技能,但这些对于像Mozilla这样有感、重视式网络、立志创造充满机遇的生态系统的公司来说,规模就远远不够。”

  “我们从几年前开始开发语音识别的公司那里得知,他们通常将公共的声音收录到数据集中,这样就不必太担心版权问题。这些音频大多来自说母语、接受过发声训练的男性,所以最后得到的语音是清晰的,因为数据集里大部分声音都如此。自然而然会导致不的结果,因为数据就那些。收集的女声不多,更没有夸张口音。这就是为什么早期版本在识别女性声音方面有很大的问题,因为女性音调与男性的不同。所以,讲话人语音越多样,数据从长远来讲质量也越好。”

  这种方法存在一些问题——数据集的大小取决于讲话人参与的积极性,人们还会担心收集数据的用途。Borchert目前正与从到卢旺达大大小小的社区合作;在东非地区,人们自然会怀疑白人“创意执行官”为什么要找东非原住民声音。“当然,找到愿意说英语的人比找到愿意说卢旺达语的人容易很多,因为掌握后者的人数更少。”她解释道。“所以英语的数据容量比其他语言更容易扩大,不过我认为具体实施还要看社区积极性和参与度。”

  Borchert也认识到,人们在不知道这些数据的最终去向时,是不愿意提供声音信息的。(Borchert,其条款是数据不被非法使用的保障,所有语音数据均会匿名,无法分辨其中的个人信息)

  “我们不想拥有所有数据”她强调,“我们不想构建所有语音系统。我希望我们能引发下一波语音平台创新的热潮。我母亲的英语有浓重的德语口音,她能使用德语版本的Amazon Echo,但她用不了英语版本,也不能用Siri……我的父亲不会用英语和Siri对话。

  她辩称,收集到的数据不仅可以用于养老,理想条件下,还可以用于移动医疗,无需打字就可以问一些简单的问题。显然这样的项目除了调节语音的平衡,还能成为活动的工具。Borchert回忆了近期发生的一件事:活动家和高校人员共同将加泰罗尼亚语和威尔士语的语音引入项目,当时正为这两种语言即将失传而担忧的氛围中。

  Common Voice的进程漫长而艰辛。但它提供了很好的企业方案,有望借助大家的声音现有种族格局,大大改变全球多数老龄化人口使用技术的方式。但真正的改变发生还需要对企业的部署结构进行根本性的,必须用现在的问题重新设定未来。在未界里,人们的技术将源自日常生活。

  目前,我们只做到了第一步,即认识到技术的种族差异。这或许听起来难以接受,但如果你是正在争取技术获取权,希望在家庭日常生活中使用AI的有色人种来说,你比世界上的其他人更难找到方向——白人的语音,把白色餐巾偷偷放在皂液分发器下,失去养老的机会,承担比白人行人更高的风险,可能是你未来短期内需要面对的境况。

  主题简介:本次直播主要四轴机器人控制器基本原理及组成。四轴机器人的核心技术内嵌人工智能算法的工业级运动控制技术和伺服

  随着GPS技术的兴起,RFID标签用于会员卡系统,掌上电脑市场升温,企业能够“看到”他们的流程,而且...

  此外,国网天津市电力公司积极落实国家连续两年降低一般工商业电价10%政策,累计为企业节约用电成本约2...

  数据中心仍然可能是最具创新性、最具活力的技术领域。如果没有它们,金融科技无法银行业,也就没有数字...

  ZETA中国联盟王锐在中表示:ZETA中国联盟致力于推进ZETA LPWA技术的普及,并将其...

  AI场景广告是通过计算机视觉技术对视频数据的提取,将视频内容按照语义关系,采用对象识别、 特征提取等...

  技术、应用出海趋势下,阿里、腾讯、字节跳动、华为、小米、大疆等一系列互联网行业巨头和硬件领域头部企业...

  2019年8月19日,美国信息技术与创新基金会(ITIF)下属的数据创新中心发布报告《谁会赢得AI竞...

  近几年,受产业技术、政策、投融资、领军企业产业生态布局的因素推动下,中国人工智能产业快速发展,成...

  一种软件技术想要落到大众用户手中,硬件显然是必经的途径。人工智能也不例外。近两年我们可以看到AI已经...

  经营模式的创新就是医疗服务、医院人力资源管理、医院财务管理的市场化以及将正确的营销观念引进医院。

  人工智能可以大大加速新药研发的过程——这或许意味着,在不久的将来,不仅体力劳动者面临转型,科研工作也...

  习总在给第三届世界智能大会贺信中指出,中国高度重视创新发展,把新一代人工智能作为推动科技跨越...

  人工智能技术已经逐步渗入到电商行业当中。随着深度学习技术和语音识别技术的成熟,智能客服和智能商品推荐...

  随着人工智能和物联网的应用越来越广泛,有必要了解这两种技术如何协同工作,以使企业和普通人受益。

  这是人工智能自身数据安全风险,即通过在训练数据大千世界的怪事里加入伪装数据、恶意样本等行为可数据的完整性,进而...

  人工智能在日常生活中的落地场景有很多,制造、农业、金融、医疗、交通、城市管理。。.。。.这些无一不是...

  英国大学4日发布新研究显示,研究人员基于人工智能技术开发出一种新工具,可在心脏病发作前至少5...

  蒋志祥表示,世界上有两种运营商:一是传统运营商,二是互联网化运营商,分享通信属于后者——互联网化运营...

  随着人工智能、云计算、大数据等新一代高新技术的快速发展,我国的智慧城市建设也得到了很大的发展。

  在产业智慧化提升行动方面,实施发展产业智能服务平台、智能制造、智慧农业、智慧旅游、智慧物流5个重点专...

  蒋志祥把互联网总结为3个十年。第一个互联网十年,是由运营商主导的十年。以当年做的“声讯系统“举例,“...

  目前,海尔已在全球设立25个工业园和122个制造中心,用户全流程参与的大规模定制模式已在海尔12个互...

  9月7日至10日物博会期间,京东云携手南京市麒麟高新区参加展会,展示双方在物联网、人工智能产业发展等...

  随着人工智能技术的不断突破,AI也更多的应用于人类生活。在谈人工智能的时候,一定不能不谈语音识别,在...

  早在今年5月份,腾讯就提出了“科技向善”的新愿景和。在当天的会上,腾讯董事会兼首席执行官马化...

  在乔治·斯穆特看来,海洋对人类的重要毋庸置疑,但人类的视线却大多停留在陆地上,“我认为海洋经济领域的...

  人工智能是对人的思维信息过程的模拟,目前已经融入到多个行业,重构着各行业的发展模式,也已经渗透到人们...

  浙江省经信厅数字经济处处长魏振华从数字经济概念、背景、意义、发展设想和重点工作等角度,为们展开讲...

  与AI本身就有不解之缘的金融科技,两者的组合能让你联想到什么?人们可能会率先想到的是反欺诈在金融领域...

  人工智能正在以前所未有的速度发展,大大超出了人们的预期,目前全球活跃人工智能企业达到了5000家左右...

  比如,上海中医药大学附属闵行蔷薇小学也被爆出正在构建智能课堂行为分析系统,运用如姿态评估、表情识别、...

  人工智能是新一轮科技和产业变革的重要驱动力量,具有溢出带动性很强的“头雁”效应。加快发展新一代人...

  南京江宁经济开发区管委会主任张传宏表示,江宁正在大力推进绿色智能汽车、新一代信息技术、智能电网等千亿...