AI需要处理性别偏见——或者它将永远不会达到其潜力

Ada洛佩兹,高级经理,全球产品多样性的办公室,联想

过去一年,人工智能(AI)成为一个在世界各地的餐桌上的话题,由于机器人ChatGPT等让用户炫目的能力构成栩栩如生的文本,甚至计算机代码。但当AI做出错误的决定会发生什么呢?

这是一个严重的问题。偏见——特别是性别偏见是常见的在人工智能系统中,导致各种各样的伤害,不受歧视和降低透明度,安全和隐私问题。在最糟糕的情况下,错误的AI的决定可能损害职业,甚至牺牲生命。没有处理艾未未的偏差问题,我们风险不平衡的未来——一个AI不会充分发挥潜力的工具。

人工智能只是一样好训练数据集。大部分数据是偏向男性,从网络新闻文章中使用的语言书籍。研究表明,训练人工智能在Google新闻数据导致关联的男性角色,如“船长”和“金融家”,而女人与“接待员”和“家庭主妇”。

因此,许多人工智能系统、训练等偏见的数据,通常主要由男性团队,有重大问题与女性,似乎从信用卡公司提供更慷慨的信贷,工具从COVID到肝脏疾病筛查。这些地方是错误的决定会损害人们的金融或身体健康。

这是雪上加霜的是,只有22%的专业人员在人工智能和数据科学是女性,根据世界经济论坛的研究。性别本身也成为一个更复杂的主题,由于非二进制和变性表达式,从而导致更多的潜在的偏见在许多不同的形式。

人工智能是一个功能强大的工具,为我们提供了机会解决以前不能解决的问题从癌症到气候变化,但除非偏差问题解决,AI风险不值得信任,最终无关紧要。如果人工智能专业人士不能面对偏见问题,这些工具将不会有用,和人工智能行业风险另一个AI的冬天,在1970年代,当对技术的兴趣枯竭。

处理数据

展望未来,企业将越来越多地依赖于人工智能技术将数据转化为价值。根据联想的人类的数据报告,88%的商界领袖说,人工智能技术将帮助他们组织的一个重要因素释放其数据的价值在未来五年。

所以商界领袖将如何处理这个问题的偏见?历史上第一次,我们有一个强大的技术,完全由我们自己对世界的理解。人工智能是一个镜子,我们容纳自己。我们不应该震惊我们看到在这个镜子。相反,我们应该利用这些知识来改变我们做事的方式。,首先确保我们的组织的工作方式是公平的性别表示和包容,但也关注如何收集和使用数据。

每当你开始收集数据,处理它,或者使用它,你插入偏见的风险。偏见可以在任何地方蠕变:如果有更多的数据为一个性别,例如,如果问题是男人写的。

商业领袖,考虑数据从哪里来,如何使用,如何解决偏见将变得越来越重要。

技术解决方案也将发挥重要作用。数据科学家没有奢侈的经历每一行的文字用于训练模型。

这个问题有两种解决方案:一个是有更多的人来测试模型和发现问题。但更好的办法是更有效的工具来找到偏见,无论是在AI是美联储的数据,或模型本身。ChatGPT,例如,研究人员使用一种精神学习模式注释可能有问题的数据。人工智能社区需188bet网址怎么打不开要关注这个。工具来提供更大的透明度在人工智能的运作方式也很重要。

理解偏差

它还帮助如果我们考虑更广泛的背景。我们今天使用的工具已经创建的偏差模型我们将适用于未来。我们可能会认为我们现在已经“解决”一个偏见问题,但在50年,例如,新工具或证据可能会完全改变我们如何看待某些事情。这是此病的诊断的历史一样,收集的数据主要是女孩。障碍的男孩缺乏数据偏差引入数据建模几年后,导致不准确的诊断和治疗对男孩的建议。

同样,在100年,人类可能每周只工作三天。这意味着数据现在是偏向一个为期五天的看待事物的方式。数据科学家和企业领导人必须考虑上下文。理解社会环境是同样重要的是今天在多个地区运营的企业。

掌握这些问题将成为负责任的AI的试金石。商业领袖们利用人工智能技术,是意识到这些问题的重要性将增长,以及公众和监管利益。到明年,60%的AI供应商将提供一种手段处理技术与技术本身可能带来的危害,根据Gartner。

商业领袖必须彻底负责人工智能和创建自己的计划组织的定义,这意味着什么,通过识别和评估风险,偏见可以潜入。他们需要与利益相关者了解潜在的问题,区分如何推进最佳实践。负责任地使用人工智能将是一个漫长的过程,需要领导的持续的关注。

负责任地使用AI的奖励,和根除偏见它爬的地方,将是相当大的,允许企业领导人改善他们信任的声誉,公平和问责制,而给他们的组织提供真正的价值,为客户和社会作为一个整体。

企业需要处理这个在董事会层面确保偏差处理和负责任地使用人工智能在整个组织。这可能包括推出自己的AI委员会负责确保所有人工智能应用程序评估偏差和其他问题。领导人还需要解决妇女的更广泛的问题,尤其是在科学数据。女性——特别是那些在领导角色,将中央解决性别偏见在人工智能的问题。

一个AI-driven未来

了解性别偏见的问题,致力于有效的方法处理将是至关重要的有远见的组织希望利用人工智能解锁他们的数据的价值。

仔细思考如何使用人工智能技术在一个组织,使用工具来检测偏差,确保透明度,会有所帮助。但是商界领袖也需要更广泛的数据从哪里来,它是如何使用的,并正在采取什么措施避免偏见。这样做将会解锁的关键数据的价值,建立一个包容性的未来人工智能可以充分发挥作用。