首创负责任和性别包容AI实现公平未来

Marine RabeyrinEMEA教育段主管Lenovo领导公司在法国多样性网络达15年之久点名人工智能对多样性和兼容性问题的初始影响时,她率领法国非政府组织集团创建Womes&AI保证帮助公司采取切实步骤减少风险并创建负责任和性别公平的AI率先通过Lenovo世界范围实现保证,她帮助公司通过及早采取影响性行动引导行业

后续讨论列诺沃Global产品多样性办公室管理者Ada Lopez四月在这个关键题目上,Marine讨论我们如何实现改变

几时你第一次发现AI破坏两性公平的潜力

有几个例子触发我的关切AI工具显示更好地诊断乳腺癌,例如,但从反向看,我们知道在心脏病方面,更多数据来自男性比女性,因此AI系统可能难以识别女性翻译工具是我早期发现的另一个领域工职标题中性化时,例如英语中名“Doctor”,它往往用其他语言翻译为男性,社会上较有价值工作也是如此,而价值较低的工作则翻译为女性第一次真正开眼机是我读到一大技术公司五年前正在做实验时使用AI选择CV显示工具在工程作业和许多领导角色方面歧视妇女幸运的是,当公司发现实验停止后,它真正说明AI对工作场所性别平等的具体影响

AI性别偏向为何重要?

教育方面,AI可以对学生、教师和组织本身产生正面和负向影响有许多新智能教程工具支持学生学习行程并工具支持残疾学生聊天GPT对plagiism表示担忧, 但也帮助教职员工检测并整理教程素材也可以支持师生评估, 但我想用风险说明这一点2018年研究组进行的一项研究显示,用于评估学生的AI系统给男孩比女孩高分,解释之一是系统偏向性,接受反映性别陈规定型观念数据培训对机构本身而言,一个有用的AI福利正在提高组织效率并辅助录入,但也可能有风险。2017 Stanford研究发现,AI系统向学生推荐课程不太可能推荐数学或科学女性,甚至算分数和其他性能因子人工智能教育中的一个关键点是,这就是我们教书和装备未来使用或开发人工智能的员工的地方。极需解决校内性别偏向风险问题,因为这些学生将及时支持AI行程本身

和AI工作组的目的何在? 如何帮助创建积极的AI未来?

在法国,Lenovo是一个名为CercleInterels的非政府组织成员,由STEM行业16家公司组成,20年来他们一直协同工作,促进工作性别平等。5年前,我们正在讨论AI问题,特别是关于CV选择问题,并意识到随着AI开发,这项工作可能面临风险。我们觉得我们需要做点什么, 和谁比IT公司更好数家技术公司成立Weet & AI工作组,成员来自非常不同的领域,从AI专家到营销、物流和营销人员都有一个最终目标做点积极的事情, 并联手创建了Women&AI保证接受问责和性别公平AI三年前我们启动保证支持公司并展示什么是可能的, 因为大多数企业都想做点什么环绕道德AI构建自身并防性别偏向,

Women & AI保证内容何在

质押有7项关键原则,公司如想以负责任和性别公平方式产生或使用AI时,可使用这些原则采取行动其中包括建设强管治 开发道德设计 控制或控制公司技术方面,如数据算法和输入过程控制AI成型,因为它可逐步产生偏差保证构建AI团队的多端性足以识别偏差 其他人最初可能看不到 这一点也至关紧要最后,公司内部向各类雇员宣传很重要例如,HR可能购买AI职业发展工具,但如果他们不知道这些工具可能有偏向性,则无法挑战这些工具。质押建议不同步骤驱动此行程第一,通过签署协议作出承诺表示,是的,我们想对此做点什么并随后进行评估, 通过网格可以实现 基于七大原则, 他们可以评估 成熟度在这个区域第三步是采取行动增强强点或减少弱点,我们有一个工具箱帮助公司快速行动最后一个步骤就是以身作则 证明有可能做点事并产生正面效果

列诺沃如何在自身文化中应用这项保证

与Lenovo分享内部保证时, 我很高兴, 因为利害相关者快速表示, `让我们世界范围接受它',2021年签署宪章公开承诺并创建负责AI委员会之后我们做了评估 理解我们在哪里 从中,我们意识到D&I是我们最强资产开发AI的人已经意识到需要关注偏向问题,最近我们也取得了巨大进步,将所有AI专题嵌入公司内名为产品多样性办公室的结构中,审查我们即将推出的每一产品,以确保它与多样性期望相匹配。进步需要焦点和努力, 但它也可以简单化, 我认为我们的行程堪称模范 公司可以开始处理这个题目