对于大多数人来说，人工智能算法可能是一个谜。原始数据占据一端，答案出现另一端。该信息可能是信用决定，器官捐赠的优先级排序，甚至是您应该在Netflix上观看的内容。

但是在过去的几年中，一件事变得越来越清楚 - 这些算法通常不利，尤其是在金融方面。当AI科学家和工程师的团队未能考虑各种背景时，种族偏见可能会渗入人工智能。通过他们围绕哪些数据使用以及哪些数据更重要的选择，他们可以创建有系统地不利的黑人小企业主的算法。

霍华德大学，华盛顿特区历史上历史悠久的黑人大学正在采取一种新颖的方法来解决这个问题，它始于未来的开发人员。它的新应用数据科学与分析中心，部分通过万事达卡的500万美元赠款资助，将培训下一代数据科学家如何消除AI中的偏见。该中心的新研究生数据科学计划将于今年秋天启动，它将教会学生解决数据权益问题。

霍华德·普罗沃斯特（Anthony Wutoh）说：“当我们在创建算法的个人技能上没有多样性时，存在潜在的危险。”

AI偏见可以以多种方式出现。例如，消费者可能不符合信用卡的资格，因为AI批准正在寻找以前的信用卡付款历史，而申请人可能只使用现金。

银行可能会否认想要根据其邮政编码建立新房屋的贷款申请人，因为AI模型是基于以下假设：较贫穷社区的某人会拖欠贷款 - “将过去的不公正现象编纂为他们的模型，” Cathy写道O’Neal in her book “Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy.”

“解决问题至关重要，因为AI中的偏见可以有效地阻止对重要服务的访问，”188bet上不了万事达卡的包容性增长中心，该公司正在管理赠款的慈善枢纽。“霍华德大学正在采用一种新颖的方法来解决这一问题，通过投资新一代的专业人员，他们可以在其源头上打击该问题。”

人工智能中的偏见不仅可以为黑人社区，其他有色社区以及使用这些系统的任何人创造不公平的负面结果。这意味着解决人工智能偏见可以帮助黑人消费者和企业主在财务和信贷中创造股权，同时也对历史上陷入正规经济的其他群体产生积极的下游影响。

霍华德生物化学教授威廉·索斯特兰（William Southerland）说：“如果您来自一个贫穷的家庭，可能没有人有信用卡。”“您可能对财务负责，但您的评估可能会嘈杂。”

正如Wutoh指出的那样，AI偏见远远超出了金融世界。研究人员发现，一种预测的医疗保健算法哪些患者需要额外的谨慎识别黑人患者更健康，需要更少的治疗，并可能危及他们的健康。ProPublica记者发现，决定保释设置的模型被标记为黑人被告，犯下另一种犯罪的可能性几乎是两倍。

建立更公平的人工智能可以帮助解决这些类型的偏见并防止种族财富差距 - 美国黑人家庭有十分之一的财富白人家庭 - 从进一步扩大。近年来，越来越多的公司，非营利组织甚至美国政府都考虑了消除AI偏见的话题。例如，IBM创建了AI伦理委员会，而美国立法者写了算法责任法。

霍华德的新中心正在采用跨学科的方法来改善AI。教授不仅来自计算机科学和工程领域，而且还来自艺术。通过为构建算法带来更广泛的方法，希望是在偏见成为问题之前消除它。

Southland说：“我们希望在民主化数据科学中发挥作用。”

霍华德（Howard）的500万美元赠款是万事达卡（Mastercard）的一部分，总共提供了1000万美元，以帮助历史上的黑人学院和大学缩小种族财富和机会差距，并创造更具包容性的经济，包括帮助Morehouse College和Spelman College推出黑人企业家中心为了进一步发展尖端的企业家编程，为有抱负的黑人企业家提供了思想领导，网络，学术和指导机会。这项投资是万事达卡的最新一项在团结倡议中打击种族主义并为所有人创造平等的机会。

Wutoh说：“我们希望使用数据科学回答一些我们认为霍华德会产生重大影响的更广泛的社会问题，包括围绕医疗保健和经济差异以及刑事司法改革的动力。”“数据科学触及了一切，并且在我们所做的一切中都将继续产生越来越多的影响。”

照片由霍华德大学提供。

查看MasterCard中心的更多内容，以了解包容性增长