有偏差的数据样本或模型开发实践可能会给对人工智能感兴趣的企业带来麻烦，并削弱该技术的投资回报。 当企业谈论人工智能时，就无法回避谈论该技术的偏差以及它如何影响一个模型。 这种偏差可以通过两种不同的方式影响企业对人工智能的使用。第一种方法与模型的有效性有关。也许数据科学家有一个关于世界是如何运作的思维模型，但是这个模型证明是无效的。开发人工智能应用程序将导致令人失望的结果。 数据与社会研究所研究员Madeleine Clare Elish表示：“人工智能有各种各样的方法可以反映出那些收集数据的人的偏差，所以我们需要仔细思考数据集的收集方式。” Elish说，当人工智能应用于有针对性的营销或客户服务领域时，这种偏差会带来不小的影响。 然而，第二种偏差可能对人们更具影响力。 Elish谈到人工智能如何越来越多地渗透到保险、信用评分和刑事司法等领域。在这些领域，无论是来自不具有代表性的数据样本，还是由开发者的无意识偏袒而产生的偏差，都可能会带来更严重的影响。

减少人工智能的偏差

另一个人工智能系统偏差会影响的领域是招聘。但在这个领域，人工智能也可以成为对抗偏差的工具。Lindsey Zuloaga是位于犹他州南部HireVue公司的一名数据科学家，她希望在招聘决策时应用人工智能以减少偏差的影响。她表示，人工智能可以通过减少面试官对声音或外表等因素的主观判断来帮助评估应聘者。 Zuloaga说：“我认为人们根据自己的价值进行评判是很重要的。我们渴望公平，但在招聘过程中，很多事情真的是不公平的。” HireVue平台用来录制候选人录像的片段。 然后，人工智能根据预定义的标准对候选人进行评估。使用该平台的企业会被问到，随着时间的推移，员工们会如何利用这一平台进行工作。 从理论上讲，偏差可能会蔓延到这个过程中。例如，雇佣者可以只给适合组织的员工发送反馈意见，这可能是表达种族或性别偏差的另一种方式。 但Zuloaga说，她和其他公司的数据科学家试图通过深度学习算法来避免这种情况。大多数神经网络的功能都是一个黑盒子，但是，在开发人工智能应用程序时，Zuloaga和她的团队可以对这些模型进行解释，并确保算法只根据他们预期的工作表现来推荐候选人。

开发人工智能需要良好的数据

通常，有偏差的人工智能模型没有问题，问题可能来自数据本身。人工智能和深度学习模型非常善于推断微妙变量之间的关系。但在某些情况下，这是不可取的。 MITRE公司的高级首席科学家Lashon Booker说，这就是为什么说确保模型训练数据是人口模型的代表，而且只包含必要的数据字段，是非常重要的。 “这是一个巨大的挑战，”Booker在一次会议上表示。自从几年前大数据流行以来，企业已经积累了大量的数据。在培训深度学习模式方面，这通常是一件好事。不过，他指出，当你实际上不知道数据集中的深层次学习算法将如何构建模型时，从大数据集中消除潜在的偏差源可能是困难的。 确保数据以一种代表人口模型的方式收集，并删除任何已知的偏见来源都有帮助。Booker说：“你得到的训练数据可能比你想象的更具挑战性，大数据不可能是你的朋友。”