数据不是抽象的，它直接影响人们的生活。

在2019年，由AI驱动的送货机器人在穿越繁忙的马路时暂时阻止轮椅使用者安全进入路缘。该人士在谈到这一事件时指出：“重要的是，技术的发展（不要）使残疾人成为抵押。”

与其他少数族裔一样，残障人士长期以来都受到有缺陷的数据和数据工具的伤害。残疾是多样的，细微的和动态的；它们不适合AI的公式化结构，后者是通过编程来查找模式和形成组的。由于AI将任何异常数据都视为“噪声”，而忽略了它，因此常常将残疾人排除在结论之外。

残疾是多样的，细微的和动态的；它们不适合AI的公式化结构，后者是通过编程来查找模式和形成组的。

以Elaine Herzberg为例，他在2018年被自动驾驶的Uber SUV撞死。在撞车发生时，Herzberg推着一辆自行车，这意味着Uber的系统很难对她进行分类，并且在给她贴标签之前fl之以鼻。作为“车辆”，“自行车”和“其他”。这场悲剧给残疾人带来了许多问题。轮椅或踏板车上的人是否会面临同样的致命错误分类风险？

我们需要一种收集和处理数据的新方法。“数据”的范围包括个人信息，用户反馈，简历，多媒体，用户指标等等，并且它一直被用来优化我们的软件。然而，这不是与邪恶的方式，它可以和频谱的理解这样做是错误的手中使用，或当原则并不适用于建筑的每一个接触点。

我们的产品早就应该采用新的，更公平的数据框架，以确保在考虑残疾人的情况下管理数据。如果不是这样，在日益依赖数字工具的日常生活中，残疾人将面临更多的摩擦和危险。

错误的数据会妨碍良好工具的构建

缺乏可达性的产品可能不会阻止残疾人离开家园，但可以阻止他们进入生活的关键点，例如高质量的医疗保健，教育和按需分娩。

我们的工具是其环境的产物。它们反映了创作者的世界观和主观视角。长期以来，同一群人一直在监督有故障的数据系统。这是一个闭环，其中永久存在潜在的偏见，而那些已经不可见的群体仍然看不见。但是随着数据的发展，这个循环变成了滚雪球。我们正在与机器学习模型打交道-如果对它们的学习时间足够长，以至于“不是X”（读：白人，强壮，顺从）就意味着不“正常”，那么它们将在此基础上发展。

数据以我们不可见的方式相互关联。仅仅说您的算法不会排除已注册残障人士是不够的。偏差存在于其他数据集中。例如，在美国，拒绝某人的抵押贷款是非法的，因为他们是黑人。但是，通过在很大程度上依赖于信用评分的过程（信用评分固有的偏见不利于有色人种），银行间接地将社会阶层排除在外。

对于残疾人来说，间接偏见的数据可能是体育锻炼的频率或每周通勤的小时数。这是间接偏见如何转化为软件的一个具体示例：如果聘用算法研究视频面试中候选人的面部动作，那么认知障碍或行动不便的人所面临的障碍与健全的申请人不同。

该问题还源于残疾人没有被视为企业目标市场的一部分。当公司处于集思广益的初期阶段时，人们的残障往往无法解决，特别是当他们的注意力不那么明显时，例如精神健康疾病。这意味着用于迭代产品或服务的初始用户数据并非来自这些人。实际上，仍有56％的组织没有在残疾人中例行测试他们的数字产品。

如果科技公司积极地将残疾人纳入团队，那么他们的目标市场更有可能具有更大的代表性。此外，所有技术人员都需要了解并考虑其数据中的可见和不可见排除。这不是简单的任务，我们需要对此进行协作。理想情况下，我们将进行更频繁的对话，论坛和知识共享，以了解如何消除我们日常使用的数据中的间接偏见。

我们需要对数据进行道德压力测试

我们一直在测试我们的产品-在可用性，参与度，甚至徽标首选项方面。我们知道哪种颜色最适合转换付费客户，以及最能引起人们共鸣的词语，那么为什么不设置数据道德标准？

归根结底，创造道德技术的责任不仅在于高层。那些日复一日为产品铺砌砖块的人也应承担责任。正是大众汽车工程师（而非公司首席执行官）因开发一种使汽车能够逃避美国污染法规的设备而被判入狱。

工程师，设计师，产品经理；我们所有人都必须承认我们面前的数据，并思考我们为什么收集数据以及如何收集数据。这意味着要剖析我们要求的数据，并分析我们的动机。询问某人的残疾，性别或种族是否总是有意义的？拥有此信息如何使最终用户受益？

在Stark，我们已经开发了五点框架，可以在设计和构建任何类型的软件，服务或技术时运行。我们必须解决：

我们正在收集什么数据。

为什么我们要收集它。

如何使用（以及如何滥用）。

模拟IFTTT：“如果是这样，那么那就是。” 说明可能严重使用数据的可能情况，以及替代解决方案。例如，大规模数据泄露如何影响用户？如果此私人信息对他们的家人和朋友公开，会发生什么？

运送或丢弃这个想法。

如果我们只能用模糊的术语和不明确的期望或通过扩大事实来解释我们的数据，则不应允许我们拥有这些数据。该框架迫使我们以最简单的方式分解数据。如果我们做不到，那是因为我们还没有能力负责任地处理它。

创新必须包括残疾人

从疫苗开发到机械手开发，复杂的数据技术一直在进入新的领域。这些部门对残疾人的任何偏见都使他们无法获得最前沿的产品和服务。随着我们在生活的各个细分领域对技术的依赖性越来越强，我们进行日常活动的方式还有更大的余地。

从一开始，这就是关于前瞻性思维和将其包含在您的产品中的全部内容。金钱和/或经验并不是这里的限制因素-改变您的思维过程和发展旅程是免费的；这只是朝着更好方向的有意识枢纽。虽然前期成本可能是沉重的负担，但您因不打入这些市场而损失的利润，或者由于最终要对产品进行线下改造而造成的利润大大超过了最初的支出。对于企业级公司而言，尤其是这样，如果不遵守法规，它们将无法获得学术界或政府合同。

因此，早期公司将可访问性原则集成到您的产品开发中，并收集用户数据以不断加强这些原则。在您的入职，销售和设计团队之间共享数据将使您更全面地了解用户遇到的困难。后期公司应该进行自我评估，以确定产品中缺少哪些原则，并利用历史数据和新用户反馈来生成修复程序。

对AI和数据的全面改革不仅仅是适应业务框架。我们仍然需要掌舵的人更加多元化。这些领域仍然绝大多数是男性和白人，在科技领域，有许多关于排斥和偏见残疾人的第一手资料。在负责管理数据工具的团队本身变得越来越多样化之前，国家的增长将继续受到抑制，而残疾人将是受灾最严重的人员。