美国《算法责任法》草案发布，附全文

美国《算法责任法》草案发布，附全文
2022/3/8 数据法盟

     来源：IAPP

     翻译：蒋月珍，上海交通大学法学院硕士生

     美国参议员罗恩-怀登(Ron Wyden)、参议员科里-布克(Cory Booker)、纽约州众议员伊维特-克拉克(Yvette Clarke)今天提出了《2022年算法责任法案》，这是一项具有里程碑意义的法案，为软件、算法和其他自动化系统带来新的透明度和监督，这些系统被用来对美国人生活的几乎每个方面做出关键决定。

     "如果有人因为你的肤色而决定不租给你房子，这就是完全非法的歧视。使用有缺陷的算法或软件，导致歧视和偏见，也同样糟糕。我们的法案将拉开秘密算法的帷幕，这些算法可以决定美国人是否可以看医生、租房子或进入学校。Wyden说：“透明度和问责制对于给消费者提供选择并为政策制定者提供必要的信息以制定关键决策系统的道路规则至关重要。”

     参议员 Booker说：“随着算法和其他自动决策系统在我们的生活中发挥越来越重要的作用，我们有责任确保对它们进行充分的评估，以消除可能不利于少数群体或边缘化人群的偏见。这就是为什么我很自豪地重新提出这项立法，并创造必要的透明度，以防止不必要的差异，并追究不良行为者的责任。”

     参议员Clarke说：“当算法决定谁上大学，谁获得医疗保健，谁获得住房，甚至谁入狱时，必须将算法歧视作为一个高度重要的问题来对待。这些大型的、有影响的决定，已经越来越缺乏人工干预，它们正在形成社会的基础，未来的几代人将在此基础上发展。然而，它们受到从编程偏见到错误数据集的广泛缺陷的影响，这些缺陷会加强更广泛的社会歧视，特别是对妇女和有色人种的歧视。国会早就应该采取行动，让公司和软件开发商为他们的自动化歧视负责。随着我们更新的《算法责任法》，大公司将不再能够对其自动化系统的有害影响视而不见，无论是否有意为之。我们必须确保我们的21世纪技术成为赋权的工具，而不是边缘化和隔离。”

     该法案要求公司在使用自动决策系统做出关键决策时，对偏见、有效性和其他因素进行影响评估。它还首次在联邦贸易委员会建立了一个关于这些系统的公共存储库，并为委员会增加了75名工作人员来执行法律。

     该法案由民主党参议员布莱恩-沙茨(Brian Schatz)、马齐-希罗诺(Mazie Hirono)、本-雷-卢汉(Ben Ray Luján)、丹米-鲍德温(Tammy Baldwin)、丹尼尔-帕克(Bob Casey)和马丁-海因里希(Martin Heinrich)共同提出。

     参议员Hirono说：“不能仅仅因为决策是由自动化系统和错误的算法做出的，就对歧视和偏见置之不理。这项法案将要求公司审视其自动化的影响，并向消费者提供他们何时和如何受到影响的内容。消费者应该得到公平和公正的待遇。”

     参议员Baldwin说："很多时候，大科技公司的算法把利润置于人们之前，从对年轻人的心理健康产生负面影响，到基于种族、民族或性别的歧视，以及两者之间的一切。美国公众和政策制定者早就应该深入了解这些算法是如何被使用的，以及需要采取什么措施来保护消费者。我很自豪地支持《2022年算法责任法案》，迈出第一步，让威斯康星州和我们国家人民对大科技公司的有害算法有透明度和问责制。"

     威登、布克和克拉克在与几十位专家、宣传团体和其他利益相关者就如何改进法案进行交谈后，更新了2019年的《算法责任法》。2022年的立法与早期法案的目标相同，但包括许多技术改进，包括澄清哪些类型的算法和公司被涵盖，确保评估将消费者影响放在首位，并提供更多关于报告应如何结构的细节。该法案的完整摘要可在此查阅。

     《算法责任法案》得到了众多专家和民间社会组织的支持。

     Color Of Change副总裁Arisha Hatch说：“大科技公司的算法偏见问题已经持续了太长时间，我们不能再允许这些问题不受监管，当算法中的偏见不受控制时，黑人在医疗保健、住房、教育和就业方面受到歧视--几乎影响到我们生活的所有部分。为了减少这种偏见的影响，大科技公司及其业务必须积极主动地检测和解决歧视。公司进行自己的审计是第一步，但预防将是关键。算法责任法案》可以有效地保护黑人免受自动歧视，为联邦贸易委员会配备必要的资源来执行这些保护措施，并创造一个更公平的数字空间。color of change赞扬Sens. Wyden和Booker以及Clarke议员推动了科技监管中的种族正义公平性。我们希望国会能够通过这项具有重要意义的立法。”

     《消费者报告》政策分析师南迪塔-桑帕斯说：“设计不当的算法可能导致不准确的结果，不一致的结果，严重的歧视性影响，以及其他伤害，《算法责任法案》是一个重要的基础，为研究人员和政策制定者提供了工具，以确定谁会受到这些新兴技术的影响以及如何影响。我们期待着继续与该法案的提案人合作，寻求最有效的方法来减轻算法的伤害”。

     以下是美国《算法责任法》草案全文：