NIST发布AI标准计划草案以回应特朗普的行政命令
2019年07月04日 由 Aaron 发表
57543
0
美国商务部国家标准与技术研究院(NIST)发布了一份为联邦政府制定的人工智能标准计划草案。该计划旨在满足美国的经济和国家安全需求,并帮助国家保持全球统领地位。
美国参与制定人工智能标准至关重要,在没有适当级别和类型的美国利益参与的情况下制定的人工智能标准可能排除或阻碍市场上的美国公司以及政府机构,此外,由于标准的基本性质,美国利益相关者参与AI标准制定的缺乏可能会对美国利益的长期创新和竞争力产生负面影响。
该文件名为“美国在人工智能领域的领导地位:联邦政府参与开发技术标准和相关工具的计划”,旨在回应特朗普行政命令,要求在180天内制定联邦人工智能参与计划。
NIST发言人表示在8月10日前向白宫提交最终文件之前,将在7月19日之前接受公众对草案的意见。
报告称,值得联邦政府大力参与的标准工作包括隐私保护、开发人员设计声明的意图,以及确保人工智能是非歧视性的、公开和透明的。
根据草案,政府还寻求鼓励用户和开发者、供应商、代表技术学科的专家、以及对人工智能特别重要的非传统学科,如伦理学家、经济学家、法律专业人士和政策制定者等不同社区参与进来。
换句话说,NIST希望确保所有相关方都能在谈判中占有一席之地,并能帮助制定一项包容和公平的政策。虽然该报告提到人工智能的偏见,可信度和包容性,但没有明确提及任何种族或性别群体。
加州大学伯克利分校和麻省理工学院的研究发现,住房贷款的算法偏差对拉丁美洲和非洲裔美国家庭的影响不成比例,大型科技公司的面部识别系统最适合白人男性。
该报告概述了未来的步骤,呼吁国家科学技术委员会(NSTC)机器学习/人工智能(ML / AI)小组委员会建立标准协调员,并确定促进人工智能信任所必需的研究。该报告还建议创建更多工具来审核AI模型,数据集和测试平台的性能。
该文件确定了IEEE和DARPA的可解释人工智能倡议等组织目前正在开展的标准工作,以及现有的基准数据集,如ImageNet。它还建议跟踪外国政府和组织正在开发的AI标准。
NIST的面部识别供应商测试被一些人视为黄金标准,但其他人则对其有效性提出质疑。在今年早些时候接受采访时,一位分析NIST历史的AI研究员称该组织不适合制定AI标准,部分原因是没有聘请人工智能伦理学家,而且在未经用户同意的情况下,在其面部识别供应商测试中使用了图像。
NIST信息技术实验室主任Charles Romine表示,NIST计划在今年秋季根据种族、性别和其他人口统计类型,对人脸识别软件的性能进行统计分析。为美国国防部提供的人工智能伦理建议也将于今年秋季发布。
白宫科技办公室(OST)最近公布了国家人工智能研究与发展战略的最新情况,该战略旨在塑造数十亿美元的联邦人工智能研究支出。这些更新恢复了奥巴马政府对美国国防部、国家卫生研究院和国家科学基金会等联邦机构的一系列指示。在更新中,OST还呼吁联邦政府与私营企业和国际盟友加强合作。
草案:
www.nist.gov/sites/default/files/documents/2019/07/02/plan_for_ai_standards_publicreview_2july2019.pdf