加强 AI 获取流程的 5 种方法

在我们的上一篇文章中， 获取人工智能系统的操作指南，我们解释了为什么 IEEE P3119 采购标准 人工智能 需要人工智能（AI）和自动决策系统（ADS）。

在本文中，我们提供了有关标准草案和使用的更多详细信息 监管“沙箱””根据现实世界的人工智能采购用例测试正在开发的标准。

加强人工智能采购实践

IEEE P3119 标准草案旨在帮助加强人工智能采购方法，通过尽职调查确保各机构严格评估他们所获得的人工智能服务和工具。 该标准可以为政府机构提供一种方法，以确保人工智能供应商对相关风险的透明度。

该标准并不是要取代传统的采购流程，而是要优化既定做法。 IEEE P3119 的 基于风险的方法 人工智能采购遵循以下一般原则 IEEE 的道德一致性设计论文，优先考虑人类福祉。

该指南草案以易于理解的语言编写，包括实用工具和细则。 例如，它包括一个评分指南来帮助分析 理赔供应商 介绍他们的人工智能解决方案。

IEEE P3119 标准由五个流程组成，可帮助用户识别、减轻和监控通常与以下问题相关的危害： 高风险 人工智能系统，例如 自动决策系统 存在于教育、健康、就业等诸多领域 公共部门 地区。

下面概述了该标准的五个流程。

吉赛尔·沃特斯

定义问题和业务需求的步骤

这五个过程是 1) 定义问题和解决方案要求，2) 评估供应商，3) 评估解决方案，4) 谈判合同，以及 5) 监控合同。 这些发生在四个阶段：采购前、采购、签约和采购后。 这些流程将被整合到传统流程中已经发生的流程中 全球采购周期。

在制定该标准时，工作组发现传统的采购方法常常会跳过一个步骤 预采购 定义问题或业务需求的阶段。 如今，人工智能供应商提供寻找问题的解决方案 而不是解决需要解决方案的问题。 这就是为什么工作组创建了工具来帮助机构定义问题并评估组织的风险偏好。 这些工具可以帮助机构 主动地 规划采购并概述适当的解决方案要求。

在向供应商招标的阶段（通常称为“征求建议书”或“招标邀请”阶段），供应商评估和解决方案评估流程协同工作，提供更深入的分析。 供应商的组织人工智能治理实践和政策以及他们的解决方案都经过评估和评分。 根据该标准，买家将需要充分披露目标人工智能系统的信息，以便更好地了解所售产品。 这些 人工智能透明度要求 是 丢失的 在现有的采购实践中。

承包阶段解决了现有软件和信息技术合同模板中的空白，这些模板是 没有充分评估 细微差别和 风险 人工智能系统。 该标准提供了参考合同语言，其灵感来自于 阿姆斯特丹的算法合同条款， 这 欧洲示范合同条款，以及由 计算机与法律协会人工智能小组。

“工作组创建了工具来协助机构定义问题并评估组织的风险偏好。 这些工具可以帮助机构 主动地 规划采购并概述适当的解决方案要求。”

供应商 将能够通过与早期流程保持一致来帮助控制他们在早期流程中发现的风险 策划的 他们的合同中的条款。 该参考合约语言可以是 必不可少 与人工智能供应商谈判的机构。 当所采购产品的技术知识极其丰富时 有限的，有 策划的 条款可以帮助机构 谈判 与人工智能供应商合作并倡导 保护 公共利益。

采购后阶段涉及监控已识别的风险以及合同中嵌入的条款和条件。 关键绩效指标和指标也会持续评估。

这五个流程提供了一种基于风险的方法，大多数机构可以将其应用于各种人工智能采购用例。

沙箱探索创新和现有流程

在人工智能系统的市场部署之前，沙盒是探索和评估人工智能解决方案采购现有流程的机会。

沙箱有时用于 软件 发展。 它们是孤立的环境，新的概念和 模拟 可以测试。 哈佛大学的人工智能沙箱例如，使大学研究人员能够研究生成人工智能中的安全和隐私风险。

监管沙箱 是尚未完全符合现有法律法规的技术和程序的现实测试环境。 它们通常在有限的时间内启用 “安全空间” 法律约束往往会“减少”，并且可以进行敏捷的创新探索。 监管沙箱可以有助于 循证立法 并可以提供反馈，允许 机构 确定新法律、标准和技术可能面临的挑战。

我们寻求一个监管沙箱来测试我们的假设和正在开发的标准的组成部分，旨在探索该标准在现实世界的人工智能用例中的表现。

去年，为了寻找沙盒合作伙伴，我们与代表地方、区域和跨国司法管辖区的 12 个政府机构进行了接触。 各机构均表示有兴趣 负责任的人工智能采购。 我们共同倡导沙盒“概念验证”合作，其中 IEEE 标准协会IEEE P3119 工作组成员和我们的合作伙伴可以根据回顾性或未来的人工智能采购用例测试该标准的指导和工具。 在几个月的会议中，我们了解到哪些机构拥有与我们合作所需的权力和带宽的人员。

特别是有两个实体有望成为潜在的沙盒合作伙伴：一个代表欧盟的机构和一个英国地方政府委员会联盟。

我们的愿望是使用沙箱来评估之间的差异 当前的 AI采购流程及内容 可以 如果标准草案 适应现状。 为了实现互惠互利，沙箱将测试现有采购实践和我们的 IEEE P3119 起草组件的优点和缺点。

在与政府机构交谈后，我们面临的现实是，沙盒协作需要 IEEE 和政府实体的长期授权和考虑。 以欧洲机构为例 导航 遵守 我已经采取行动, 一般数据保护条例，以及自己的收购制度，同时管理 采购 流程。 同样，英国议会也带来了 要求 从他们的 多层的 监管环境。

这些要求虽然并不令人惊讶，但应被视为实质性的技术和政治要求 挑战 以获得沙箱的批准。 监管沙箱的作用， 尤其是人工智能公共服务 在高风险领域，对于采购实践中的创新至关重要。

监管沙箱 可以帮助我们了解基于自愿共识的标准是否可以对人工智能解决方案的采购产生影响。 与沙盒合作伙伴合作测试该标准将使其有更好的成功采用机会。 我们期待与潜在合作伙伴继续进行讨论和接触。

获得批准的 IEEE 3119 标准预计将于明年初、可能在今年年底之前发布。