微软发布首份人工智能透明度报告

在其 负责任的人工智能透明度报告主要涵盖2023年，微软宣扬其在安全部署人工智能产品方面取得的成就。 年度人工智能透明度报告是该公司去年7月与白宫签署自愿协议后做出的承诺之一。 微软和其他公司承诺建立负责任的人工智能系统并致力于安全。

微软在报告中表示，它在过去一年中创建了 30 个负责任的人工智能工具，扩大了负责任的人工智能团队，并要求开发生成式人工智能应用程序的团队在整个开发周期中衡量和绘制风险。 该公司指出，它在其图像生成平台中添加了内容凭证，该平台在照片上添加水印，将其标记为由人工智能模型制作。

该公司表示，它为 Azure AI 客户提供了检测仇恨言论、性内容和自残等问题内容的工具，以及评估安全风险的工具。 这包括新的越狱检测方法，该方法于今年 3 月进行了扩展，包括间接提示注入，其中恶意指令是人工智能模型摄取的数据的一部分。

它还在扩大其 红队 努力，包括内部红队故意尝试绕过其人工智能模型中的安全功能，以及红队应用程序以允许在发布新模型之前进行第三方测试。

然而，其红队部队的工作却很艰巨。 该公司的人工智能推出也未能幸免于争议。

微软首席人工智能官娜塔莎·克兰普顿 (Natasha Crampton) 在发送给微软的电子邮件中表示 边缘 该公司了解人工智能仍然是一项正在进行的工作，负责任的人工智能也是如此。

“负责任的人工智能没有终点线，所以我们永远不会考虑我们在自愿人工智能承诺下的工作。 但自签署以来我们已经取得了巨大进展，并期待今年继续保持我们的势头，”克兰普顿说。