中国蚂蚁金服、百度、腾讯与美国公司 OpenAI、Nvidia 合作发布首个全球生成人工智能标准

据会议声明称，周二，两家公司在瑞士日内瓦举行的联合国科学技术会议的一场边会上发布了“生成式人工智能应用安全测试和验证标准”和“大语言模型安全测试方法”组织者是非营利性的世界数字技术学院 (WDTA)。

蚂蚁金服是阿里巴巴集团控股公司的附属公司，也是《南华早报》的所有者。

新的 GenAI 标准由 Nvidia、Facebook 所有者 Meta Platforms 等公司的研究人员编写，并由亚马逊、谷歌、微软、蚂蚁金服、百度和腾讯等公司审核。

根据 WDTA 网站上发布的文档副本，它提供了一个用于测试和验证 GenAI 应用程序安全性的框架。

根据官方副本，LLM 指南由 17 名 Ant 员工撰写，并由 Nvidia、微软、Meta 等公司审核，概述了测试 LLM 抵御黑客攻击的多种攻击方法

WDTA于去年4月在联合国框架下成立，旨在“加快建立数字领域的规范和标准”。

随着 GenAI 的快速发展并越来越多地被企业和个人用户使用，科技公司呼吁努力确保技术安全。 OpenAI 首席执行官 Sam Altman 在短暂罢免后于 11 月恢复职务后表示，“投资于全栈安全工作”将是公司的优先事项之一。

在 GenAI 流行之前，人工智能的国际标准和法规就已经存在。

2021年，联合国遗产机构联合国教科文组织推出了《人工智能伦理建议书》，已被193个成员国采纳。

2022 年至 2023 年间，国际标准化组织（一家总部位于日内瓦的非政府组织，制定涵盖从工作场所安全到 IT 安全等广泛领域的标准）发布了与人工智能相关的系统管理、风险管理和使用机器的系统指南学习。