联合国教科文组织警告称，人工智能可能助长否认大屠杀和反犹太主义

联合国教科文组织周二发布的一份新报告警告称，生成人工智能的大量使用可能会扭曲大屠杀的真实情况并助长反犹太主义，该报告呼吁联合国成员国紧急采取行动，制定一套已经达成一致但尚未实施的技术规范道德原则。Open AI 合作伙伴微软是美国、欧洲和亚洲八大科技公司之一，他们于 4 月签署了人工智能伦理蓝图。吴浩/EPA-EFE 提供的照片

联合国教科文组织呼吁加快实施联合国所有 193 个成员国于 2021 年通过的一套道德原则，并警告称，由于有关大屠杀的虚假信息盛行，人工智能倾向于“吸收和放大社会偏见数据”，这在涉及大屠杀时是一个问题。

报告指出，由于用于“训练”人工智能的数据主要来自互联网，因此可能包含误导性、有害性和偏见性内容，有可能歪曲事实并强化现有的偏见——由于人工智能开发人员几乎没有监督，使用来自否认大屠杀网站的数据尤其令人担忧。

80％的10至24岁年轻人每天多次使用人工智能进行教育和娱乐，因此需要采取紧急措施来降低他们接触有关大屠杀的扭曲信息的风险，这些信息已经通过人工智能生成的内容以新的方式传播。

联合国教科文组织总干事奥黛丽·阿祖莱表示：“如果我们允许通过不负责任地使用人工智能来淡化、扭曲或伪造大屠杀的恐怖事实，我们就有可能面临反犹太主义爆炸性蔓延的风险，并且我们对这些暴行的原因和后果的理解也会逐渐减少。”

“实施联合国教科文组织关于人工智能伦理的建议刻不容缓，这样年轻一代才能在事实而非谎言的环境中成长。”

报告称，人工智能扭曲大屠杀相关内容、伪造证词和篡改历史记录等行为都有记录，此外，深度伪造的图像和音频在社交媒体上推送给年轻人时显得格外真实。

联合国教科文组织指出，一款“历史人物应用程序”可以让用户与阿道夫·希特勒及其新闻部长约瑟夫·戈培尔“聊天”，并声称著名的纳粹分子并没有故意支持大屠杀并试图阻止对犹太人的迫害。

报告还对人工智能通过虚构或“幻化”事件、人物和政策来填补由于特定主题数据不足而导致的信息空白表示担忧，并举了 ChatGPT 将“溺毙大屠杀”作为事实呈现的例子，其中纳粹将犹太人淹死在河流和湖泊中，而谷歌的 Bard 则生成了虚假的证人证词来支持扭曲的大屠杀说法。

联合国教科文组织表示，这些怪异言论会破坏既定事实和专家的信任。

另一个令人担忧的问题是人工智能过度简化复杂的历史，优先考虑自我选择的来源范围和狭隘的事件选择，例如，搜索引擎对大屠杀图片搜索的 60-80% 的顶级结果都是奥斯维辛 – 比克瑙集中营，而当时在德国和被占领的波兰至少有 23 个主要集中营。

联合国教科文组织呼吁更多科技公司加入微软、Salesforce、万事达卡、LG AI Research、联想、西班牙电信、GSMA 和 INNIT 的行列，签署承诺，在其人工智能系统的设计和部署中融入《人工智能伦理蓝图》的价值观和原则。