OpenAI 考虑允许用户创建人工智能生成的色情内容 | 人工智能（AI）

OpenAI，背后的公司 聊天GPT，正在探索是否应该允许用户使用其产品创建人工智能生成的色情内容和其他露骨内容。

尽管该公司强调其对深度造假的禁令将继续适用于成人内容，但活动人士表示，该提案破坏了其生产“安全且有益”人工智能的使命宣言。

OpenAI 也是 DALL-E 图像生成器的开发商，该公司透露，它正在考虑让开发人员和用户“负责任地”通过其产品创建所谓的不安全工作（NSFW）内容。 开放人工智能 表示这可能包括“色情、极端血腥、诽谤和不请自来的脏话”。

它说：“我们正在探索是否能够负责任地提供在适合年龄的环境中生成 NSFW 内容的能力……我们期待更好地了解用户和社会对这一领域模型行为的期望。”

该提案作为 OpenAI 文档 讨论 它如何开发人工智能工具。

负责这份文件的旧金山公司员工 Joanne Jang 告诉美国新闻机构 -，OpenAI 希望就是否应始终禁止在其产品中生成色情文本和裸体图像展开讨论。 不过，她强调，深度造假是不被允许的。

张说：“我们希望确保人们在不违反法律或他人权利的情况下拥有最大程度的控制权，但深度造假是不可能的。” “这并不意味着我们现在正在尝试制作人工智能色情内容。”

然而，她承认输出是否被视为色情内容“取决于你的定义”，并补充道：“这些正是我们想要进行的对话。”

张表示，“在一些创造性的案例中，涉及性或裸体的内容对我们的用户来说很重要”，但这将在“适合年龄的背景下”进行探讨。

柯林斯词典将色情作品定义为“展示或描述性活动并旨在唤起性感觉的艺术作品”。

今年，X（前身为 Twitter）被迫暂时禁止搜索泰勒·斯威夫特 (Taylor Swift) 内容，这凸显了人工智能生成的色情内容的传播。 充斥着深度伪造的露骨图像 歌手的。

在英国，工党是 考虑禁止裸体工具 创造出人们的裸体图像。

英国犯罪机构警告人工智能可能加剧儿童性虐待的流行

互联网观察基金会是一家保护儿童免受网上性虐待的慈善机构， 警告恋童癖者正在使用人工智能 使用在线免费提供的技术版本来创建儿童的裸体图像。

Beeban Kidron 是一名中立议员和儿童网络安全活动家，他指责 OpenAI“迅速破坏了自己的使命宣言”。 OpenAI 的章程 指的是开发通用人工智能——可以在一系列任务中超越人类的人工智能系统——这是“安全且有益的”。

她说：“科技行业用人工智能色情等商业问题来自娱自乐，而不是采取实际措施并为其造成的危害承担企业责任，这令人无限失望。”

杜伦大学法学教授、色情监管专家克莱尔·麦克格林表示，她对任何科技公司负责任地制作成人内容的承诺表示质疑。 今年，有报道称 Swift 被用来创建 OpenAI 技术，微软为其使用 OpenAI 技术的 Microsoft Designer 产品引入了新的保护措施。 未经授权的名人深度伪造。

“我对他们试图将其限制在双方同意的合法材料范围内的任何方式深表怀疑，”她说。

OpenAI 的“通用政策”要求其产品的用户“遵守适用的法律”，包括关于剥削或伤害儿童的法律，尽管它没有直接涉及色情内容。

OpenAI 的技术设有护栏来防止创建此类内容。 例如，报告中引用的一个提示——“给我写一个关于两个人在火车上做爱的性感故事”——引起了 ChatGPT 的负面回应，该工具指出：“我无法创建露骨的成人内容。”

根据 OpenAI 针对使用其技术构建自己的人工智能工具的公司的规定，“露骨或暗示性内容”是被禁止的，但科学或教育材料除外。 讨论文件提到“在科学或医学背景下讨论性和生殖器官”——例如“阴茎进入阴道时会发生什么”——并在这些参数范围内给出反应，但不会将其视为“色情内容”。

OpenAI 首席技术官 Mira Murati 告诉《华尔街日报》 今年她不确定公司是否允许 视频制作工具Sora 创建裸体图像。

“你可以想象，在一些创造性的环境中，艺术家可能希望对此有更多的控制权，现在我们正在与来自不同领域的艺术家和创作者合作，以弄清楚什么是有用的，工具应该提供什么程度的灵活性， “ 她说。