儿童卡通片可免费享受 YouTube 的 Deepfake 披露规则

YouTube 更新了新时代的规则手册 深度造假。 从今天开始，任何将视频上传到该平台的人都必须披露合成媒体的某些用途，包括生成人工智能，以便观众知道他们所看到的不是真实的。 YouTube 说它适用于“现实”的改变媒体，例如“使其看起来就像一座真正的建筑物着火了”或 交换 “一个人的脸与另一个人的脸。”

这 新政策 显示 YouTube 正在采取措施帮助遏制病毒传播 人工智能生成的错误信息 作为 美国总统选举 接近。 它所允许的内容也令人震惊：人工智能生成的针对儿童的动画不受新的合成内容披露规则的约束。

YouTube 的 新政策 将动画内容完全排除在公开要求之外。 这意味着 人工智能生成的内容骗子快速致富的新兴场景 可以继续制作针对儿童的视频，而不必透露他们的方法。 担心匆忙制作的童谣视频质量的家长将不得不自行识别人工智能生成的卡通片。

YouTube 的新政策还表示，创作者无需标记使用人工智能进行“主要是美观”的“次要”编辑，例如美颜滤镜或清理视频和音频。 使用人工智能“生成或改进”脚本或字幕也是允许的，无需披露。

YouTube 上不乏没有人工智能制作的低质量内容，但生成式人工智能工具降低了视频制作的门槛，从而加速了视频的制作。 YouTube 的母公司谷歌最近表示 调整其搜索算法 降级最近的洪水 AI 生成的标题诱饵，通过 ChatGPT 等工具成为可能。 视频生成技术尚不成熟 但进步很快。

既定问题

YouTube 是 儿童娱乐巨头，让 Netflix 和迪士尼等竞争对手相形见绌。 该平台过去一直在努力调整大量针对儿童的内容。 它因托管表面上适合或对儿童有吸引力的内容而受到批评，但实际上 仔细观察包含令人不快的主题。

《连线》杂志最近报道 针对儿童的 YouTube 频道的兴起，这些频道似乎使用人工智能视频生成工具来制作以通用 3D 动画和流行童谣的不合时宜的迭代为特色的劣质视频。

YouTube 新政策中对动画的豁免可能意味着，家长在让孩子观看 PBS Kids 或 Ms. 等流行且经过严格审查的频道后，无法轻易地将此类视频从搜索结果中过滤掉，也无法阻止 YouTube 的推荐算法自动播放人工智能生成的卡通片。雷切尔。

根据新规则，一些针对儿童的有问题的人工智能生成内容确实需要标记。 2023 年，BBC 调查过 一系列针对年龄较大儿童的视频，使用人工智能工具来推动伪科学和阴谋论，包括气候变化否认主义。 这些视频模仿了传统的真人教育视频（例如，展示吉萨的真实金字塔），因此毫无戒心的观众可能会误认为它们是事实准确的教育内容。 （金字塔视频随后暗示这些结构可以发电。）这项新政策将打击此类视频。

YouTube 发言人埃琳娜·埃尔南德斯 (Elena Hernandez) 表示：“我们要求儿童内容创作者披露经过有意义修改或综合生成的内容，这些内容看起来很现实。” “我们不要求披露明显不切实际且不会误导观众认为其真实的内容。”

专门的儿童应用程序 YouTube 少儿版 结合自动过滤器、人工审核和用户反馈进行策划，以查找制作精良的儿童内容。 但许多家长只是使用 YouTube 主要应用程序为孩子提示内容，依靠目视视频标题、列表和缩略图来判断哪些内容合适。

到目前为止，《连线》在 YouTube 上发现的大多数明显由人工智能生成的儿童内容的制作方式都与更传统的省力儿童动画类似，制作质量很差。 它们的视觉效果丑陋，情节不连贯，教育价值为零，但并非如此 独特地 丑陋、不连贯或在教学上毫无价值。

人工智能工具使制作此类内容变得更容易，而且数量更大。 《连线》发现一些频道上传了冗长的视频，有些长达一个多小时。 要求对人工智能生成的儿童内容进行标签可以帮助父母过滤掉那些可能在很少或完全没有经过人类审查的情况下出版的卡通片。