看到一个很酷的梦想或想法的视频回放可能很快就会成为现实。 OpenAI 的文本到视频 AI 生成器 Sora， 是 将被公开发布 “今年肯定是这样，”该公司首席技术官米拉·穆拉蒂 (Mira Murati) 告诉《华尔街日报》。 该新闻媒体提供了 Sora 几代人的例子，其中有智能手机的美人鱼和瓷器店里的公牛。
山姆·奥尔特曼是如何吓唬董事会成员的？ | OpenAI 的下一步是什么？
但当被问及 Sora 的裸体时， 穆拉蒂表示，她不确定视频世代是否会允许这样做，并补充说艺术家可能会在创作环境中使用裸体一代。 Murati 表示，OpenAI 正在“与不同领域的艺术家和创作者合作，以确定什么是有用的”，以及 Sora 应该具有“什么程度的灵活性”。
但是，尽管致力于模型研究的初创公司和公司努力对可以生成的内容类型实施护栏，但敏感材料（例如 深度伪造裸体 和 深度伪造色情内容 由主要的生成人工智能工具定期制作。 专家表示，OpenAI 和其他致力于类似技术的科技公司以及美国政府应该更多地采取行动。 在像 Sora 这样的工具广泛发布之前，积极主动地对其进行监管。
爬上护栏
在人工智能政策研究所 (AIPI) 2 月份对美国选民进行的一项民意调查中，77% 的受访者表示，当谈到像 Sora 这样的人工智能视频生成器时，包括防止滥用的护栏和保障措施是值得考虑的。 比使模型广泛可用更重要。 超过三分之二的受访者表示，人工智能模型的开发者应对任何问题承担法律责任。 模特的非法活动，例如制作用于诽谤或报复色情的虚假视频。
AIPI 创始人兼执行董事丹尼尔·科尔森 (Daniel Colson) 表示：“这确实表明了公众如何认真对待这项技术。” “他们认为它很强大。 他们已经看到了科技公司部署这些模型、算法和技术的方式，并且它带来了彻底改变社会的结果。”
但科尔森表示，公众也不相信科技公司会以负责任的方式做到这一点。
“OpenAI 对此做出了一个具有挑战性的决定，”他说，“因为无论好坏，现实情况是，对人工智能生成的视频的需求可能 90% 都是色情内容，这会产生一种令人不快的动态，如果创建这些模型的中心化公司不提供该服务，就会极大地激励灰色市场提供该服务。”
科尔森表示，开源人工智能图像模型已经发生了这种情况，其中没有太多的内容限制或监督。
索拉是 目前正在由红队人员进行测试， 或者 “错误信息、仇恨内容和偏见等领域的领域专家”，OpenAI 拥有 在准备推出该模型时说道。 该公司还表示，正在开发工具来“检测误导性内容”，包括 Sora 生成的视频。 OpenAI 没有回应对此报道的置评请求。
后 AI 生成泰勒·斯威夫特的色情图片 一月份社交媒体泛滥，AIPI 民意调查发现 84% 的受访者 支持立法将未经同意的深度伪造色情内容定为非法。 与此同时，86% 的受访者支持立法要求公司开发人工智能模型，以防止它们被用来制作深度伪造色情内容。 超过90%的受访者表示，他们认为使用人工智能模型制作深度伪造色情内容的人应该承担法律责任，而87%的受访者表示，他们认为开发这些模型的公司应该承担法律责任。 目前有 没有美国法律或法规 围绕这个。 （在欧盟，新通过的 人工智能法，它将评估和监管人工智能软件的风险，尚未正式颁布。）
“这 [U.S.] 自互联网诞生以来，在过去 25 年里，政府并没有真正采取任何显着的步骤来对这些实体进行实质性监管，这一点值得注意，因为越来越多的美国社会真正受到这些非实体的统治。民主选举产生的实体，”科尔森说。
像 Sora 这样的视频生成器也可能被网络犯罪分子用来制作高管、演员和政治家的深度伪造品，以施加影响或索要赎金。 2 月，美国联邦通信委员会 禁止在机器人通话中使用人工智能生成的声音 在发生多起事件之后，包括一月份流传的一个由人工智能生成的总统乔·拜登的虚假电话，鼓励新罕布什尔州选民留在家里，而不是在该州初选中投票。 在竞选共和党总统提名失败期间，佛罗里达州州长罗恩·德桑蒂斯 (Ron DeSantis) 六月发布了一段人工智能生成的视频 前总统唐纳德·特朗普拥抱前白宫医疗顾问安东尼·福奇博士的照片——但没有透露这不是真的。
但强制实施用户验证、内容标记、风险评级等防护措施，以及对人工智能生成内容的导出方式和地点进行限制，可能有助于规避网络犯罪。
Great Hill Partners 常驻高管、网络安全公司 Aon Cyber 前全球首席执行官杰森·霍格 (Jason Hogg) 在谈到美国对人工智能模型的监管时表示：“我们需要从被动姿态转向主动姿态。” （Great Hill Partners 是 > 母公司 G/O Media 的投资者。）
霍格表示，需要制定法规和处罚措施来应对“正在向我们袭来的网络犯罪海啸”。
1710667769
2024-03-17 09:00:00
#OpenAI #的视频生成器 #Sora #可能允许裸体 #专家们忧心忡忡
