ChatGpt 如何识别 Deepfake
AGi – 大型语言模型（LLM）在以下方面表现较差： 深度伪造的识别 布法罗大学与奥尔巴尼大学和香港中文大学合作开展的一项研究显示，人工智能的识别率可能比最先进的检测算法高，但其自然语言处理功能实际上可能会在未来提高其效率，该研究于上周在 IEEE/CVF 计算机视觉与模式识别会议上发表。大多数人认为人工智能与 ChatGPT 和深度伪造。人工智能生成的文本和图像占据了社交媒体信息流和网站的大部分，并经常被用来传播不可靠和误导性的信息。在这项研究中，研究人员要求法学硕士（包括 OpenAI 的 ChatGPT 和谷歌的 Gemini）识别人脸的深度伪造。“法学硕士与现有检测方法的不同之处在于，它们能够以人类可以理解的方式解释他们的发现，例如识别错误的阴影或一对不匹配的耳环，”布法罗大学工程与应用科学学院计算机科学与工程系研究生、这项研究的主要作者 Siwei Lyu 说。 “LLM 并非为深度伪造检测而设计或训练的，但它们的语义知识使它们非常适合此目的，因此我们期待看到更多针对此应用的努力，”Lyu 继续说道。最新版本的 ChatGPT 和其他 LLM 还可以分析图像。这些多模态 LLM 使用带有标题的大型照片数据库来查找单词和图像之间的关系。“人类也会这样做：无论是停车标志还是病毒式模因，我们都在不断地为图像分配语义描述，”UB 媒体取证实验室科学家、该研究的第一作者 Shan Jai 说。“这样， 图像成为他们的语言“Jai 继续说道。 媒体取证实验室团队决定测试具有视觉的 GPT-4、GPT-4V 和 Gemini 1.0 能否区分真实面孔和 AI 生成的面孔。科学家向他们提供了数千张真实面孔和深度伪造面孔的图像，并要求他们识别任何操纵或合成伪影的迹象。ChatGPT 在检测潜伏扩散生成的图像中的合成伪影时准确率为 79.5%，在检测 StyleGAN 生成的图像中的合成伪影时准确率为 77.2%。 “这些结果与之前的 deepfake 检测方法相当，因此在及时和充分的指导下，ChatGPT 可以相当出色地检测 AI 生成的图像，”同时也是 UB 信息完整性中心联席主任的 Lyu 说道。ChatGPT […]