裸体信息过滤器：Instagram 新功能如何保护未成年人

Meta 决定加大力度打击 复仇色情片 以及所谓的 性勒索即基于性勒索的勒索：除了与《Take it Down》合作 （事物？）该公司正在测试一款新产品 专用于 DM 的功能通过 Instagram 聊天交换消息。

一旦新事物投入运行，它将 未满 18 岁的账户默认处于活动状态 它还将推荐给成年用户，主要是为了帮助他们避免做出将来可能后悔的选择。

社交网络

Drake 的色情视频与 Twitter 成为美国排名第一的应用程序有什么关系？

埃马努埃莱·卡彭

2024 年 2 月 9 日

性勒索，Instagram 保护的工作原理

在实践中，会发生的情况是 a 将被应用 通过 Direct 发送的图像模糊 其中检测到裸体有三个目的：鼓励人们在发送此类图像之前进行思考；保护他们免于看到不需要的裸体内容；保护他们免受可能发送的诈骗者的侵害 包含裸露的图像试图欺骗他们 并让他们发送他们的图像作为回报。

据我们了解，系统是从一侧到另一侧工作的，即 从发件人和收件人的角度来看：如果您尝试发送包含裸露的图像，您将收到一条消息，提醒您在发送此类照片时要小心，即使您可以选择取消发送（即使您尝试转发它们也会发生同样的情况）；相反，如果您收到包含裸体的图像，该照片就会出现 因警告屏幕而变得模糊以便收件人可以自由选择是否查看。

从 Meta 他们解释说我 裸体检测系统 直接在设备上使用机器学习算法来分析图像，因此照片不会离开设备：“此保护工具将在端到端加密聊天中工作，其中 Meta 将无法访问这些图像除非有人决定向我们举报。”

为什么发送裸照很危险？

除了网络犯罪分子可以做的事情（即那些意图造成伤害的人）之外，至少还有以下行为： 另外一些潜在的危险后果 所谓的裸体。人们常常忽视的后果，尤其是年轻人。

这 普里马 Meta 解释得很清楚，在为 Instagram 设计的新工具中，它会提醒你“敏感内容一旦被分享，就可以被 很难控制发生在他们身上的事情”。除此之外，“困难”这个词有点轻描淡写：这实际上是不可能的。更重要的是：尽管与您的伴侣分享此类照片似乎是一个好主意（或者确实是一个好主意），但应该记住， 与接收图像的人的关系可能会改变 随着时间的推移，可以对其进行截图，可以 未经同意转发 甚至一遍又一遍。这些步骤中的每一个都使得它们变得越来越容易，也更有可能以某种方式被用来对付那些发送它们的人。

伊尔第二问题是一个较新的问题，与人工智能和深度造假 （什么是？）：对于已经被用于犯罪目的的最先进的人工智能来说，很容易在令人尴尬或妥协的情况下创建真人的虚假图像，如果他们没有脱衣服，或者比某些照片中脱得更多在线分发。而这种类型的图片在网络上流传得越多， AI训练更容易 来重现它们。或许是从聊天中开玩笑地发出的一个挑衅性的镜头开始的。