Facebook Messenger 和 Meta Pay 如何用于购买儿童性虐待材料 | 技术

瓦2022 年 11 月，宾夕法尼亚州警方逮捕了 29 岁的詹妮弗·路易丝·惠兰 (Jennifer Louise Whelan)，指控她犯有数十项严重罪行，包括性交易和猥亵三名幼儿。

一个月前，警方表示，他们发现惠兰利用她照顾的三名年仅六岁的儿童来制作儿童性虐待材料。 据称，她通过以下方式向客户出售和发送视频和照片 Facebook 信使。 她不认罪。

被指控的买家布兰登·沃伦 (Brandon Warren) 于 2022 年 2 月被大陪审团起诉， 被控九项罪名 分发描述未成年人从事露骨性行为的材料。 沃伦也表示不认罪。

《卫报》看到的法庭文件引用了两人之间的 Facebook 消息，据称沃伦向惠兰描述了他希望她如何制作这些视频。

根据逮捕惠兰所用的刑事起诉文件，他告诉惠兰：“如果你告诉他这会让妈妈感觉良好，并且能得到一段长度较长的视频，我会额外投入一点。”

惠兰收到了拍摄视频的付款 元 根据对他的刑事起诉，Pay是Meta的支付系统。 “再加250对吧？ 嘿嘿，”据称，她在给沃伦发送了一段她虐待一名年轻女孩的视频后给他写了信。

Meta Pay 在 2022 年更名之前称为 Facebook Pay，是一种点对点支付服务，使用户能够通过该公司的社交网络转账。 用户上传信用卡、借记卡或 贝宝 帐户信息发送到 Facebook Messenger 或 Instagram 以发送和接收资金。

Meta 的一位发言人证实，该公司已经发现并报告了通过 Facebook Messenger 上的 Meta Pay 进行的付款，这些付款涉嫌与儿童性剥削有关。

“儿童性剥削是一种可怕的犯罪行为。 我们支持执法部门起诉这些犯罪分子，并投资于最好的工具和专家团队来检测和应对可疑活动。 Meta 向 NCMEC 报告所有明显的儿童性剥削 [the National Center of Missing and Exploited Children]，包括涉及支付交易的案件，”该发言人表示。

通过审查文件和采访前 Meta 内容版主，《卫报》的一项调查发现，Meta Pay 上发生的儿童性虐待内容付款可能未被该公司发现和报告。

法庭文件显示，惠兰和沃伦的行为并未被 Meta 发现或标记。 相反，另一个社交平台 Kik Messenger 报道称，沃伦上传了疑似儿童性虐待材料 (CSAM) 的视频，并与其他用户分享。 这引发了沃伦居住地西弗吉尼亚州警方的调查。 他的电子产品被没收，警方随后发现了据称他通过 Facebook Messenger 从惠兰购买的 8 个视频和 5 张图片。

“我们对有效的法律程序做出了回应，”一位 Meta 发言人在回应《卫报》称该公司没有发现这些犯罪行为的调查结果时表示。

此外，两名在 2019 年至 2022 年期间任职的前 Meta 内容审核员告诉《卫报》，他们看到通过 Meta Pay 进行的可疑交易，他们认为这些交易与儿童性交易有关，但他们无法与 Meta Pay 合规团队沟通以了解情况。标记这些付款。

“感觉就像 [Meta Pay] 是一种易于使用的支付方式，因为这些人通过 Messenger 进行交流。 一次发送的金额可能高达数百美元。”一位前主持人说道，他要求匿名，因为他们必须签署一份保密协议作为就业条件。 该审核员在 Meta 承包商埃森哲 (Accenture) 工作了四年，直到 2022 年中期，负责审查成人和儿童通过 Facebook Messenger 进行的互动，是否存在不当内容。

在《卫报》审查的案件中，性行为或 CSAM 的支付通常只有几百美元或更少。 据前 Meta 合规分析师称，如此小额的交易不太可能被标记为由 Meta 系统审查。

金融犯罪专家表示，这意味着与非法活动相关的支付可能是在未被发现的情况下进行的。

Meta 发言人表示，该公司结合使用自动和人工审查来检测 Messenger 支付交易中的可疑金融活动。

Meta 发言人表示：“付款规模只是我们团队用来识别潜在可疑活动的信号之一，我们的合规分析师接受过评估各种信号的培训。” “如果我们的团队有理由怀疑可疑活动，特别是涉及儿童的活动，即使付款金额很小，也会进行适当的调查和报告。” 该发言人还表示，该公司拥有“强烈的‘看什么、说什么’的文化”。

主持人说，对于美国男性在国外寻找未成年女孩的情况，付款可能是为了获得电话和学习用品等。 她说，对于这些国际交易，通过 Messenger 付款的用户通常使用西联汇款。 西联汇款和 Meta 开发了一个机器人 整合支付 2017 年进入 Messenger。

“我们看到的大多数都是来自美国的老年男性，他们的目标是亚洲国家的女孩，并且经常去那里旅行，”主持人补充道。

伦敦金融咨询公司 RedCompass Labs 的金融情报部门主管西尔维娅·克鲁佩纳 (Silvija Krupena) 表示：“当涉及到儿童剥削和 CSAM 时，实际上都是小额犯罪。” “这是一种全球性的犯罪和犯罪行为，有不同类型的犯罪者。 在菲律宾这样的低收入国家，20 美元是一笔巨款。 生产通常在这些国家进行。 当涉及到传统的洗钱控制措施时，这些金额可能会被漏掉。”

Meta 拥有一支由约 15,000 名版主和合规分析师组成的团队，他们的任务是监控其平台上是否存在有害和非法内容。 Meta 应该将可能的犯罪行为升级并报告给执法部门。 反洗钱法规还要求货币服务企业对其合规人员进行培训，使其能够获取足够的信息，以便能够在非法融资发生时进行检测。

然而，一位前 Meta Pay 支付合规分析师承包商表示，监控 Meta Pay 交易活动的承包商没有接受过检测和报告可能与人口贩运有关的资金流动的专门培训，包括贩运者通常使用的语言、代码词和俚语。

“如果人贩子使用暗号来贩卖女孩，我们就不会介入。 我们并没有真正接受过这些方面的培训，”这位前合规分析师说道。 “你甚至不会再考虑一下，甚至根本不会深入研究这类东西。”

Meta 发言人对支付合规分析师的说法提出异议。

“合规分析师接受关于如何检测潜在可疑活动的初步和持续培训，其中包括可能的人口贩运和儿童性剥削的迹象。 我们的计划会定期更新，以反映金融犯罪监管机构和安全专家的最新指导，”发言人表示。

Meta 被指控剥削儿童的历史

Meta 的平台过去曾与涉嫌儿童剥削和 CSAM 分发有关。 去年 12 月，新墨西哥州总检察长办公室对该公司提起诉讼，指控 Facebook 和 Instagram 是针对儿童的掠夺者的“滋生地”，以进行人口贩运、诱骗和拉客。 该诉讼遵循 2023 年 4 月 卫报调查，揭露了儿童贩运者如何利用 Meta 的平台买卖儿童进行性剥削。

作为一家货币服务企业，Meta Pay 受到美国反洗钱和“了解你的客户”(KYC) 银行法规的约束，这些法规要求企业向美国财政部金融犯罪执法网络 (FinCEN) 报告非法融资行为。

金融犯罪专家表示，如果 Meta 未能检测并报告这些付款，则可能违反美国反洗钱法。

“法规适用于任何参与支付业务的公司。 但对于社交媒体来说，因为他们可以看到用户，看到他们的生活，他们的交易，他们可以看到虐待和联系。 对于他们来说，检测到这一点是一个很容易实现的目标，”克鲁佩纳说。

其他点对点支付应用程序因其防止非法活动的做法而面临审查。 2023 年，参议院民主党人要求 PayPal、Venmo 和 Cash App 提供详细的欺诈检测和预防方法。 Cash App 上的性交易“猖獗”， 据报道 去年，美国投资研究公司兴登堡 (Hindenburg) 进行了研究。 Cash App 的所有者 Block 对这些说法提出异议，并威胁采取法律行动。

Meta 于 2023 年底向 Facebook Messenger 引入了端到端加密，但即使在此之前，支付合规分析承包商也无法访问两个交换资金的用户之间的 Messenger 聊天。 这位前 Meta 合规分析师告诉《卫报》，他们的团队只能看到带有注释的交易以及两个用户之间的关系。

“我不知道在无法看到交易意图的情况下，一般如何做到合规，”说 弗朗西斯·豪根一位 Facebook 前员工后来成为举报人，他在 2021 年发布了数万份有关 Facebook 内部运作的破坏性文件。“如果这些平台真的想保证这些孩子的安全，他们就可以做到。”

前版主表示，孤立的工作无法标记可疑交易

接受《卫报》采访的其他前内容管理员将他们的工作与呼叫中心或工厂的工作进行了比较。 他们的工作包括审查用户和人工智能软件标记为可疑的内容，并快速决定是否忽略、删除或通过软件程序将内容升​​级到 Meta。 他们表示，他们无法就所目睹的可疑交易与 Meta Pay 合规分析师进行沟通。

“我们不被允许联系 Facebook 员工或其他团队，”一位前主持人说。 “我们的经理没有告诉我们这是为什么。”

打击在线犯罪联盟的执行董事格雷琴·彼得斯 (Gretchen Peters) 记录了通过 Meta 平台销售麻醉品的情况，其中包括芬太尼。 她还采访了元版主，他们不被允许与公司其他团队进行交流。 她表示，这种孤立行为“严重违反”了“了解你的客户”银行法规。

“我们从 Meta 的审核员那里听说，他们可以看到非法行为正在发生，并且通过 Meta Pay 存在并发交易，但他们无法将他们在内部看到的内容传达给 Meta Pay 的审核员，”Peters 说。

Meta 发言人表示，该公司禁止在其平台上销售或购买毒品，并在发现该内容后将其删除。

“Meta 遵守所有适用的美国反洗钱法，”发言人表示。 “说团队之间缺乏沟通的说法也是不真实的。 内容审核员接受过培训，可以将问题升级到特定的联系人，由该联系人引入适当的专家团队。”

去年 12 月，Meta 宣布已为发送的消息推出端到端加密 Facebook 和 Messenger。 加密通过将文本和图像转换为在接收时解密的不可读密码，对除发件人和预期收件人之外的任何人隐藏消息内容。

然而，此举也可能会影响该公司防止 Meta Pay 上非法交易的能力。 儿童安全专家、政策制定者、家长和执法部门批评了此举， 争论加密阻碍了拯救儿童性贩运受害者的努力 以及对掠夺者的起诉。

“当 Meta Pay 与 Messenger 或 Instagram 关联时，与支付相关的消息可能会发现非法行为，”Krupena 说。 “现在这个背景被删除了，其影响是重大的。 几乎感觉加密无意中促进了非法活动。 这为犯罪分子提供了许多隐藏在众目睽睽之下的机会。”

Meta 发言人表示，转向加密的决定是为了“为人们提供隐私”，该公司鼓励用户向公司自我报告与剥削儿童有关的私人信息。

“转向加密消息传递环境并不意味着我们会牺牲安全性，我们已经开发了 30 多种安全工具，所有这些工具都适用于加密消息传递，”该发言人表示。 “我们现在让举报工具更容易找到，减少了举报步骤，并开始鼓励青少年在相关时刻举报。”

FinCEN 拒绝置评。 贝宝没有回应置评请求。