自 2022 年以来，数百万人在 Pornhub 英国网站上搜索虐待儿童视频的行为已被中断。
每次用户搜索与滥用相关的单词或短语（24 个月内总计达到 440 万次）时，都会出现一个重新思考聊天机器人，并显示一条阻止该页面的警告消息。
警告消息告诉用户他们正在搜索的内容类型是非法的。
在某些情况下，对于 50% 的用户来说， 人工智能 （人工智能）聊天机器人还为人们指明了可以寻求帮助的地方。
在此消息发布之前，国家失踪和受虐儿童中心表示，2022 年收到了超过 3200 万份来自公司和公众的涉嫌儿童性虐待的报告。
该组织表示，它收到了大约 8800 万张突出显示涉嫌剥削儿童的图像、视频和其他文件，而 2019 年向该中心报告的图像和视频数量达到创纪录的 7000 万张。
据国家失踪和受虐儿童中心称，Facebook、Instagram 和 Snapchat 等社交平台的发展使得检测虐待内容变得更加容易。
2020年，在《纽约时报》的一篇报道中批评它之后， 色情中心 从其网站上删除了约 1000 万个视频，在一定程度上消除了其网站上所有虐待儿童的内容和其他令人讨厌的内容。
尽管每年有数百万与虐待儿童相关的内容从网络上删除，但图像和视频仍然在社交媒体上分享、在私人聊天中交易并在暗网上出售。
还存在剥削性录像被出售给其他合法色情视频共享网站的案例。
Pornhub 聊天机器人是视频共享网站与两个英国儿童保护组织合作的一部分。 此次合作的目的是找出是否可以通过小型人工智能干预来阻止人们寻找非法内容。
互联网观察基金会 (IWF) 是一个致力于从互联网上删除剥削性儿童内容的非营利组织，它创建了聊天机器人。 致力于防止儿童性虐待的慈善机构露西·费斯福尔基金会是第二个参与该试验的组织。
根据《连线》杂志看到的一份分析协作人工智能测试的新报告，部署聊天机器人导致搜索搜索的人减少 儿童性虐待 材料。
一些用户还听取了人工智能的建议，并为其心理倾向和行为寻求支持。
虽然人工智能聊天机器人无法识别个人用户，但它会询问人们一系列个人问题。 用户被指示要么输入一个独特的答案，要么选择一个预先写好的答案。
调查问卷结束后，用户被引导至露西·费斯富尔基金会的帮助服务。
根据该报告，聊天机器人直接通过聊天机器人发出了 1,656 条索取更多信息的请求，490 人点击进入了该慈善机构的 Stop It Now 网站，大约 68 人致电或拨打 Lucy Faithfull 的机密帮助热线。
负责 reThink Chatbot 测试分析的塔斯马尼亚大学高级讲师乔尔·斯坎兰 (Joel Scanlan) 表示：“实际的原始搜索数量实际上高得吓人。”
在为期两年的试验期间，Pornhub 的英国网站上出现了 4,400,960 条警告——检测到搜索与虐待儿童相关的单词和短语的用户。
虽然试验暴露了一些用户的令人不安的兴趣，但试验期间 99% 的搜索都没有收到警告。
斯坎兰解释说：“搜查次数的干预时间显着减少。”他接着指出，“威慑信息确实有效”。
1709596260
2024-03-04 21:17:53
