沃尔玛、达美航空和星巴克如何使用人工智能检查员工消息

请注意乔治·奥威尔的参考文献。

根据您的工作地点，人工智能很有可能会分析您在 Slack、Microsoft Teams、 飞涨 和其他流行的应用程序。

美国大型雇主，例如 沃尔玛, 达美航空, T移动, 雪佛龙 和 星巴克，以及包括雀巢和 阿斯利康据该公司称，他们已经求助于一家成立七年的初创公司 Aware，来监控普通员工之间的聊天记录。

这家总部位于俄亥俄州哥伦布市的初创公司的联合创始人兼首席执行官杰夫·舒曼 (Jeff Schumann) 表示，人工智能可以帮助公司“了解其沟通中的风险”，实时了解员工的情绪，而不是依赖于每年或两次的报告。每年的调查。

舒曼表示，使用 Aware 分析产品中的匿名数据，客户可以了解特定年龄段或特定地理位置的员工如何响应新的公司政策或营销活动。 他说，Aware 的数十个人工智能模型旨在读取文本和处理图像，还可以识别欺凌、骚扰、歧视、违规、色情、裸体和其他行为。

舒曼表示，Aware 的分析工具（监控员工情绪和毒性的工具）无法标记个别员工的姓名。 但他补充说，如果出现极端威胁或客户预先确定的其他风险行为，其单独的电子发现工具可以。

Aware表示，沃尔玛、T-Mobile、雪佛龙和星巴克都使用其技术来治理风险和合规性，此类工作约占公司业务的80%。

CNBC 没有收到沃尔玛、T-Mobile、雪佛龙、星巴克或雀巢关于使用 Aware 的回应。 阿斯利康的一位代表表示，该公司使用电子发现产品，但不使用分析来监控情绪或毒性。 达美航空告诉 CNBC，它使用 Aware 的分析和电子取证来监控趋势和情绪，以此收集员工和其他利益相关者的反馈，并在其社交媒体平台上保留法律记录。

不需要反乌托邦小说爱好者就能看出事情可能会出什么大问题。

人工智能问责非营利组织人道情报组织的联合创始人朱塔·威廉姆斯表示，人工智能给所谓的内部风险项目增加了一个新的、可能存在问题的问题，这些项目已经存在多年，用于评估企业间谍活动，特别是在电子邮件通信领域。

Williams 在接受 CNBC 采访时泛泛地谈论了员工监控人工智能，而不是具体讨论 Aware 的技术：“其中很多都变成了思想犯罪。” 她补充道，“这就像对待库存一样，以一种我从未见过的方式。”

继 2022 年底 OpenAI 的 ChatGPT 聊天机器人推出后，员工监控 AI 是更大的 AI 市场中快速扩张但又小众的一块，该市场在过去一年中呈爆炸式增长。生成式 AI 很快成为企业财报电话会议上的热门用语，并且某种形式的技术正在使几乎每个行业的任务实现自动化，从金融服务和生物医学研究到物流、在线旅行和 公用事业。

Schumann 告诉 CNBC，过去五年来，Aware 的收入平均每年增长 150%，其典型客户约有 30,000 名员工。 主要竞争对手包括 Qualtrics、Relativity、Proofpoint、Smarsh 和 Netskope。

按照行业标准，Aware 保持着相当精简的状态。 该公司上次融资是在 2021 年，当时筹集了 6000 万美元。 圆形的 由…领着 高盛 资产管理。 与大型语言模型（LLM）相比，OpenAI 和 Anthropic 等公司各自筹集了数十亿美元，主要来自战略合作伙伴。

2005年，舒曼创立了一家名为BigBrotherLite.com的公司。 根据他的 领英个人资料，该公司开发了“增强哥伦比亚广播公司真人秀节目《老大哥》的数字和移动观看体验”的软件。 在奥威尔的经典小说《1984》中，老大哥是一个极权国家的领导人，在这个国家里，公民受到永久的监视。

”我构建了一个简单的播放器，专注于为人们在计算机上观看电视节目提供更干净、更轻松的消费者体验，”舒曼在一封电子邮件中说。

在 Aware，他正在做一些非常不同的事情。

该公司每年都会发布一份报告，汇总大公司发送的数十亿条消息（2023 年这一数字为 65 亿条）的见解，并列出感知的风险因素和工作场所情绪得分。 舒曼将每年通过工作场所通信平台发送的数万亿条消息称为“世界上增长最快的非结构化数据集”。

当包括图像和视频等其他类型的共享内容时，Aware 的分析 AI 每天会分析超过 1 亿条内容。 在此过程中，该技术创建了一个公司社交图谱，查看哪些团队内部相互交谈的次数多于其他团队。

“它总是在跟踪实时员工情绪，并且总是在跟踪实时毒性，”舒曼谈到该分析工具时说道。 “如果你是一家使用 Aware 的银行，并且员工的情绪在过去 20 分钟内飙升，那是因为他们正在集体谈论一些积极的事情。该技术将能够告诉他们无论是什么。”

Aware 向 CNBC 证实，它使用来自企业客户的数据来训练其机器学习模型。 该公司表示，该公司的数据存储库包含约 65 亿条消息，代表超过 300 万名独特员工的约 200 亿次个人互动。

舒曼说，当新客户注册该分析工具时，Aware 的人工智能模型需要大约两周的时间来训练员工消息，并了解公司内部的情绪和情绪模式，以便能够看出什么是正常的，什么是异常的。

“为了保护隐私，它不会有人名，”舒曼说。 相反，他说，客户会看到“也许美国这一地区 40 岁以上的劳动力正在经历以下变化： [a] 由于成本的原因，政策非常消极，但该年龄段和地区之外的其他人都认为它是积极的，因为它以不同的方式影响他们。”

但 Aware 的电子取证工具的运作方式有所不同。 公司可以根据公司选择的“极端风险”类别设置对员工姓名的基于角色的访问权限，这会指示 Aware 的技术在某些情况下为人力资源或其他公司代表提取个人姓名。

舒曼说：“一些常见的行为是极端暴力、极端欺凌、骚扰，但确实因行业而异。”他补充说，在金融服务业，可疑的内幕交易将受到追踪。

舒曼说，例如，客户可以使用 Aware 的技术指定“暴力威胁”政策或任何其他类别，并让人工智能模型监控 Slack 中的违规行为， 微软 团队和工作场所 元。 客户端还可以将其与某些短语、语句等基于规则的标志结合起来。 如果人工智能发现某些内容违反了公司规定的政策，它可以将员工的姓名提供给客户指定的代表。

这种类型的做法已在电子邮件通信中使用多年。 新鲜的是 AI 的使用及其在 Slack 和 Teams 等工作场所消息平台上的应用。

纽约大学 AI Now 研究所执行主任安巴·卡克 (Amba Kak) 对使用人工智能来帮助确定哪些行为被视为危险行为表示担忧。

卡克说：“这对人们在工作场所的言论产生了寒蝉效应。”她补充说，联邦贸易委员会、司法部和平等就业机会委员会都对此事表示了担忧，尽管她没有具体谈论此事意识到的技术。 “这些既是工人权利问题，也是隐私问题。”

Schumann 表示，尽管 Aware 的 eDiscovery 工具允许安全或人力资源调查团队使用 AI 搜索大量数据，但 Slack、Teams 和其他平台中“如今已经存在类似但基本的功能”。

“这里的一个关键区别是 Aware 及其人工智能模型并不做出决策，”舒曼说。 “我们的人工智能只是让我们更容易地梳理这个新数据集，以识别潜在的风险或政策违规行为。”

即使数据是聚合的或匿名的， 研究表明，这是一个有缺陷的概念。 A 里程碑式的研究 关于数据隐私的研究使用 1990 年美国人口普查数据显示，仅通过邮政编码、出生日期和性别即可识别 87% 的美国人。 使用其分析工具的有意识的客户能够将元数据添加到消息跟踪中，例如员工年龄、位置、部门、任期或工作职能。

卡克说：“他们所说的是一种非常过时的观念，我想说，在这一点上，匿名化或聚合就像解决隐私问题的灵丹妙药一样，完全被揭穿了。”

此外，Aware 使用的人工智能模型类型可以有效地从聚合数据中生成推论，做出准确的猜测，例如，根据语言、上下文、俚语等对个人标识符进行准确的猜测。 最近的研究。

卡克说：“本质上没有一家公司能够对法学硕士和此类系统的隐私和安全做出任何全面的保证。” “没有人可以一本正经地告诉你这些挑战已经解决。”

那么员工追索权又如何呢？ 威廉姆斯说，如果一次互动被标记并且员工受到纪律处分或解雇，如果他们不了解所涉及的所有数据，他们就很难提供辩护。

“当我们知道人工智能的可解释性还不成熟时，你如何面对你的指控者？” 威廉姆斯说。

舒曼回应说：“我们的人工智能模型都不会就员工纪律做出决定或建议。”

舒曼说：“当模型标记出交互时，它会提供有关所发生事件及其触发的政策的完整背景信息，为调查团队提供他们所需的信息，以根据公司政策和法律决定下一步行动。”

手表： 人工智能在最近的科技裁员中“真正发挥了作用”