采用人工智能时需要考虑的法律问题

所以你希望你的公司开始使用 人工智能。在急于采用人工智能之前，请考虑潜在风险，包括数据保护、知识产权和责任方面的法律问题。通过战略风险管理框架，企业可以减轻重大合规风险并维护客户信任，同时利用最新的人工智能进步。

检查你的训练数据

首先，评估用于训练 AI 模型的数据是否符合适用法律，例如印度 2023 年的 数字个人数据保护法案 以及欧盟 通用数据保护条例，其中涉及数据所有权、同意和合规性。及时进行法律审查，确定所收集的数据是否可以合法用于机器学习目的，可以避免以后出现监管和法律问题。

该法律评估涉及深入研究贵公司现有的服务条款、隐私政策声明和其他面向客户的合同条款，以确定已从客户或用户那里获得哪些权限（如果有）。下一步是确定这些权限是否足以训练 AI 模型。如果不够，则可能需要额外的客户通知或同意。

不同类型的数据带来不同的同意和责任问题。例如，考虑一下你的数据是个人身份信息、合成内容（通常由另一个人工智能系统生成）还是其他人的知识产权。数据最小化（仅使用你需要的数据）是在此阶段适用的一个很好的原则。

注意知识产权问题

公司还需要考虑无意泄漏 机密和商业秘密信息 通过人工智能产品。如果允许员工在内部使用以下技术 ChatGPT （用于文本）和 Github Copilot （用于代码生成），公司应该注意，这样的生成式人工智能工具通常 接受用户提示和输出 作为训练数据以进一步改进他们的模型。幸运的是，生成式人工智能公司通常提供更安全的服务，并允许选择退出模型训练。

警惕幻觉

当生成式人工智能模型输出训练数据时，也会出现版权侵权索赔和数据保护问题。

记忆也会导致输出不准确，有时被称为“幻觉”。在一个有趣的案例中， 纽约时报 记者 尝试使用 Bing AI 聊天机器人 悉尼，它表达了对这位记者的喜爱。这一病毒式事件引发了一场讨论，即需要监控此类工具的使用方式，尤其是年轻用户，因为他们更有可能将人类特征归因于人工智能。

幻觉也会在专业领域造成问题。例如，两名律师在提交了一份由 ChatGPT 引用了不存在的判例法。

这种幻觉说明了为什么公司需要测试和验证人工智能产品，以避免法律风险和声誉损害。许多公司已经投入工程资源来 开发内容过滤器 从而提高准确性并降低输出冒犯性、辱骂性、不当性或诽谤性内容的可能性。

跟踪数据

如果您有权访问可识别个人身份的用户数据，那么安全地处理这些数据至关重要。您还必须保证可以根据用户请求或监管机构或法院的指示删除这些数据并防止其用于机器学习目的。维护数据来源并确保强大的基础设施对所有 AI 工程团队来说都至关重要。

“通过战略风险管理框架，企业可以减轻重大合规风险并维护客户信任，同时利用最新的人工智能进步。”

这些技术要求与法律风险相关。在美国，监管机构包括 联邦贸易委员会 依靠 算法吐出这是一项惩罚措施。如果一家公司在收集训练数据时违反了适用法律，它不仅必须删除数据，还必须删除在污染数据上训练的模型。建议准确记录用于训练不同模型的数据集。

警惕人工智能算法中的偏见

人工智能面临的一个主要挑战是可能存在有害偏见，这种偏见可能根深蒂固地存在于算法中。如果在产品发布前没有消除偏见，应用程序可能会延续甚至加剧现有的歧视。

例如，美国执法部门采用的预测警务算法已被证明会强化普遍存在的偏见。 黑人和拉丁裔 社区最终成为不成比例的攻击目标。

当用于 贷款批准 或者 招聘职位，有偏见的算法可能导致歧视性的结果。

专家和政策制定者表示，企业在人工智能领域努力实现公平非常重要。算法偏见可能会对公民自由和人权产生切实而有害的影响。

透明化

许多公司都设立了道德审查委员会，以确保其业务实践符合透明度和问责制原则。最佳实践包括对数据使用保持透明，并向客户准确说明人工智能产品的能力。

美国监管机构不认可企业 那 过度承诺人工智能能力 在其营销材料中。监管机构还 警告企业 反对悄悄地单方面改变合同中的数据许可条款，以此来扩大其获取客户数据的范围。

采取全球性的、基于风险的方法

许多人工智能治理专家建议 采取基于风险的方法 人工智能开发。该策略包括绘制公司内的人工智能项目图谱、根据风险等级对其进行评分以及实施缓解措施。许多公司将风险评估纳入现有流程，以衡量拟议功能对隐私的影响。

在制定人工智能政策时，重要的是确保您所考虑的规则和指南足以在全球范围内降低风险，并考虑到最新的国际法。

区域化的人工智能治理方法可能成本高昂且容易出错。欧盟最近通过了 人工智能法案 包括对开发和使用人工智能的公司的一系列详细要求，以及 类似的法律 可能很快在亚洲出现。

继续进行法律和道德审查

法律和道德审查在 AI 产品的整个生命周期中都很重要——训练模型、测试和开发模型、发布模型，甚至之后。公司应该积极思考如何实施 AI 以消除效率低下的问题，同时保护业务和客户数据的机密性。

对于许多人来说，人工智能是一个新领域。公司应该投资培训计划，帮助员工了解如何最好地利用新工具，并利用它们推动业务发展。