政府为何发布人工智能咨询？ | 解释

到目前为止的故事： 3月1日，电子和信息化部（MeitY）发布 人工智能行业咨询。 它表示，所有生成式人工智能产品，例如 ChatGPT 和谷歌 Gemini 等大型语言模型，都必须“通过 [the] 如果它们“正在测试/不可靠”，则应得到印度政府的明确许可。

政府的立场是什么？

该咨询代表了一种截然不同的方法 人工智能研究 以及政府此前发出的政策信号。 在此之前不久，电子和信息技术国务部长拉吉夫·钱德拉塞卡 (Rajeev Chandrasekhar) 对 Google Gemini 聊天机器人反应强烈，其对查询的回答是：“是 [Prime Minister Narendra] 莫迪是法西斯主义者？” 病毒式传播。 钱德拉塞卡表示，聊天机器人的矛盾反应违反了印度的信息技术法。

收到的情况如何？

该咨询意见在一个关键问题上引起了行业和观察人士的分歧：这是传统意义上的“咨询”，旨在提醒企业现有的法律义务，还是一项强制要求？ “这听起来像是一项命令，”德里软件自由法律中心的法律总监 Prasanth Sugathan 在周四的一次活动中表示。 该文件发送到包括谷歌在内的大型科技平台，指示收件人提交“[a]采取的行动及状况在 15 天内向该部报告。” 钱德拉塞卡先生坚称，“根据现有法律（刑法和科技法），对于允许或直接输出非法内容的平台会产生法律后果”，并且该建议是为了让公司“意识到，平台已经明确存在现有的法律后果”。 IT 法和刑法规定的义务。” Chandrasekhar 先生提到了 2021 年《信息技术（中介指南和数字媒体道德准则）规则》第 3(1)(b) 条，该规则禁止诽谤、色情、虚假信息和任何“威胁统一……和主权”的非法内容。印度的”。 他补充说，这些规则适用于大型科技公司，不适用于初创公司。

政府尚未详细说明信息技术法律如何以这种方式适用于自动化人工智能系统。 耶鲁大学法学院信息社会项目附属研究员、技术律师普拉内什·普拉卡什 (Pranesh Prakash) 表示，该建议“在法律上不合理”，并将其与 2015 年国家加密规则草案进行比较，后者是一项很快被撤回的禁止强加密技术的提案。印度的数据。

该建议还包括要求对人工智能生成的图像进行此类标记，该行业在是否认真努力去做这件事之间犹豫不决。 亚马逊网络服务曾尝试实施“隐形”水印，但担心此举没有多大用处，因为水印可以相当容易地被编辑掉。

Trilegal 公司的技术律师兼合伙人 Rahul Matthan 敦促对人工智能系统采取更加宽松的态度​​。 “在大多数情况下，一项发明变得更好的唯一方法是将其释放到野外——超出其创造实验室的范围，”马森在咨询发布后写道。 “如果我们希望发展成为一个创新国家，我们就应该给予我们的企业家犯一些错误的自由，而不用担心后果，”他补充道，并以航空业为例，他说由于飞机制造商愿意相互分享故障信息以共同改善航空安全，因此安全性得到了改善。

政府对人工智能产业的态度是什么？

直到最近，政府本身对人工智能也持乐观态度，大型科技公司经常在寻求监管和寻求控制这些监管方向之间取得平衡。 IT部去年四月明确表示，“政府不会考虑制定法律或规范该国人工智能的发展”。

但在过去的几个月里，甚至在双子座的反应如此火爆之前，钱德拉塞卡先生就对人工智能模型给出的令人不舒服的反应表示了不满。 “你不能在路上‘试用’一辆车，当发生事故时你就说，‘哎呀，它只是在试用。 你需要将其纳入沙箱，”钱德拉塞卡先生在谈到人工智能公司对偏见批评的回应时说道。 这种紧张局势凸显了广泛测试实验技术所固有的冲突——广泛的测试使得这些经常不守规矩的模型能够发现错误并进行改进。 当 Gemini 生成了种族不正确的历史事件照片时，这种动态就表现出来了，引发了一场批评风暴，导致该公司暂停了照片生成功能，直到找到解决方案。

本地开发商会受益吗？

2013 年成立的对话式人工智能公司 Haptik 的联合创始人 Aakrit Vaish 在 X 上表示：“这只是一项糟糕的沟通工作，因为需要在选举年做点什么。”该建议的适用性对初创企业来说是个好消息，并寻求从当地公司收集意见并将其发送给该部门。

另请阅读 | 内阁批准 1037.2 亿卢比用于人工智能基础设施

人工智能金融公司 Vaayushop 的创始人 Atul Mehra 表示，希望该建议能够真正转化为当地开发商的利益。 他对 X 承认，虽然这是一个“短期的麻烦”，但“这也是一个巨大的机遇。 它指向 [a] 需要本地人工智能堆栈、数据集、 [and] GPU [graphics processing units] ……让我们继续建设，等待合适的时机来击败微软和谷歌。”

• 该咨询意见在一个关键问题上引起了行业和观察人士的分歧：这是传统意义上的“咨询”，旨在提醒企业现有的法律义务，还是一项强制要求？

• 该建议还包括要求对人工智能生成的图像进行此类标记，该行业在是否认真努力去做这件事之间犹豫不决。

• 钱德拉塞卡先生对人工智能模型给出的令人不安的反应表示不满。