研究人员创建验证技术以提高人工智能和图像处理的安全性

来自 IMDEA 软件研究所、马德里卡洛斯三世大学和 NEC 欧洲实验室的研究人员团队推出了一种新颖的框架，有望提高可验证计算的效率和实用性。

该研究详细介绍于 纸 “模块化求和证明及其在机器学习和图像处理中的应用”并在上届 ACM（计算机协会）上发表 会议 关于计算机和通信安全，解决了针对人工智能和图像处理中特定应用定制的通用证明系统和解决方案所面临的可扩展性和模块化挑战。

可验证计算包含一系列加密技术，这些技术提供不可伪造的保证，确保某些第三方（例如公司或云服务器）已对用户数据进行了正确处理。 这些技术的一些例子包括证明图像或视频已被编辑、人工智能做出的预测来自经过审计的模型、或者在信用度决策中仅使用了客户提供的数据。 此外，可验证的计算与数据隐私兼容，因此，例如，服务器在计算中使用的算法是保密的。

可验证的计算提供了完整性、公平性和隐私性，这些是外包数据处理任务的应用程序的基本属性。 在可能的解决方案中，有一些通用的证明系统，例如某些区块链中使用的证明系统，在处理大量数据的计算时存在可扩展性问题。 另一方面，专门为这些应用程序设计的解决方案效率更高，但通常彼此不兼容，因此很难扩展它们或将它们集成到更大的数据处理链中。

研究

研究人员推出了一种新框架，旨在通过将定制解决方案的性能优势与通用测试系统的多功能性相结合来弥补这一差距。 其核心是一种可验证的顺序操作计算的模块化方法，该方法基于一种称为 VE（可验证评估方案）的新密码原语。

研究人员提出了一种适合卷积运算的新型 VE，能够处理多个互连的输入和输出通道，展示了他们的框架在人工智能中的实际应用。

David Balbás 博士表示：“我们的协议可以轻松集成到数据处理链中，以全面验证卷积神经网络 (>) 做出的预测，这是大多数人工智能模型的基础。” IMDEA Software 的学生和本研究的研究员。

此外，论文还提出了用于图像处理的新VE，可以有效验证编辑或修饰，包括裁剪、模糊、重新缩放等操作和其他更复杂的操作。

该团队已经制作了其测试系统的原型应用程序，这是对现有技术的重大改进。 IMDEA 软件研究所的研究程序员 Damien Robissout 解释道：“我们的基准测试表明，除了在算法中引入理论创新之外，我们的证明生成速度比迄今为止最好的现有解决方案快五倍，验证速度快十倍。”该研究的共同作者。

这些成果不仅提高了密码证明系统的效率和可扩展性，而且为确保人工智能和图像处理的各种应用中数据处理任务的完整性、公平性和隐私性开辟了新的可能性。

该研究的另一位作者 Maribel González Vasco 表示：“如今，这种方法在我们正在考虑的应用领域至关重要，因为如果不值得最终用户的信任，技术进步就不算是技术进步。” UC3M 数学系。

研究中生成的应用程序是开源的，其模块化特性为其扩展和集成到数据处理链中的各种工具铺平了道路。 通过这种方式，研究人员为可验证计算在金融道德、个人数据保护或人工智能监管等多种应用中的多功能和稳健部署扫清了道路。