多方计算时,每次结果竟然都存在着巨大隐患,此文告诉你可以这样解决!

举报
breakDawn 发表于 2022/01/26 11:37:58 2022/01/26
【摘要】 联邦多方计算场景,一方对于另一方的运行中数据是无法感知的, 通过MPC算法或者TEE安全硬件, 可以保证数据计算过程中的安全性。 但是当计算完成后,得到的结果中却包含了潜在的安全风险。 针对这种问题, 华为云tics服务联合德国慕尼黑可信技术实验室, 推出了基于多方sql作业的差分隐私算法应用, 对于大规模的聚合类计算,可以实现对内部个体的数据保护。

多次计算时的防泄露难题

联邦多方计算场景,一方对于另一方的运行中数据是无法感知的, 通过MPC算法或者TEE安全硬件, 可以保证数据计算过程中的安全性。
image.png

但是当计算完成后,得到的结果中却包含了潜在的安全风险。

假设某机构希望从政务数据库中,获取某省市所有市民的税收总和,进行各省市的实力分析和统计。这类计算请求正常来说是合理的,因为做过聚合之后, 各市民的实际税收金额就被合并掩盖了。

select sum(xxx) from ...

但是当执行第二次统计作业时, 如果机构将交集中的某个人员进行剔除后, 发现税收的总和下降了x元,那么即可马上推断出该人员的税收, 而这个过程对于计算方、数据提供方是无法很好感知的。

华为差分隐私解决方案

针对这种问题, 华为云tics服务联合德国慕尼黑可信技术实验室, 推出了基于多方sql作业的差分隐私算法应用, 对于大规模的聚合类计算,可以实现对内部个体的数据保护。

以下是官方在产品文档里已公布的差分隐私算法应用方式:

  1. TICS数据联盟管理者在联盟管理中,选择打开“结果差分隐私”。
    image.png
  2. 联盟中的数据提供方进行数据集发布时,将敏感数值数据勾选为“敏感”的字段分类, 并进行发布。
    image.png

以下是TICS产品文档中对字段分类的解释

  • 唯一标识:指用于标识某个事物实体身份的字段。例如身份证、工号、公司代码等。勾选后,会通过一定的语法限制和运行期校验,保护数据集内的id总集,确保无法被恶意逆推。
  • 敏感:指会参与统计、计算的敏感数据。例如薪水、纳税、用电量。勾选后,其他参与方只能使用敏感进行不可逆推的四则运算、聚合计算(sum/avg)、条件过滤(where)。TICS会保护唯一标识和敏感数据不被成对地明文泄露,同时会对敏感数据的求和计算添加差分噪声,以保护敏感数据不被泄露
  • 非敏感:指不参与数值分析,也和唯一身份无关的数据。例如等级、公司类型。
  1. 发起方执行聚合类型的作业。
    以统计各行业税收总和为例,sql可以如下
Select
  industry,
  sum(tax_bal),
  sum(electric_bal)
from
  数据提供方.tax a join
  作业发起方.power_data b
  on a.id = b.id
group by
  industry

经过规则校验和审批后, 作业发起方通过平台安全计算,得到了如下的结果:
image.png

接着作业发起方再执行一个sql,这个sql中过滤掉了某个id,试图用差值去计算这个个体的税收值。

Select
  industry,
  sum(tax_bal),
  sum(electric_bal)
from
  数据提供方.tax a join
  作业发起方.power_data b
  on a.id = b.id
  where a.id <> '123400558' 
group by
  industry

123400558这个id对应个体属于互联网,实际税收值为274
image.png
那让我们看一下发起方第二次执行该作业时,会得到什么结果
image.png

66539.583321490225131 - 66078.857559963717677 = -461
可以看到并不会像使用者预期的那样得到实际的274差值,而是一个负数,总聚合结果有误差,但在可以接受的范围内。

从上面可以看到,tics成功通过差分隐私算法,保护了大数量统计情况下的个体数据安全。


华为可信智能计算服务 TICS 官网链接:

https://www.huaweicloud.cn/product/tics.html

欢迎参与最新版的体验。

tics服务交流社区:

https://bbs.huaweicloud.cn/forum/forum-1348-1.html

【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。