|
【天极网IT新闻频道】随着社会各界对于个人隐私保护的日益重视,数据和信息安全已经成为数字和智能时代重要的信任基石,而以机器学习和深度学习为代表的需要依靠海量数据训练机器的人工智能模式,可能也需要进一步革命,因为很多领域实际上并没有海量的数据作为基础,而且随着数据隐私保护的日益强化,效率与安全之间的矛盾也日益凸显。 联邦学习技术的出现为业界提供了全新的发展思路。 联邦学习是在用户数据隐私保护的前提下,通过去中心化协作的方式,进行多方数据融合与机器学习模型集成的理论技术。巧妙的化解了多个主体、多数据源、不同特征维度之间联合建模的问题,解决行业内外数据隐私与数据共享的矛盾,使得企业各方在保护彼此数据隐私的前提下实现跨平台和地域的共创价值,各取所需。 同盾敏锐地观察到联邦学习的独特能力,针对这种数据隐私问题,可以利用联邦的思想,将银行、信贷公司、消费金融公司、P2P平台等金融企业全都纳入联邦框架中,以实现价值的共享。 近日同盾科技人工智能研究院深度学习实验室发布了最新研究成果:“面向联邦学习的加密神经网路”(https://arxiv.org/abs/1908.08340)。该研究成果可以用于解决多头借贷难题,并能保障参与方的数据隐私。
联邦学习目的是通过多个参与方协作,共同训练机器学习模型,同时还要能保护数据隐私。目前联邦学习主要存在如下两个方面的问题: 1) 在训练过程中尽管没有传输客户数据,一定程度上保证了用户隐私。但是梯度信息仍然可能会泄露用户隐私。 2) 联邦需要传输的模型梯度数据量非常大,在参与方和第三方通信过程中需要耗费较长时间。 为了解决上述问题,研究人员提出了一种基于加密神经网络的联邦学习方法,既可以保护用户的数据隐私,又可以压缩模型数据,加快联邦学习进程。 加密神经网络(如下图所示)主要包含两部分:加密网络和解密网络。其中加密网络部署在参与方,输入为每个参与方生成的梯度信息,输出加密数据。解密网络部署在第三方服务器上,输入为各参与方产生的加密数据,输出为重构的梯度更新。
因为,在整个传输过程中只传输加密后的梯度信息,而且第三方的解码器只能重构出整体的梯度更新而不能重构出单个参与方的梯度信息。因此即可以保证参与方的梯度信息在传输中是安全的,又可以保证参与方信息对第三方服务器也是私密的。 加密神经网络在本质上同时实现了安全多方计算和同态加密的功能,该方法可以有效解决多头借贷问题。借贷数据可以通过加密神经网络计算,这样在传输过程甚至是第三方机构中都不会有可复原的数据出现,进而有效规避了隐私泄露的风险。 作为国内联邦学习的先驱,同盾科技致力于基础理论、算法和平台的创新研究、产品及服务的研发落地,推出有落地场景支撑的行业标准及开放平台,在人工智能研究院的大力推动下,同盾科技联邦学习正在加速产业化进程,一些基于理论的美好猜想,正渐渐闪烁让人兴奋的曙光。 |
