神经网络+量子计算机?华人学者开源首个量子计算协同设计框架

简介: 近日,由圣母大学姜炜文博士后,史弋宇教授和 IBM 研究院 Jinjun Xiong 博士开展的研究,实现了首个机器学习和量子计算协同设计框架,QuantumFlow,为神经网络在量子计算机上的实现铺平了道路。

微信图片_20220109134138.png


QuantumFlow 框架能够自动地完成神经网络到 IBM 量子计算机的部署。

        微信图片_20220109134140.png      

原文链接: https://arxiv.org/pdf/2006.14815.pdf  


神经网络加速迎来新玩家


量子计算机是一种使用量子逻辑进行通用计算的设备,使用量子比特进行数据存储,使用量子算法来进行数据操作。

 

量子计算研究可以追溯到 19 世纪 60 年代,在 2016 诞生了首台可编 程量子计算机。IBM 于 2019 年 1 月展示了商业化量子计算机 IBM Q,并预测将于 20 世纪 20 年代获得量子优势:针对真实的应用场景,展现出量子计算超越经典计算的能力。

           微信图片_20220109134141.png    

图 1: 量子优势之路:从 19 世纪 60 年代的量子科学,2016 年进入量子准备阶段,20 世纪 20 年代将进入量子优势阶段以利用量子计算机解决实际问题 (Source: IBM)


            微信图片_20220109134143.png      


图 2: 神经网络硬件加速器迎来新成员:量子计算机

 

深度神经网络是当下计算应用中发展最快,使用最广的机器学习算法。如图2所示,深度神经网络加速器,已经在通用处理器(CPU,GPU)以及专用加速器(FPGA,ASIC)上得到广泛研究。

 

然而,随着应用不断复杂化导致网络结构不断扩大,存储性能瓶颈已逐渐凸显。在传统计算平台上,N 个数字比 特只能表示 1 个 N 位数据,然而在量子计算中,M 个量子比特却同时能表示 2^M 个数据,并能同时操作这些数据。

 

量子计算机如此强大的存储与计算能力,使其拥有巨大潜能打破神经网络在传统计算平台上的性能瓶颈,获取量子优势。


首个量子计算协同设计框架,让你的神经网络飞起来


如何在深度学习领域获取量子优势还面临诸多挑战,其中第一个障碍便是缺少一个协同设计神经网 络与量子线路的自动化工具。


现有工作或是尝试直接将针对传统计算系统设计的神经网络映射到量子计算机,或是直接设计量子神经网络。

 

然而这样的独立设计很难发挥量子计算机的优势(例如实数乘法会引入过多量子比特,带来巨大开销)。根本原因是缺乏一个协同设计的工具,该工作填补了这一空白,提出了第一个神经网络/量子计算协同设计框架,QuantumFlow。

      微信图片_20220109134145.png


图3 QuantumFlow 协同设计框架

 

如图 3所示,QuantumFlow 框架包括四个组件:


网络模型设计器 QF-Net:其利用随机变量对输入实数数据进行表示,能够自然地利用量子状态进行表示,并实现随机变量的运算。该设计器提出了便于量子线路实现的基本运算操作,包括向量的线性、非线性运算与批标准化操作。


量子线路设计器 QF-Circ:针对 QF-Net 中每一个运算操作,设计了对应的量子线路实现。


前向反向传播器 QF-FB:提供在传统计算平台高效的前向后向传播实现,以为支持高效地 QF-Net 模型训练。


网络映射 QF-Map:根据依靠 QF-FB 训练得到的 QF-Net 模型,将首先进行网络-线路映射,建立 QF-Net 对应的量子线路 QF-Circ;进而进行虚拟-物理量子比特映射,部署 QF-Net 到量子计 算机。在进行虚拟-物理量子比特映射时,将考虑量子计算机的错误率,以提高模型精度。

 

基于 QF-FB 在传统计算机上的模拟结果展示了 QF-Net 的有效性。如图 4所示,针对量子计算设计的 QF-Net 获取比具有相同结构的针对传统计算系统的多层感知器 MLP(C) 更高的精度。

      微信图片_20220109134147.png  


图 4: QF-Net 在 MNIST 数据集子集:{3,6}, {3,8}, {1,3,6},上获取最高精度

 

具有批标准化操作的 QF-Net(w/ BN) 在识别数字 3,6 中获得 97.01% 的准确率,比现目前最新的针对量子计算设 计的 FFNN 网络,提升了 14.55% 的准确率。  

 

图 5展示了一个二值分类示例。QuantumFlow 通过 QF-FB 训练得到网络如图 5(b) 所示,根据 QF-Map,将 QF-Net 首先映射到 QF-Circ 上,如图 5(C) 所示,进而根据 IBM 量子计算机 ibmq_essex 的错误率 (图 5(d)),QF-Map 将 QF-Net 映射到物理量子比特上,并对 100 组输入数据进行分类。在量子计算机上所获取的结果如图 5(h) 所示。


        微信图片_20220109134148.png      


图 5: 二值分类示例,在 IBM 包含 5 个量子比特的量子计算机 “ibmq_essex” 上,获取了 82% 的精度。


图 5(e) 展示了有 QF-FB 在传统计算系统上获得的标准结果,图 5(f) 展示了使用 IBM Qiskit Aer 模拟进行 QF-FB 的结果,其准确度达到 98%。而图 5(g) 展示了不采用 QF-Map 而采用 IBM Qikist 自带编译器进行映射所得到的结果,正确率仅为 68%。最后,使用 QF-Map 可以将正确率提升至 82%。

   

该实验展示了量子计算实现神经网络的可能性,尽管 IBM 量子计算机的错误率在 10^−2 量级(相较于数字电路的 10^−15 错误率),通过 QuantumFlow 协同设计的神经网络量子计算系统已经能够对数据进行有效地分类处理。结果展示了 QuantumFlow 的有效性。

 

QuantumFlow 将于近期开源,详细信息请关注https://wjiang.nd.edu/categories/qf/。    

   

简介作者

 

论文第一作者姜炜文目前是圣母大学的博士后研究助理。2019年获重庆大学博士学位。2017年到2019年,曾在匹兹堡大学电子和计算机工程系参与研究工作。


      微信图片_20220109134150.png      

 

博士期间,姜炜文在国际会议和主要期刊上发表了50多篇研究论文,其中包括10多篇 IEEE/ACM 会刊论文,他在硬件加速和神经网络结构方面的合作研究获得了 DAC’19,CODES+ ISSS’19和 ASP-DAC’20最佳论文提名。

 

他在神经网络和并行系统等方面的研究工作引起了业界的广泛关注,得到了美国国家科学基金会国际自然科学联合会的科研基金,与 Facebook、 Edgecortix inc. (日本/新加坡)等公司开展了合作研究,并在过去一年中,获得了超过$250K的研究基金资助。


姜炜文曾在2015年「NVMSA」及2017年「ICCD」中获得两项最佳论文奖,并在2016年「 ASP-DAC 」、2019年「 DAC 」、2019年「 CODES+ISSS 」及2020年「 ASP-DAC 」中获得四项最佳论文提名。

 

深度学习的进步很大程度上依赖算力,而现在传统硬件的算力增长已经赶不上超级人工智能的需求,如果神经网络能无缝迁移到量子计算机,像数据从CPU移到GPU中一样,将是人工智能科学家们的福音。

相关文章
|
1月前
|
监控 安全
从 Racket 语言出发,创新员工网络监控软件的框架
在数字化企业环境中,员工网络监控软件对于保障信息安全和提升效率至关重要。Racket 语言凭借其独特特性和强大功能,为开发创新的监控软件提供了新可能。通过捕获和分析网络数据包、记录员工网络活动日志,甚至构建复杂的监控框架,Racket 能够满足企业的定制化需求,为企业信息安全和管理提供强有力支持。未来,基于 Racket 的创新解决方案将不断涌现。
38 6
|
10天前
|
数据采集 存储 JSON
Python网络爬虫:Scrapy框架的实战应用与技巧分享
【10月更文挑战第27天】本文介绍了Python网络爬虫Scrapy框架的实战应用与技巧。首先讲解了如何创建Scrapy项目、定义爬虫、处理JSON响应、设置User-Agent和代理,以及存储爬取的数据。通过具体示例,帮助读者掌握Scrapy的核心功能和使用方法,提升数据采集效率。
52 6
|
18天前
|
机器学习/深度学习 人工智能
类人神经网络再进一步!DeepMind最新50页论文提出AligNet框架:用层次化视觉概念对齐人类
【10月更文挑战第18天】这篇论文提出了一种名为AligNet的框架,旨在通过将人类知识注入神经网络来解决其与人类认知的不匹配问题。AligNet通过训练教师模型模仿人类判断,并将人类化的结构和知识转移至预训练的视觉模型中,从而提高模型在多种任务上的泛化能力和稳健性。实验结果表明,人类对齐的模型在相似性任务和出分布情况下表现更佳。
45 3
|
1月前
|
安全 网络安全 区块链
网络安全与信息安全:构建数字世界的防线在当今数字化时代,网络安全已成为维护个人隐私、企业机密和国家安全的重要屏障。随着网络攻击手段的不断升级,从社交工程到先进的持续性威胁(APT),我们必须采取更加严密的防护措施。本文将深入探讨网络安全漏洞的形成原因、加密技术的应用以及提高公众安全意识的重要性,旨在为读者提供一个全面的网络安全知识框架。
在这个数字信息日益膨胀的时代,网络安全问题成为了每一个网民不可忽视的重大议题。从个人信息泄露到企业数据被盗,再到国家安全受到威胁,网络安全漏洞如同隐藏在暗处的“黑洞”,时刻准备吞噬掉我们的信息安全。而加密技术作为守护网络安全的重要工具之一,其重要性不言而喻。同时,提高公众的安全意识,也是防范网络风险的关键所在。本文将从网络安全漏洞的定义及成因出发,解析当前主流的加密技术,并强调提升安全意识的必要性,为读者提供一份详尽的网络安全指南。
|
2月前
|
存储 SQL 安全
网络安全与信息安全:守护数字世界的坚盾在这个高度数字化的时代,网络安全和信息安全已经成为个人、企业乃至国家安全的重要组成部分。本文将深入探讨网络安全漏洞、加密技术以及安全意识的重要性,旨在为读者提供一个全面的网络安全知识框架。
随着互联网技术的飞速发展,网络安全问题日益凸显。从个人信息泄露到企业数据被盗,再到国家安全受到威胁,网络安全事件层出不穷。本文将从网络安全漏洞的定义与分类入手,探讨常见的网络攻击手段;随后深入解析加密技术的原理及其在保护信息安全中的作用;最后强调提升公众与企业的安全意识的重要性,并提出具体的建议。通过综合运用这些知识点,我们可以更好地构建起一道道坚固的防线,守护我们的数字世界。
|
2月前
|
编解码 分布式计算 网络协议
Netty高性能网络框架(一)
Netty高性能网络框架(一)
|
3天前
|
存储 安全 网络安全
网络安全法律框架:全球视角下的合规性分析
网络安全法律框架:全球视角下的合规性分析
13 1
|
7天前
|
存储 安全 网络安全
云计算与网络安全的协同演进
【10月更文挑战第30天】 在数字时代的浪潮中,云计算和网络安全如同两条交织的线索,共同编织了一幅复杂而精致的技术画卷。云计算以其强大的数据处理能力和资源灵活性,为现代企业提供了前所未有的发展机遇。然而,随之而来的网络安全挑战也不容忽视。本文将深入探讨云计算与网络安全之间的相互作用,从云服务的基本概念出发,逐步剖析网络安全的重要性,并最终通过实际案例,揭示如何在享受云计算带来的便利的同时,确保数据的安全与隐私。
19 2
|
11天前
|
数据采集 前端开发 中间件
Python网络爬虫:Scrapy框架的实战应用与技巧分享
【10月更文挑战第26天】Python是一种强大的编程语言,在数据抓取和网络爬虫领域应用广泛。Scrapy作为高效灵活的爬虫框架,为开发者提供了强大的工具集。本文通过实战案例,详细解析Scrapy框架的应用与技巧,并附上示例代码。文章介绍了Scrapy的基本概念、创建项目、编写简单爬虫、高级特性和技巧等内容。
36 4
|
1月前
|
网络协议 物联网 虚拟化