五个月前,依图的首颗云端视觉 AI 芯片求索(QuestCore)落地,基于依图全球领先 AI 算法以提升视觉计算的智能密度,是依图在机器视觉定制化芯片综合技术的有力检验。
但是,在推进算法和芯片融合的过程中,依图的工作人员意识到一个核心问题,软硬件对接是 AI 芯片设计过程中的难题。
「做 AI 算法的人往往不懂芯片,因此当算法开发者想把算法移植到芯片上时,通常需要芯片或硬件厂家的驻厂培训;反之亦然,芯片厂家想针对某个新的算法做优化也需要专门的对接」。依图工作人员向机器之心表示。
过于冗长的对接和沟通桥梁,将导致开发导致周期较长,更可能耽误产品上新的最佳时期。
为了解决 AI 算法和芯片对接难的难题,依图基于自身经验,提出了建立视觉计算创新平台的概念。这个平台的初版在依图的智能芯片设计、计算机视觉单点技术研究,以及视觉智能产品规划等方面发挥了积极作用。
2019 年世界人工智能大会期间,国家科技部正式宣布将依托依图科技打造「视觉计算国家新一代人工智能开放创新平台」(以下简称「视觉计算平台」),助力中国芯片设计业和人工智能的结合。
10 月 30 日,依图正式启动「AI 芯片视觉计算创新平台开放计划」,开放从底层计算硬件、算法、数据库、应用层等一整套行业应用架构。它最大的特点是「分层解耦、开放融合」,产业各方都可以根据需求模块化使用,快速落地行业应用。
从芯片到平台,成为 AI 基础设施提供商和 AI 解决方案提供商——依图的产业定位更加清晰。
重在开放,巧用解耦
没有计算就没有智能,但 AIoT 时代多元的应用场景意味着多元的算力需求,领域专用芯片(Domain Specific Architecture)变得至关重要,典型代表就是谷歌的 TPU。
这是依图科技打造首颗云端视觉推理 AI 芯片「求索」的原因,也是面向行业再迈进一步,开放视觉计算创新平台的重要原因。
在行业应用整体架构看,依图的视觉计算平台主要分为 5 层,从下至上分别是:视觉计算硬件层、解析计算层、视图信息层、大规模特征索引层和业务应用层。
具体而言,在底层硬件层,依图提供芯片、模组、服务器(盒子)算力资源,如果开发者有自身的算法,依图还提供迁移工具到求索芯片,帮助算法开发者加速算法和芯片的对接过程。
在解析计算层,依图提供人像解析、人体解析、车辆识别、X 光机、视频结构化等领先的视觉算法。
在视图信息层,依图提供以图搜图、级联汇聚、数据存储和管理,支持行业视图库标准与分布式级联,解决超大规模结构化数据和突破读写问题,帮助商家快速开发部署。
大规模特征索引层是实现从感知智能到认知智能的关键一层,目前可支持 10 万路视频在 1 年内数据的秒级检索,进行各种关系的关联计算。它是行业大数据的视觉计算入口,开发者可以开发深度行业应用。
最上层是业务应用层,依图在智能城市有深度布局,已经积累下 110 个成熟行业应用,开发者可以直接使用,也可以在此基础上开发行业场景应用。
依图科技 COO 张小平总结道,这一视觉计算平台最大的特点在于「分层解耦、开放融合」。
所谓「分层解耦」,就是将平台算法层与硬件层、数据层、应用层各层之间都实现解耦,每一层都能通过接口对外提供能力,这种可插拔式的分层架构,让各方都能参与进来按需使用,大幅降低 AI 开发时间和门槛。
所谓「开放融合」,是指平台的开放性、包容性,第三方算法可以跑在依图芯片上,依图的算法也支持合作伙伴的芯片。开放能够实现算力、算法、产品的有效对接,促进创新,避免规模化造成的垄断。
在发布仪式上,依图还与伙伴共同发布了四大核心倡议,包括共同建立视觉计算软硬件协同开发标准,输出「即插即用」的智能模块开发套件,建立开源社区,以及联合高校和研究机构促进工业界和学术界双向互动。
缩短对接,加速创新
在 AIoT、智能城市的大浪潮下,算法厂商、芯片厂商、终端厂商都希望涌入这一庞大的市场,分一杯羹。
然而,在 AI 落地行业早期,仅仅是芯片与算法、技术与产品的对接就非常耗时耗力,可能导致产品开发周期较长,甚至错过产品最佳上市时期。
依图科技业务技术副总裁许源称,AI 芯片和算法对接,往往至少需要 1-2 个月,非常耗时耗力。依图希望通过视觉计算创新平台,将对接的周期降到 1-2 周甚至「即插即用」,大幅减少对接成本。
中移在线是中国移动的子公司,也是依图重要的合作伙伴。中移在线对外业务拓展中心副总经理高松介绍,2015 年在解决新入网用户的身份认证时,开启了与依图在人脸识别领域的探索,此后一直保持紧密合作,也是依图视觉计算平台的合作伙伴。
高松称,在人脸识别技术落地行业的过程中,最重要的问题是成本。大量的数据流向云端,需要大量的计算力做处理,最早 1 路摄像机的市场价高达 1~2 万,很难落地民用市场。而目前市场价已可以降到 5000 元以内。
这与依图在内的算法厂商与芯片厂商的努力有很大关系。以依图求索芯片为例,经实测结果表明,一台基于依图求索的 AI 服务器提供的算力与 8 张英伟达 P4 卡服务器相当,而体积不到 50%,功耗更是仅为后者的 20%,将数据中心整体运维成本降低了 80%,呈现出 AI 专用芯片在性能、功耗与成本上的优势。
他继续谈道,中国移动有非常多的业务,除了大家熟知的的 C 端业务、政企服务外,中国移动也在建设自身的平台。中移在线可以直接使用依图的算法,也可以灵活的整合其他家的算法,这也表现出依图平台的开放性。
依图科技业务技术副总裁许源也表示,依图不会把技术封闭起来,未来会对一些组件进行开源,也会用各种方法开放技术加速 AI 创新。