依图开放AI芯片视觉计算创新平台,实现算法芯片对接「即插即用」

本文涉及的产品
全局流量管理 GTM,标准版 1个月
公共DNS(含HTTPDNS解析),每月1000万次HTTP解析
云解析 DNS,旗舰版 1个月
简介: 造芯,比以往任何时刻都更牵动人心。前有芯片技术被卡脖子多年,后有中美贸易下芯片产业链国有化势在必行。但造芯远非一日之功,这背后所牵涉到的算法技术、设计能力、数据打磨、供应链支持繁杂而深远,往往是牵一发而动全身。于是,一个能够集聚产业链各方力量并实现资源优化配置的产业平台就成为关键。

微信图片_20211202064054.jpg五个月前,依图的首颗云端视觉 AI 芯片求索(QuestCore)落地,基于依图全球领先 AI 算法以提升视觉计算的智能密度,是依图在机器视觉定制化芯片综合技术的有力检验。


但是,在推进算法和芯片融合的过程中,依图的工作人员意识到一个核心问题,软硬件对接是 AI 芯片设计过程中的难题。


「做 AI 算法的人往往不懂芯片,因此当算法开发者想把算法移植到芯片上时,通常需要芯片或硬件厂家的驻厂培训;反之亦然,芯片厂家想针对某个新的算法做优化也需要专门的对接」。依图工作人员向机器之心表示。


过于冗长的对接和沟通桥梁,将导致开发导致周期较长,更可能耽误产品上新的最佳时期。


为了解决 AI 算法和芯片对接难的难题,依图基于自身经验,提出了建立视觉计算创新平台的概念。这个平台的初版在依图的智能芯片设计、计算机视觉单点技术研究,以及视觉智能产品规划等方面发挥了积极作用。


2019 年世界人工智能大会期间,国家科技部正式宣布将依托依图科技打造「视觉计算国家新一代人工智能开放创新平台」(以下简称「视觉计算平台」),助力中国芯片设计业和人工智能的结合。


10 月 30 日,依图正式启动「AI 芯片视觉计算创新平台开放计划」,开放从底层计算硬件、算法、数据库、应用层等一整套行业应用架构。它最大的特点是「分层解耦、开放融合」,产业各方都可以根据需求模块化使用,快速落地行业应用。


从芯片到平台,成为 AI 基础设施提供商和 AI 解决方案提供商——依图的产业定位更加清晰。


重在开放,巧用解耦


没有计算就没有智能,但 AIoT 时代多元的应用场景意味着多元的算力需求,领域专用芯片(Domain Specific Architecture)变得至关重要,典型代表就是谷歌的 TPU。


这是依图科技打造首颗云端视觉推理 AI 芯片「求索」的原因,也是面向行业再迈进一步,开放视觉计算创新平台的重要原因。


微信图片_20211202064117.jpg


在行业应用整体架构看,依图的视觉计算平台主要分为 5 层,从下至上分别是:视觉计算硬件层、解析计算层、视图信息层、大规模特征索引层和业务应用层。


具体而言,在底层硬件层,依图提供芯片、模组、服务器(盒子)算力资源,如果开发者有自身的算法,依图还提供迁移工具到求索芯片,帮助算法开发者加速算法和芯片的对接过程。


在解析计算层,依图提供人像解析、人体解析、车辆识别、X 光机、视频结构化等领先的视觉算法。


在视图信息层,依图提供以图搜图、级联汇聚、数据存储和管理,支持行业视图库标准与分布式级联,解决超大规模结构化数据和突破读写问题,帮助商家快速开发部署。


大规模特征索引层是实现从感知智能到认知智能的关键一层,目前可支持 10 万路视频在 1 年内数据的秒级检索,进行各种关系的关联计算。它是行业大数据的视觉计算入口,开发者可以开发深度行业应用。


最上层是业务应用层,依图在智能城市有深度布局,已经积累下 110 个成熟行业应用,开发者可以直接使用,也可以在此基础上开发行业场景应用。


依图科技 COO 张小平总结道,这一视觉计算平台最大的特点在于「分层解耦、开放融合」。


所谓「分层解耦」,就是将平台算法层与硬件层、数据层、应用层各层之间都实现解耦,每一层都能通过接口对外提供能力,这种可插拔式的分层架构,让各方都能参与进来按需使用,大幅降低 AI 开发时间和门槛。


所谓「开放融合」,是指平台的开放性、包容性,第三方算法可以跑在依图芯片上,依图的算法也支持合作伙伴的芯片。开放能够实现算力、算法、产品的有效对接,促进创新,避免规模化造成的垄断。


在发布仪式上,依图还与伙伴共同发布了四大核心倡议,包括共同建立视觉计算软硬件协同开发标准,输出「即插即用」的智能模块开发套件,建立开源社区,以及联合高校和研究机构促进工业界和学术界双向互动。


缩短对接,加速创新


在 AIoT、智能城市的大浪潮下,算法厂商、芯片厂商、终端厂商都希望涌入这一庞大的市场,分一杯羹。


然而,在 AI 落地行业早期,仅仅是芯片与算法、技术与产品的对接就非常耗时耗力,可能导致产品开发周期较长,甚至错过产品最佳上市时期。


依图科技业务技术副总裁许源称,AI 芯片和算法对接,往往至少需要 1-2 个月,非常耗时耗力。依图希望通过视觉计算创新平台,将对接的周期降到 1-2 周甚至「即插即用」,大幅减少对接成本。


中移在线是中国移动的子公司,也是依图重要的合作伙伴。中移在线对外业务拓展中心副总经理高松介绍,2015 年在解决新入网用户的身份认证时,开启了与依图在人脸识别领域的探索,此后一直保持紧密合作,也是依图视觉计算平台的合作伙伴。


高松称,在人脸识别技术落地行业的过程中,最重要的问题是成本。大量的数据流向云端,需要大量的计算力做处理,最早 1 路摄像机的市场价高达 1~2 万,很难落地民用市场。而目前市场价已可以降到 5000 元以内。


这与依图在内的算法厂商与芯片厂商的努力有很大关系。以依图求索芯片为例,经实测结果表明,一台基于依图求索的 AI 服务器提供的算力与 8 张英伟达 P4 卡服务器相当,而体积不到 50%,功耗更是仅为后者的 20%,将数据中心整体运维成本降低了 80%,呈现出 AI 专用芯片在性能、功耗与成本上的优势。


他继续谈道,中国移动有非常多的业务,除了大家熟知的的 C 端业务、政企服务外,中国移动也在建设自身的平台。中移在线可以直接使用依图的算法,也可以灵活的整合其他家的算法,这也表现出依图平台的开放性。


依图科技业务技术副总裁许源也表示,依图不会把技术封闭起来,未来会对一些组件进行开源,也会用各种方法开放技术加速 AI 创新。

相关文章
|
2月前
|
存储 人工智能 弹性计算
AI计算加速渗透、基础设施全面升级…云栖大会重磅发布全览
阿里云全面展示了全新升级后的AI Infra系列产品及能力。通过全栈优化,阿里云打造出一套稳定和高效的AI基础设施,连续训练有效时长大于99%,模型算力利用率提升20%以上。
225 27
|
2月前
|
人工智能 运维 监控
首个云上 AI 原生全栈可观测平台来了!
9月21日,2024 云栖大会,阿里云发布全新的 AI 原生全栈可观测平台,首次实现云上 AI 大模型从训练到推理再到应用的全链路实时观测、告警与诊断。
145 12
|
1月前
|
机器学习/深度学习 存储 人工智能
AI与量子计算:推动计算科学的边界
【10月更文挑战第7天】AI与量子计算的融合,标志着计算科学进入了一个全新的时代。在这个时代里,计算能力的边界被不断拓宽,科技创新的速度不断加快。我们有理由相信,在未来的日子里,AI与量子计算将继续携手并进,共同推动计算科学向着更加智能、更加高效的方向发展。让我们期待这一天的到来,共同见证计算科学的无限可能。
|
8天前
|
存储 人工智能 文字识别
利用AI能力平台实现档案馆纸质文件的智能化数字处理
在传统档案馆中,纸质文件管理面临诸多挑战。AI能力平台利用OCR技术,通过图像扫描、预处理、边界检测、文字与图片分离、文字识别及结果存储等步骤,实现高效数字化转型,大幅提升档案处理效率和准确性。
|
6天前
|
机器学习/深度学习 人工智能 自然语言处理
探索AI驱动的个性化学习平台构建###
【10月更文挑战第29天】 本文将深入探讨如何利用人工智能技术,特别是机器学习与大数据分析,构建一个能够提供高度个性化学习体验的在线平台。我们将分析当前在线教育的挑战,提出通过智能算法实现内容定制、学习路径优化及实时反馈机制的技术方案,以期为不同背景和需求的学习者创造更加高效、互动的学习环境。 ###
25 3
|
7天前
|
机器学习/深度学习 人工智能 自然语言处理
医疗行业的语音识别技术解析:AI多模态能力平台的应用与架构
AI多模态能力平台通过语音识别技术,实现实时转录医患对话,自动生成结构化数据,提高医疗效率。平台具备强大的环境降噪、语音分离及自然语言处理能力,支持与医院系统无缝集成,广泛应用于门诊记录、多学科会诊和急诊场景,显著提升工作效率和数据准确性。
|
14天前
|
SQL 人工智能 DataWorks
DataWorks:新一代 Data+AI 数据开发与数据治理平台演进
本文介绍了阿里云 DataWorks 在 DA 数智大会 2024 上的最新进展,包括新一代智能数据开发平台 DataWorks Data Studio、全新升级的 DataWorks Copilot 智能助手、数据资产治理、全面云原生转型以及更开放的开发者体验。这些更新旨在提升数据开发和治理的效率,助力企业实现数据价值最大化和智能化转型。
130 5
|
14天前
|
人工智能 边缘计算 监控
边缘AI计算技术应用-实训解决方案
《边缘AI计算技术应用-实训解决方案》提供完整的实训体系,面向高校和科研机构的AI人才培养需求。方案包括云原生AI平台、百度AIBOX边缘计算硬件,以及8门计算机视觉实训课程与2门大模型课程。AI平台支持大规模分布式训练、超参数搜索、标注及自动化数据管理等功能,显著提升AI训练与推理效率。硬件涵盖多规格AIBOX服务器,支持多种推理算法及灵活部署。课程涵盖从计算机视觉基础到大模型微调的完整路径,通过真实商业项目实操,帮助学员掌握前沿AI技术和产业应用。
37 2
|
2月前
|
人工智能 JSON 数据格式
RAG+Agent人工智能平台:RAGflow实现GraphRA知识库问答,打造极致多模态问答与AI编排流体验
【9月更文挑战第6天】RAG+Agent人工智能平台:RAGflow实现GraphRA知识库问答,打造极致多模态问答与AI编排流体验
RAG+Agent人工智能平台:RAGflow实现GraphRA知识库问答,打造极致多模态问答与AI编排流体验
下一篇
无影云桌面