对话阿里云 CIO 蒋林泉:AI 时代,企业如何做好智能化系统建设?

本文涉及的产品
NLP 自学习平台,3个模型定制额度 1个月
NLP自然语言处理_高级版,每接口累计50万次
NLP自然语言处理_基础版,每接口每天50万次
简介: 10 月 18 日, InfoQ《C 位面对面》栏目邀请到阿里云 CIO 及 aliyun.com 负责人蒋林泉(花名:雁杨),就 AI 时代企业 CIO 的角色转变、企业智能化转型路径、AI 落地实践与人才培养等主题展开了讨论。

今天,“AI一日,地上一年”这句话正不断具象化。过去一年来,AI 无论在应用落地还是技术发展上,都经历了飞速地革新。从智能客服到自动化生产线,从数据分析到决策支持,AI 化的应用正在深刻改变企业的运营模式和竞争力。 在AI技术日新月异的当下,智能化系统建设显然已成为企业数字化转型升级的必由之路。


首席信息官(CIO)作为一家公司的关键技术掌舵者,对此的感受更加深刻。顾名思义,CIO 的核心职责是信息系统管理。然而,在AI时代的影响下,智能 (Intelligence)对其的重要程度似乎正悄然超越信息( Information )。这一过程中,CIO 与一线业务部门都在不同层面上遇到诸多挑战,同时也积累了许多有价值的经验。


10 月 18 日, InfoQ《C 位面对面》栏目邀请到阿里云 CIO 及 aliyun.com 负责人蒋林泉(花名:雁杨),就 AI 时代企业 CIO 的角色转变、企业智能化转型路径、AI 落地实践与人才培养等主题展开了讨论。本次对话中,雁杨还分享了阿里云在这一领域的探索成果与思考总结,希望能够帮助更多企业为 AI 浪潮下的技术转型做好布局和落地策略。


AI 时代,企业 CIO 发生哪些改变?

InfoQ:在 AI 时代,企业 CIO 的角色定位是否出现了变化?

蒋林泉(雁杨):先来谈不变的部分,就是 CIO 首先要同业务战略贴合,设法贴近业务、支撑好业务目标,用信息化技术支撑业务发展,这是永远不变的主题。


这一年来唯一的变化就是 AI 技术极大地改变了信息系统的开发方式,进而提升业务效率,这也是 AI 时代对 CIO 带来的最大影响。现在我有一种前所未有的强烈感受,新时代里CIO 的字母 I 所指的含义应该从 Information 变成 Intelligence。因为这一次突飞猛进的技术变革,会极大改变我们信息系统的开发方式及效率产出。现阶段,CIO 需要结合智能的能力为业务带来更多改变,推动企业信息系统向智能化转型。


InfoQ:过去一年,AI 领域出现了很多技术创新,这些新技术对CIO的工作带来了哪些新的启发?

蒋林泉(雁杨):过去一年的发展,我觉得前半截是很有意思的,那就是文本基础模型有了突飞猛进的变化,我们自己也感到好像升级一个基础模型效果马上好一大截,但到后面发现这方面就开始递减了。特别是到了 GPT4 和通义的最新版本后,文本这部分我们线上所用的通义效果已经很好了,我发现很难通过基础模型的切换获得很大的提升。后面我们就观察到整个业界开始朝着多模态的方向转变,还有最近o1 在慢思考、推理侧复杂问题以及物理数学领域做 scaling law,这是我们看到最明显的趋势。


在多模态领域,我们也会积极去尝试。因为端对端的多模态,特别是语音模态能够极大改善我们同客户之间的交流效果,大大超过我们原来使用的语音机器人,因为明显它就像真人一样,而且这个人比以前的客服可能更聪明、更有耐心,进而大大提升交流的效率。


InfoQ:随着 OpenAI 发布了 o1 模型,您认为其对企业级 AI 应用带来了哪些启发?

蒋林泉(雁杨):这个问题还是要回到企业 CIO 应该更多专注在客户身上的原则。目前的 AI 大模型应用中,我们观察到客户关于信息获取和决策方面的自然语言问题描述中有大约 10% 是属于复杂推理的类别,而 RAG 与现有基础模型的组合处理这种问题的能力是不够好的。而 o1 本质上是将原来的一次性输出改成了把复杂问题拆解成不同的步骤,对每个步骤找到最佳解,最后推理出最终结果。我们认为这种范式不仅适用于 STEM 领域,也同样适用于企业信息系统。


企业信息系统最关键的一件事情,就是把复杂的业务问题拆解成有结构的子问题,再通过 OA 的方式解决每一个单点问题,形成最终答案提供给业务侧。所以后续我们会使用类似 o1 的模型来解决这 10% 的问题。而且这 10% 问题的影响并不只限于这么小的范围,因为如果这些复杂问题解答不好,业务团队就很容易感觉模型喜欢瞎说,问题复杂一些就应付不来了。那么这 10% 的复杂问题解决后,企业信息系统的知识获取和推理决策能力上限会得到大幅度提升。能力提升了,用户就会尝试用它解决更复杂的问题,产生新的需求。


过去企业信息系统建设过程中的信息损失非常大,业务侧使用系统时必须按照固定编排规则来执行,这套机制抽象时损失了大部分信息,并且能力局限在固定范围,新的需求是无法接入的。但在 AI 时代,客户同我们交互是用自然语言,他会把对信息系统的真实诉求用自然语言的方式表达出来。而在以前,产品经理要获取这些真实需求的效率非常低,现在每个人都会主动用自然语言将这些信息提供给你,打开了信息系统的产品需求阀门,且自然语言描述是原汁原味的,又可以用他的自然语言作为输入,原汁原味地用自然语言服务他,不用翻译成结构化的信息。


如果从迭代效率来讲,从需求到满足的一轮迭代的工程效率可能会变成 1000 倍甚至更高。同时它收集真实需求的准确性、完整性非常高,相当于我有了一大批产品经理。从业务到产品再到技术,最后迭代需求和解决方案,AI 开启了我们产品研发的新范式。这一点和 C 端还不太一样,因为 C 端很容易获取产品需求,大家身边人人都是用户,但 B 端服务的角色都在工作流中,产品研发必须进入到工作流中才能获得真实反馈。所以 AI 对 B 端的效率提升是非常大的。


如何能让业务部门为 AI “买单”?

InfoQ:作为 CIO,您如何带领企业将智能的理念融入信息系统建设,执行 AI 战略?

蒋林泉(雁杨):首先我想谈谈我对信息系统的基础认知。企业所有的信息系统都需要将业务的数据结构化,让企业用户或业务团队更容易地获取有效信息,然后在他们的工作流、决策链路中基于这些信息进行决策,再使用它们来完成工作流的任务。总体来看分为三段,一段是信息获取,一段叫做信息思考和决策(这里是交给用户的,用户获取了信息才能做决策),最后是任务执行。


图片 1.jpg

这一次技术变革影响最大的是信息获取阶段。过去这一阶段首先是业务团队给出信息,然后产品经理来交流沟通,将信息抽象、结构化,开发团队将它变成后端代码,再变成前端交互,整个翻译过程会漏掉非常多信息。最后固定下来的信息会展示在系统中供用户使用,这些信息还是四处散落的状态。而大模型技术的最大好处,就是可以将全链路的支持信息快速结构化,并将分散在各处的信息快速聚合,从根本上改变信息获取方式,使信息获取效率得到飞跃。


回顾信息获取途径的发展历史,最早的获取方式就是目录,类似于互联网早期的雅虎网站。过去,企业信息系统就是将很多功能放在一起,用户需要自己寻找对应的功能。之后出现了搜索辅助,便于用户快速找到所需功能。到了今天,用户只需要输入自然语言,大模型就能给出他所需要的答案。我们粗略估算,基于大模型的信息获取方式的效率可能达到搜索方式的 10 倍,而搜索方式的效率又是目录方式的 10 倍。与此同时,在特别复杂的信息系统中,获取完整准确信息所付出的成本甚至比最终的动作执行要大得多。因此,得到充分利用的 AI 技术能为企业的业务团队效率带来非常显著的提升。


信息思考和决策阶段同样深受 AI 技术影响。过去的企业信息系统都是硬编码的规则,只是简单的 if else 组合,没有太多的思考或辅助思考能力。AI 大模型则为系统引入了一个强大的“大脑”,超越传统固定的规则性思考框架,增强了信息处理、思考与推理的灵活性,极大提升了系统思考能力的广度和深度。同时,AI界面将信息获取与思考融合,使客户能在同一界面下实现信息、决策与行动的联动,大幅提高了整体效率,在支撑能力方面有了巨大飞跃。


在企业信息系统中,获取信息、思考和决策这两个阶段基本占据了 95% 的时间投入,现在可以通过大模型极大提升这部分的效率,这是前所未有的一次变革。除了信息获取、决策与任务执行效率的巨大提升外,AI 时代的产品开发方式也迎来了革新。


以往信息系统产品设计需深入业务流程,理解场景、角色及需求。如今,通过 AI 界面的信息获取与思考模式转变,用户能直接以自然语言表达其对信息、思考过程及任务执行的需求,无需面对面访谈,减少了信息损失,加速了反馈收集,提高了需求理解和响应的速度与精度。这不仅提升了产品对特定需求的服务质量,还帮助我们全面洞察客户对系统、业务、知识获取、决策及任务执行的完整需求及其优先级,构建了满足真实业务需求的闭环,推动产品实现质的飞跃。


总体而言,AI 大模型不仅在信息获取与决策行动上形成了效率飞轮,还在产品迭代上创造了新的动力机制。一方面,信息处理与决策效率的全面提升直接优化了现有系统的用户体验;另一方面,利用 AI 收集的高密度自然语言客户原始需求,进一步增强了产品定义与客户需求匹配的精准度,形成第二层飞轮效应。


结合这两方面,AI 化信息系统有望实现效率与效果百倍以上的提升。因此 CIO 应考虑如何快速推动组织转型,利用这一双轮驱动模型,推动企业信息系统向更高效率和智能化迈进,实现从 Information 到 Intelligence 的根本转变。


InfoQ:作为阿里云的 CIO,你有没有在公司信息系统的改造过程中应用 AI 技术?

雁杨:我们有几方面的应用,具体在CRM系统针对销售小二,以及在aliyun.com 针对终端客户都应用了AI 助理,这都能帮助他们高效获取信息、辅助思考并完成任务。此外,我们也启动了 AI 技术在所有中后台的落地,包括风控、法务相关链路。


InfoQ:在信息系统改造过程中往往面临所谓部门墙的阻力。那么阿里云的企业信息系统智能化过程中是否有这方面的挑战?

蒋林泉(雁杨):这是个老生常谈的问题,就是 CIO 如何在组织里获取支持和在业务部门之间开展工作。我认为这个问题在 AI 时代反而变小了,最主要的原因就是 AI 技术过去一年来的高速发展使得所有业务部门都在思考能否利用 AI 来提升效率,从我们的 CEO 到一线研发业务人员,所有人都对这项技术都有期待。这是历史上任何技术都没有带来过的局面。从战略上讲,我们在技术应用方向上迅速达成了共识,不会有太大的分歧。


有了共识,CIO 又如何能让业务部门为 AI 技术落地买单呢?我们还是要同公司的业务部门沟通,了解他们的业务目标,进到他们的业务流程里了解痛点、分析效率和开销。所以我对我的产品经理和团队提出了要求,你不能只满足于同客户做访谈,你必须要代入客户的角色。比如说我们的同学服务销售小二,就要自己去做销售,跟着小二去现场拜访客户,甚至自己去回工单。我的产品经理要进入到业务流程里,深刻体会那些业务部门在真实一线里操作时的痛点,这时我们定义出来的业务问题往往就会是这个业务部门真实存在的问题。只要这些问题是业务部门真实的痛点,我们用手段解决这些痛点,就和他们站在一个战壕里,他们会非常欢迎你。


更重要的一件事情是,要在 AI 技术领域找到一个非常好的切入点,让它能真正产生榜样效应。也就是说落地的第一个规模化案例需要真正让大家看到效果,让大家对这件事情产生期待,然后再盯着每个领域的痛点去解决问题,最后大家就能比较顺畅地和技术部门协作来落地新技术了。有一本书名叫《系统之美》,系统中最重要的一点是“目标”,没有目标的系统只会空转,而我们的目标就是提升业务效率。

图片 2.jpg


AI 在企业信息系统中应如何落地?

InfoQ:在 AI 落地方面,企业普遍关注的两个方向有两个:知识库和客服。在知识库的AI化层面,阿里云主要做了哪些事情?

蒋林泉(雁杨):我认为知识库在 AI 时代变得前所未有的重要。因为大模型都是用文本语料来训练,企业里的服务都要用企业的知识来训练推理,所以知识库就成为了 AI 时代的中轴。我觉得它不是应用,而是应用支撑。其实我们每个领域的应用都依赖于企业知识库,每个领域都必须要建立专家知识库,没有知识库,大模型是没有知识去服务这个领域的。


所以现在企业知识库的利用率会得到极大提升,同时大模型给知识库提出的要求也具象化了。知识库是为了提供知识信息而存在的,用 AI 助理去服务客户时,对知识库的知识提出了两项要求:第一是完整性,领域的知识不完整,AI 就回答不了客户的问题;第二就是准确性。


另一方面,企业的知识本质来讲是领域专家大脑里知识的外化,那么如何萃取专家知识进入知识库,就是非常关键的一件事情。而在新时代,使用 AI 的方式来萃取专家知识的成本相对更低,这让知识库本身也变得更好,形成了正向的循环。


InfoQ:谈到知识库的完整性,企业知识库的边界怎么确定?需要获取全领域的知识还是局限在公司范围内就足够?

蒋林泉(雁杨):在企业信息系统中,我们之所以会利用知识库加 RAG 的组合,是因为基础模型是利用互联网所有知识来训练的,特别容易出现幻觉。而 RAG 的原理就是将模型回答的领域限制在知识库里,搜得到的让模型给我回答,搜不到的就不能乱回答。所以知识库的边界就是智能系统想要让客户获取的知识的边界,这里的完整性是企业自己定义的。比如说客服系统会有 Knowledge Base 库,只要库里的知识能和客户问题匹配,那就能回答。整体来说,知识库更多还是限定在企业内部的知识层面。


如果客户问到了企业外部和边界之外的知识,比如说我们的销售小二遇到了这种情况,我们会做一个意图识别,如果客户的意图不在支持范围内,就会在入口给他设计一个反馈。比如说有些国家管控的话题,AI 助理就会说“这个问题我们无法回答”。


如果超出了我们的边界,问题又是合法的,我们有另外两个选择。之前一个选项是AI 助理会说“这不是我的回答范围”,但这样可能不太友好。后来我们改进了一下,如果问题是技术方面的,比如操作系统、开源社区相关的话题,和我们的云技术业务关联不大,那么 AI 助理会说“这不在我们的服务范围内”。然后技术方面的问题我会请通义来回答,但会讲清楚“下面是通义的答案”。也就是说这里会明确这不是我们的信息系统自己给出的答案,至少边界和责任做了很好的划分。


InfoQ:如何让客户认为 AI 给出的答案是准确的,不是似是而非的?

蒋林泉(雁杨):这就是最关键的地方。大模型应用落地时最大的坑就是它会帮你编出来一个看起来是对的答案,这也是为什么大模型应用非常重要的一点就是从第一天就要引入专家评测。这里指的是真正的人类专家,而不是普通用户,因为普通用户没法校验模型生成的幻觉内容是真是假。但如果他最后真拿着这些内容用到工作里出了问题,就会感觉受到了很大欺骗,因为他最终是要拿这些回答去干活、服务最终用户的,出了问题是会有后果的。


这也是 ToB 和 ToC 不太一样的地方,C 端出问题更多是闹个笑话,就算错了,反正服务本身可能也是免费的。所以 B 端最重要的一点就是要保证准确性。要保证准确性就涉及两个维度,第一是知识库的完整性,这也需要专家来保证。第二就是专家评测。专家知识库加上专家评测,是所有 AI 落地企业应用的必不可少的基石。毕竟 AI 本质上是学习人脑中的知识和技能,如果不能用专家来形成知识,让专家来教授 AI,它就不会有足够的智能。


InfoQ:在AI客服层面,阿里云有哪些具体实践?

蒋林泉(雁杨):这里我们分了几块去做。最开始相当于是客服的 Copilot,就是帮助客服更好地服务客户,包括销售小二和服务小二。客户有个问题过来,它先查一查,再根据这个答案去同客户交互。这是第一个应用,相当于客服身边有一位师傅,适用于没那么实时交互的客户场景。


后来我们发现,有些电话实时服务的场景很难做到这样的形式,因为客服接电话的时候很难说去敲个问题再回复客户。所以第二个层次就是 Native,也就是在客户同客服语音交互时,AI 根据他们实时对话的上下文来提示客户可能会问哪些问题,这些问题的答案是什么。这样客户的问题还没讲完,答案已经显示给客服了,省去了小二自己再输入问题的过程。


第三个层次就是完全人工智能的语音客服,但这块我们会相对小心一点,目前更多还是用在原来上一代已经有智能语音的场景,起到提升的效果。我们还是不会把客户同人类客服的交互都换成 AI,至少我们目前还需要一定时间看看它的有效性和客户的感受。我们更多还是按照场景来区分,比如说客户的云服务器要提示续费,原来我们是通过机器人外呼来提示,现在我们就会用 AI 来替代,再比如说客户追问是哪台实例,AI 还可以继续回答,这就没有任何风险。


我们目前更多还是在第二阶段,希望能够帮助小二,在电话和聊天过程中实时提醒他们接下来可能会有哪些问题。我是觉得人工智能永远要有专业的小二在旁边兜底,而 AI 所做的就是帮助他们解决原本非常繁琐、消耗精力的一些事情,从而提升效率。等到技术逐渐成熟,再慢慢提升 AI 本身的上限。


InfoQ:现实情况是绝大多数企业的技术储备都不如阿里云,但他们也想借鉴阿里云的成功经验,您对于这类企业有哪些建议呢?

蒋林泉(雁杨):我的一个建议是,企业不要花太多时间在底层基础技术的搭建上,因为精力是有限的,要把精力更多放在应用创新和业务目标上面,同时把底层技术更多交给服务商,这样能让企业更专注。其实我自己也是阿里云内部这些 AI 云服务的最大用户,我们希望在深度落地过程中打磨这些产品,这些产品都经过了我们实际落地应用的考验。


培养出 AI 时代人才的最佳实践

InfoQ:今年 6 月,阿里云发布了大模型 ACA 认证。在今天(10月18日)的QCon大会主会场,我们双方也联合发布了阿里云大模型高级工程师 ACP 认证,您对大模型认证方面有哪些思考?

蒋林泉(雁杨):我们做阿里云 AI 认证课程,不能仅仅从供应商视角来看待培训的内容,更多还是要站在企业的需求视角,以及企业应用落地所需要的最佳实践视角,来组织我们的 ACA 和 ACP 课程。这一点和我们信息系统建设的方法论是类似的,目标是帮助客户解决 AI 时代企业各个岗位的人才培养需求。我们希望这种培养过程不仅是技术的堆砌,基础技能肯定是必须的,但我们端到端能落地的一些最佳实践也要能在课程里得到体现。

图片 3.jpg

我们的 ACA 认证更多是入门,主要涉及大模型背景知识,让完全没有接触过这个领域的人快速上手,在提示工程、多模态认知和大模型应用领域方面建立基础认知。而 ACP 认证就涉及到了场景化的端到端实践,包括 RAG 知识库问答助理、利用大模型快速生成 PPT 等等。这样就能让认证的开发者能够在实战层面开发实现一些需求,达到人才培养的目标。


InfoQ:认证流程如何同企业人员的相关业务结合起来?

蒋林泉(雁杨):有两个维度,首先是基础的效率,比如说开发者自身的效率层面,开发者已经普遍开始自发使用 AI 编程辅助工具了,很多企业也在使用通义灵码的解决方案,提升开发团队的效率。另一方面则是在企业的业务流中融合 AI 技术。我们的 ACP 认证更多关注企业内部的 AI 应用落地,在这方面提供基础知识的课程培训、落地实践案例教授,让企业人员学习相应的技能,更多强调实践。

阿里云同极客邦合作的云计算相关的 ACP 认证起到了很好的效果,帮助企业培养了很多云计算相关的人才。我们也希望在 AI 时代,大模型ACP 认证能复制我们在云计算领域的成功,为企业培养更多适应 AI 时代数字化转型需求的人才。1024 程序员节到来之际,也祝愿程序员能够拥抱大模型,创造业务价值,你的未来会有无限可能。


>>视频如下:

https://developer.aliyun.com/live/254550

相关文章
|
5天前
|
人工智能 自然语言处理 算法
具身智能高校实训解决方案 ----从AI大模型+机器人到通用具身智能
在具身智能的发展历程中,AI 大模型的出现成为了关键的推动力量。高校作为培养未来科技人才的摇篮,需要紧跟这一前沿趋势,开展具身智能实训课程。通过将 AI 大模型与具备 3D 视觉的机器人相结合,为学生搭建一个实践平台。
126 64
|
2天前
|
人工智能 JSON 自然语言处理
智能化AI工具-语言翻译与本地化
在全球化发展的背景下,语言翻译与本地化需求日益增长。无论是跨境电商、国际合作,还是本地化应用开发,都需要高效、准确的翻译解决方案。阿里云通义千问作为一款强大的大语言模型,不仅具备出色的自然语言理解能力,还能够在多语言翻译和本地化场景中发挥重要作用。本博客将详细介绍如何基于阿里云通义千问开发语言翻译与本地化工具,包括产品介绍、程序代码以及阿里云相关产品的具体使用流程。
25 10
|
4天前
|
存储 人工智能 缓存
官宣开源 阿里云与清华大学共建AI大模型推理项目Mooncake
近日,清华大学和研究组织9#AISoft,联合以阿里云为代表的多家企业和研究机构,正式开源大模型资源池化项目 Mooncake。
|
6天前
|
机器学习/深度学习 人工智能 算法
【AI系统】AI芯片驱动智能革命
本课程深入解析AI模型设计演进,探讨AI算法如何影响AI芯片设计,涵盖CPU、GPU、FPGA、ASIC等主流AI芯片,旨在全面理解AI系统体系,适应后摩尔定律时代的技术挑战。
28 5
|
6天前
|
机器学习/深度学习 存储 人工智能
【AI系统】计算之比特位宽
本文详细介绍了计算机中整数和浮点数的比特位宽概念及其在AI模型中的应用。通过对比特位宽的定义、整数与浮点数的表示方法、AI中常用的数据类型(如FP32、TF32、FP16、BF16、FP8和Int8)及其在模型训练和推理中的作用进行了阐述。特别关注了FP8数据类型在提高计算性能和减少内存占用方面的新进展,以及降低比特位宽对AI芯片性能的影响,强调了低比特位宽在AI领域的重要性。
21 0
|
11天前
|
机器学习/深度学习 人工智能 运维
电话机器人源码-智能ai系统-freeswitch-smartivr呼叫中心-crm
电话机器人源码-智能ai系统-freeswitch-smartivr呼叫中心-crm
31 0
|
8天前
|
机器学习/深度学习 人工智能 算法
AI技术在医疗诊断中的应用及前景展望
本文旨在探讨人工智能(AI)技术在医疗诊断领域的应用现状、挑战与未来发展趋势。通过分析AI技术如何助力提高诊断准确率、缩短诊断时间以及降低医疗成本,揭示了其在现代医疗体系中的重要价值。同时,文章也指出了当前AI医疗面临的数据隐私、算法透明度等挑战,并对未来的发展方向进行了展望。
|
16天前
|
机器学习/深度学习 人工智能 自然语言处理
当前AI大模型在软件开发中的创新应用与挑战
2024年,AI大模型在软件开发领域的应用正重塑传统流程,从自动化编码、智能协作到代码审查和测试,显著提升了开发效率和代码质量。然而,技术挑战、伦理安全及模型可解释性等问题仍需解决。未来,AI将继续推动软件开发向更高效、智能化方向发展。
|
20天前
|
机器学习/深度学习 人工智能 自然语言处理
AI在医疗领域的应用及其挑战
【10月更文挑战第34天】本文将探讨人工智能(AI)在医疗领域的应用及其面临的挑战。我们将从AI技术的基本概念入手,然后详细介绍其在医疗领域的各种应用,如疾病诊断、药物研发、患者护理等。最后,我们将讨论AI在医疗领域面临的主要挑战,包括数据隐私、算法偏见、法规合规等问题。
40 1
|
12天前
|
机器学习/深度学习 人工智能 算法
AI在医疗诊断中的应用
【10月更文挑战第42天】本文将探讨人工智能(AI)在医疗诊断中的应用,包括其优势、挑战和未来发展方向。我们将通过实例来说明AI如何改变医疗行业,提高诊断的准确性和效率。