揭开AI、机器学习和深度学习的神秘面纱

简介: 深度学习、机器学习、人工智能——这些流行词皆代表了分析学的未来。在这篇文章中,我们将通过一些真实世界的案例来解释什么是机器学习和深度学习。

戳这里免费开通百种视觉AI能力


深度学习、机器学习、人工智能——这些流行词皆代表了分析学的未来。在这篇文章中,我们将通过一些真实世界的案例来解释什么是机器学习和深度学习。在以后的文章中,我们将探索垂直用例。这样做的目的不是要把你变成一个数据科学家,而是让你更好地理解你可以用机器学习做什么。开发人员能越来越容易地使用机器学习,数据科学家时常与领域专家、架构师、开发人员和数据工程师一起工作,因此,详细了解机器学习的可能性对每个人来说都很重要。你的业务产生的每一条信息都有增加价值的潜力。这篇和以后的文章旨在激发你对自己数据的回顾,以发现新的机会。

lprersup.jpg

什么是人工智能?

纵观人工智能的历史,其定义被不断重写。人工智能是一个概括性术语(这个概念始于50年代);机器学习是AI的子集,而深度学习又是机器学习的子集。

1985年,当我还是美国国家安全局的实习生时,人工智能也是一个非常热门的话题。在美国国家安全局,我甚至上了一节麻省理工关于人工智能专家系统的视频课程。专家系统在规则引擎中捕获专家的知识。规则引擎在金融和医疗保健等行业中有广泛的应用,最近更是用于事件处理,但是当数据发生变化时,规则的更新和维护会变得异常困难。机器学习的优势在于从数据中学习,并且可以提供数据驱动的概率预测。

在过去10年里,分析学发生了怎样的变化?
根据《哈佛商业评论》的托马斯•达文波特,分析技术过去十年里发生了翻天覆地的变化,跨商用服务器功能更强大、成本更低的分布式计算,流媒体分析、改进的机器学习技术,都使企业能够存储和分析更多的、不同类型的数据。

类似Apache Spark这样的技术使用迭代算法,通过在内存中跨迭代缓存数据并使用更轻量级的线程,进一步加速了分布式数据的并行处理。

图形处理单元(GPUs)加快了多核服务器的并行处理速度。GPU拥有一个由数千个更小、更高效的核心组成的大规模并行架构,这些核心专门设计用于同时处理多任务,而CPU由几个为顺序串行处理而优化的核心组成。就潜在的性能而言,从Cray -1进化到如今拥有大量GPU的集群,其性能提升大约是曾经世界上最快计算机的100万倍,而成本却只有其极小一部分。

什么是机器学习?
机器学习使用算法在数据中发现模式,然后使用一个能识别这些模式的模型对新的数据进行预测。

一般来说,机器学习可以分为三种类型:监督型、非监督型、介于两者之间。监督学习算法使用标记数据,而非监督学习算法在未标记数据中发现模式。半监督学习使用标记数据和未标记数据的混合。强化学习训练算法在反馈的基础上最大化奖励。

监督学习
监督算法使用标记数据,这些数据的输入和目标的结果或标签都会提供给算法。

监督学习也被称为预测建模或预测分析,因为你建立了一个能够做出预测的模型。预测建模的一些例子是分类和回归。分类根据已知项的已标记示例(例如,已知是否为欺诈的交易)来识别一个项属于哪个类别(例如,某交易是否为欺诈)。逻辑回归预测了一个概率——例如,欺诈的概率。线性回归预测一个数值——例如,欺诈的数量。

一些分类的例子包括:

  信用卡欺诈检测(欺诈,不是欺诈)。
  信用卡申请(良好信用,不良信用)。
  垃圾邮件检测(垃圾邮件,不是垃圾邮件)。
  文字情绪分析(快乐,不快乐)。
  预测患者风险(高风险患者、低风险患者)。
  恶性或非恶性肿瘤的分类。

逻辑回归(或其他算法)的一些例子包括:

  • 根据历史汽车保险欺诈性索赔以及这些索赔的特征,例如索赔人的年龄、索赔金额、事故严重程度等,预测欺诈发生的概率。
  • 给定患者特征,预测充血性心力衰竭的概率。

So线性回归的一些例子包括:

  • 根据历史汽车保险欺诈性索赔以及这些索赔的特征,如索赔人的年龄、索赔金额、事故的严重程度等,预测欺诈金额。
  • 根据历史房地产销售价格和房屋特征(如平方英尺,卧室数量,位置),预测房子的价格。
  • 根据历史上的社区犯罪统计,预测犯罪率。

这里还有其他的监督和非监督学习算法,我们不会一一介绍,但我们会详细介绍每类中的一个。

分类示例 :借记卡诈骗
分类选用一组具有已知标签和预先确定特性的数据,并学习如何根据这些信息标记新数据。特性是你问的“是否”问题。标签就是这些问题的答案。

让我们看一个借记卡诈骗的示例。

我们想要预测什么?

  • 某一笔借记卡交易是否为欺诈。
  • 欺诈是标签(对或错)。

你可以用来进行预测的“ 是否 ”问题或属性是什么?

  • 今天花费的金额是否大于历史平均水平?
  • 今天的这些交易是否在多个国家?
  • 今天的交易数量是否大于历史平均水平?
  • 今天的新商户类型与过去三个月相比是否较高?
  • 今天是否在多个带有风险类别代码的商家处购买?
  • 今天是否有不寻常的签名与以往使用PIN相比?
  • 与过去三个月相比,是否有新的购买行为?
  • 与过去三个月相比,现在是否有国外购买?

要构建分类器模型,你需要提取对分类最有贡献的有用特性。

决策树

决策树创建一个基于输入特征预测类或标签的模型。它的工作原理在于评估每个节点上包含一个特征的问题,然后根据答案选择到下一个节点的分支。预测借记卡欺诈的可能决策树如下所示。特性问题是节点,答案“是”或“否”是树中到子节点的分支。(注意,真正的树会有更多的节点。)

问题一:24小时内的花费是否大于平均?

问题2:今天是否有多笔交易来自高风险的商家?

  • 是欺诈概率 = 90%
  • 非欺诈概率 = 50%

决策树很受欢迎,因为它们易于可视化和解释。将算法与集成方法相结合,可以提高模型的精度。一个集成例子是一个随机森林算法,它结合了决策树的多个随机子集。

无监督学习
无监督学习,有时也被称为描述分析,没有预先提供的标记数据。这些算法发现输入数据中的相似性或规律。无监督学习的一个例子是基于购买数据对相似的客户进行分组。

聚类

在聚类中,一个算法通过分析输入实例之间的相似性将它们分类。一些聚类用例包括:

  • 搜索结果分组。
  • 分组相似客户。
  • 分组相似病人。
  • 文本分类。
  • 网络安全异常检测(发现不相似之处,集群中的异常值)。

K均值算法将数据分组到K个集群中,每个数据都属于离其集群中心均值最近的集群。

聚类的一个例子是,一个公司希望细分其客户,以便更好地定制产品和服务。客户可以依据比如人口统计和购买历史记录等特征被分组。为了得到更有价值的结果,无监督学习的聚类常常与有监督学习相结合。例如,在这个banking customer 360用例中,首先根据问卷答案对客户进行细分。接着对客户群体进行分析,并标上用户画像。然后,这些标签通过客户ID与账户类型和购买内容等特性进行链接。最后,我们在被标签的客户身上应用了监督机器学习,允许将调查用户画像与他们的银行行为联系起来,以提供深入的见解。

深度学习

深度学习用来称呼多层神经网络,它是由输入和输出之间的节点“隐含层”组成的网络。神经网络有许多变种,你可以在这个神经网络备忘单上了解更多。改进的算法、GPUs和大规模并行处理(MPP)使得具有数千层的神经网络成为可能。每个节点接受输入数据和一个权重,然后向下一层的节点输出一个置信值,直到到达输出层,计算出该置信值的误差。通过在一个叫做梯度下降的过程中进行反向传播,误差会再次通过网络发送回来,并调整权值来改进模型。这个过程重复了数千次,根据产生的误差调整模型的权值,直到误差不无法再减少为止。

在此过程中,各层学习模型的最优特征,其优点是特征不需要预先确定。然而,这也意味着一个缺点,即模型的决策是不可解释的。由于解释决策可能很重要,研究人员正在开发新的方法来理解深度学习这个黑盒子。

原文链接:https://www.leiphone.com/news/202011/h810txENV9SQUKf1.html
本文转自雷锋网,本文一切观点和机器智能技术圈子无关,如需转载请至雷锋网官网申请授权。
在线免费体验百种AI能力:【点此跳转】


机器智能技术结尾二维码.png

相关实践学习
在云上部署ChatGLM2-6B大模型(GPU版)
ChatGLM2-6B是由智谱AI及清华KEG实验室于2023年6月发布的中英双语对话开源大模型。通过本实验,可以学习如何配置AIGC开发环境,如何部署ChatGLM2-6B大模型。
目录
相关文章
|
3月前
|
人工智能 自然语言处理 IDE
模型微调不再被代码难住!PAI和Qwen3-Coder加速AI开发新体验
通义千问 AI 编程大模型 Qwen3-Coder 正式开源,阿里云人工智能平台 PAI 支持云上一键部署 Qwen3-Coder 模型,并可在交互式建模环境中使用 Qwen3-Coder 模型。
757 109
|
7月前
|
机器学习/深度学习 人工智能 供应链
从概念到商业价值:AI、机器学习与深度学习全景指南
在这个科技飞速发展的时代🚀,人工智能正以惊人的速度渗透到我们的生活和工作中👀。但面对铺天盖地的AI术语和概念,很多人感到困惑不已😣。"AI"、"机器学习"、"深度学习"和"神经网络"到底有什么区别?它们如何相互关联?如何利用这些技术提升工作效率和创造价值?
|
5月前
|
机器学习/深度学习 人工智能 监控
AI 基础知识从0.1到0.2——用“房价预测”入门机器学习全流程
本系列文章深入讲解了从Seq2Seq、RNN到Transformer,再到GPT模型的关键技术原理与实现细节,帮助读者全面掌握Transformer及其在NLP中的应用。同时,通过一个房价预测的完整案例,介绍了算法工程师如何利用数据训练模型并解决实际问题,涵盖需求分析、数据收集、模型训练与部署等全流程。文章适合初学者和开发者学习AI基础与实战技能。
730 25
AI 基础知识从0.1到0.2——用“房价预测”入门机器学习全流程
|
5月前
|
机器学习/深度学习 人工智能 PyTorch
AI 基础知识从 0.2 到 0.3——构建你的第一个深度学习模型
本文以 MNIST 手写数字识别为切入点,介绍了深度学习的基本原理与实现流程,帮助读者建立起对神经网络建模过程的系统性理解。
641 15
AI 基础知识从 0.2 到 0.3——构建你的第一个深度学习模型
|
5月前
|
机器学习/深度学习 人工智能 自然语言处理
AI 基础知识从 0.3 到 0.4——如何选对深度学习模型?
本系列文章从机器学习基础出发,逐步深入至深度学习与Transformer模型,探讨AI关键技术原理及应用。内容涵盖模型架构解析、典型模型对比、预训练与微调策略,并结合Hugging Face平台进行实战演示,适合初学者与开发者系统学习AI核心知识。
490 15
|
6月前
|
人工智能 监控 测试技术
云上AI推理平台全掌握 (1):PAI-EAS LLM服务一键压测
在AI技术飞速发展的今天,大语言模型(LLM)、多模态模型等前沿技术正深刻改变行业格局。推理服务是大模型从“实验室突破”走向“产业级应用”的必要环节,需直面高并发流量洪峰、低延时响应诉求、异构硬件优化适配、成本精准控制等复杂挑战。 阿里云人工智能平台 PAI 致力于为用户提供全栈式、高可用的推理服务能力。在本系列技术专题中,我们将围绕分布式推理架构、Serverless 弹性资源全球调度、压测调优和服务可观测等关键技术方向,展现 PAI 平台在推理服务侧的产品能力,助力企业和开发者在 AI 时代抢占先机,让我们一起探索云上 AI 推理的无限可能,释放大模型的真正价值!
|
6月前
|
机器学习/深度学习 PyTorch API
昇腾AI4S图机器学习:DGL消息传递接口的PyG替换
DGL (Deep Graph Learning) 和 PyG (Pytorch Geometric) 是两个主流的图神经网络库,它们在API设计和底层实现上有一定差异,在不同场景下,研究人员会使用不同的依赖库,昇腾NPU对PyG图机器学习库的支持亲和度更高,因此有些时候需要做DGL接口的PyG替换。
|
6月前
|
机器学习/深度学习 PyTorch API
昇腾AI4S图机器学习:DGL图构建接口的PyG替换
本文探讨了在图神经网络中将DGL接口替换为PyG实现的方法,重点以RFdiffusion蛋白质设计模型中的SE3Transformer为例。SE3Transformer通过SE(3)等变性提取三维几何特征,其图构建部分依赖DGL接口。文章详细介绍了两个关键函数的替换:`make_full_graph` 和 `make_topk_graph`。前者构建完全连接图,后者生成k近邻图。通过PyG的高效实现(如`knn_graph`),我们简化了图结构创建过程,并调整边特征处理逻辑以兼容不同框架,从而更好地支持昇腾NPU等硬件环境。此方法为跨库迁移提供了实用参考。
|
机器学习/深度学习 人工智能 安全
探索AI的未来:从机器学习到深度学习
【10月更文挑战第28天】本文将带你走进AI的世界,从机器学习的基本概念到深度学习的复杂应用,我们将一起探索AI的未来。你将了解到AI如何改变我们的生活,以及它在未来可能带来的影响。无论你是AI专家还是初学者,这篇文章都将为你提供新的视角和思考。让我们一起探索AI的奥秘,看看它将如何塑造我们的未来。
394 3