机器学习原理-线性回归 | 学习笔记

简介: 快速学习机器学习原理-线性回归

开发者学堂课程【Tensorflow2.0入门与实战机器学习原理-线性回归】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址https://developer.aliyun.com/learning/course/664/detail/11098


机器学习原理-线性回归


内容介绍:

一、Tensorflow 2.0 tf.keras 概述

二、回顾

三、使用 tf.keras 实现一个简单的线性回归

一、Tensorflow 2.0 tf.keras 概述

注意:

tf.keras Tensorflow 2.0 的核心高级 API ,搭建神经网络官方推荐使用 tf.keras。

后面会讲到使用自定义的梯度下降算法和自定义训练循环,但是在大多数时候推荐使用 tf.keras 搭建神经网络。

 

二、回顾

Tensorflow 2.0 简明实战教程

1.安装Python版本

Tensorflow 2.0 兼容的Python版本: Python 2.7-3.6

本课程使用3.6.8

2.在命令行使用 pip install numpy pandas matplotlib sklearn tensorflow==2.0.0-alpha0 -i 

https://pypi.doubanio.com/simple

配合 notebook 使用,体验更佳:pip install notebook -i

https://pypi.doubanio.com/simple

3.以下使用 notebook 演示:

(1)打开 ipython notebook

image.png

2)找到需要的运行环境

image.png

(3)重命名

image.png

(4)引入安装好的 Tensorflow,检查使用的版本,如下图可知该版本为 Tensorflow Version :2.0.0-alpha0

image.png

 

三、使用 tf.keras 实现一个简单的线性回归

1.单变量线性回归算法(比如, x 代表学历,f(x) 代表收入)∶

f(x) = ax + b(求解出 a、b,可以通过x的值预测f(x))

我们使用f(x)这个函数来映射输入特征和输出值

2.读取数据解

引入 pandas 读取 Income1.csv 的数据解:

import pander as pd

data=pd.read_csv(‘./dataset/Income1.csv’)

如下:

image.png

引入 matplotlib.pyplot 绘图和 matplotlib inline 用于显示:

import matplotlib.pyplot as plt

%matplotlib inline

如下:

image.png

得到散点图:

(x轴对应受教育年限,y轴对应收入)

image.png

3.如何求解 a 和 b

(1)预测目标与损失函数

预测目标:预测函数 f(x) 与真实值之间的整体误差最小

如何定义误差最小呢?(不能直接使用差作为预测误差)

损失函数:使用均方差作为作为成本函数,也就是预测值和真实值之间差的平方取均值

(2)成本函数与损失函数

优化的目标( y 代表实际的收入):

找到合适的 a 和 b ,使得 (f(x) - y)^2/n 越小越好( n 为定值)

注意:现在求解的是参数 a 和 b

(3)如何优化:

使用梯度下降算法

相关文章
|
9月前
|
机器学习/深度学习 算法 Python
机器学习特征筛选:向后淘汰法原理与Python实现
向后淘汰法(Backward Elimination)是机器学习中一种重要的特征选择技术,通过系统性地移除对模型贡献较小的特征,以提高模型性能和可解释性。该方法从完整特征集出发,逐步剔除不重要的特征,最终保留最具影响力的变量子集。其优势包括提升模型简洁性和性能,减少过拟合,降低计算复杂度。然而,该方法在高维特征空间中计算成本较高,且可能陷入局部最优解。适用于线性回归、逻辑回归等统计学习模型。
374 7
|
10月前
|
机器学习/深度学习 数据采集 分布式计算
大数据分析中的机器学习基础:从原理到实践
大数据分析中的机器学习基础:从原理到实践
490 3
|
机器学习/深度学习 人工智能 算法
探索机器学习:从线性回归到深度学习
本文将带领读者从基础的线性回归模型开始,逐步深入到复杂的深度学习网络。我们将通过代码示例,展示如何实现这些算法,并解释其背后的数学原理。无论你是初学者还是有经验的开发者,这篇文章都将为你提供有价值的见解和知识。让我们一起踏上这段激动人心的旅程吧!
220 3
|
机器学习/深度学习 存储 运维
分布式机器学习系统:设计原理、优化策略与实践经验
本文详细探讨了分布式机器学习系统的发展现状与挑战,重点分析了数据并行、模型并行等核心训练范式,以及参数服务器、优化器等关键组件的设计与实现。文章还深入讨论了混合精度训练、梯度累积、ZeRO优化器等高级特性,旨在提供一套全面的技术解决方案,以应对超大规模模型训练中的计算、存储及通信挑战。
688 4
|
机器学习/深度学习 人工智能 算法
探索机器学习中的线性回归模型
本文深入探讨了机器学习中广泛使用的线性回归模型,从其基本概念和数学原理出发,逐步引导读者理解模型的构建、训练及评估过程。通过实例分析与代码演示,本文旨在为初学者提供一个清晰的学习路径,帮助他们在实践中更好地应用线性回归模型解决实际问题。
173 3
|
机器学习/深度学习 自然语言处理 算法
深入理解机器学习算法:从线性回归到神经网络
深入理解机器学习算法:从线性回归到神经网络
|
机器学习/深度学习 TensorFlow 算法框架/工具
探索机器学习:从线性回归到深度学习
在这篇文章中,我们将一起踏上一场激动人心的旅程,穿越机器学习的广阔天地。我们将从最基本的线性回归开始,逐步深入到复杂的深度学习模型。无论你是初学者还是有经验的开发者,这篇文章都将为你提供新的视角和深入的理解。让我们一起探索这个充满无限可能的世界吧!
|
机器学习/深度学习 算法 知识图谱
【机器学习】逻辑回归原理(极大似然估计,逻辑函数Sigmod函数模型详解!!!)
【机器学习】逻辑回归原理(极大似然估计,逻辑函数Sigmod函数模型详解!!!)
|
机器学习/深度学习 算法
机器学习入门(三):K近邻算法原理 | KNN算法原理
机器学习入门(三):K近邻算法原理 | KNN算法原理
|
机器学习/深度学习 API
机器学习入门(七):线性回归原理,损失函数和正规方程
机器学习入门(七):线性回归原理,损失函数和正规方程
1195 1

热门文章

最新文章