学习笔记: 机器学习经典算法-空间内一点到超平面的距离推广公式

在线体验各类最新模型,更有模型 免费Token 额度领取!
立即体验
简介: 机器学习经典算法-个人笔记和学习心得分享

超平面 与 法向量

超平面(H,Hyperplane) 是二维平面中直线、三维空间中平面对象的推广形式,本质是$n$维空间的一个子空间,满足向量加法与乘法的封闭。空间中的平面都可以被平面上任意一点$x_0$及与平面内任意向量所垂直的平面法向量$\vec w$所确定:

定义空间内一超平面为 $H$
在平面上确定一点 $x_0$,就有平面上其它任意点$x$ 与$x_0$所成向量 $\vec {x_0x}$ 与垂直于法线 :
$\vec {x_0x} \cdot \vec w = 0 \rightarrow (\vec x - \vec x_0)\cdot \vec w = 0$
$\therefore \vec {x_0x} \cdot \vec w = \vec w^T\vec x - \vec w^T\vec x_0 = 0$

由于 $x_0$ 为提前确定的平面内一点,则有 $\frac {\vec w^T\vec x_0}{\|\vec w\|}$ 计算了空间原点$O$与$x_0$ 所成向量到平面法向量的投影长度,实质上描述了 平面H 偏离空间原点的距离 ,这个偏移量描述一般描述为 $b = - \frac {\vec w^T\vec x_0}{\|\vec w\|}\cdot \|\vec w\|$的形式。当 $b = 0$ 时意味着超平面未发生偏移,过空间原点$O$。
这样根据平面内一点和法向量确立的平面的约束方程称为 点法式超平面方程:
$$w^Tx + b= 0$$

点到超平面距离

对于空间上的任意点 $X$ 到 $w$ 所定义的超平面H的距离 $d$ 就有等于向量$\vec {OX}$ 在平面法向量上的投影距离 $\frac {wX}{\|w\|}$ 减去平面相对原点的偏移量$\frac {-b}{\|w\|}$,即:

$$d(X \rightarrow H) = |\frac {wX}{\|w\|} - \frac {-b}{\|w\|}| = \frac {|wX+b|}{\|w\|}$$
如在简单二维空间内,平面上的一点 $(x_1,y_1)$ 到直线形式的超平面对象 $Ax + By +C = 0$ 的距离就可以描述为 $ d = \frac {|Ax_0 + By_0 + C|}{\sqrt {A^2 + B^2}}$

目录
相关文章
|
机器学习/深度学习 算法 搜索推荐
Machine Learning机器学习之决策树算法 Decision Tree(附Python代码)
Machine Learning机器学习之决策树算法 Decision Tree(附Python代码)
|
存储 算法 物联网
R-Tree算法:空间索引的高效解决方案
【5月更文挑战第17天】R-Tree是用于多维空间索引的数据结构,常用于地理信息系统、数据库和计算机图形学。它通过分层矩形区域组织数据,支持快速查询。文章介绍了R-Tree的工作原理、应用场景,如地理信息存储和查询,以及Python的`rtree`库实现示例。此外,还讨论了R-Tree的优势(如空间效率和查询性能)与挑战(如实现复杂和内存消耗),以及优化和变种,如R* Tree和STR。R-Tree在机器学习、实时数据分析等领域有广泛应用,并与其他数据结构(如kd-trees和quad-trees)进行比较。未来趋势将聚焦于优化算法、动态适应性和分布式并行计算。
1053 1
|
机器学习/深度学习 数据可视化 数据挖掘
机器学习中空间和时间自相关的分析:从理论基础到实践应用
空间和时间自相关是数据分析中的重要概念,揭示了现象在空间和时间维度上的相互依赖关系。本文探讨了这些概念的理论基础,并通过野火风险预测的实际案例,展示了如何利用随机森林模型捕捉时空依赖性,提高预测准确性。
1183 0
机器学习中空间和时间自相关的分析:从理论基础到实践应用
|
机器学习/深度学习 算法 数据挖掘
【机器学习】聚类算法中的距离度量有哪些及公式表示?
聚类算法中常用的距离度量方法及其数学表达式,包括欧式距离、曼哈顿距离、切比雪夫距离、闵可夫斯基距离、余弦相似度等多种距离和相似度计算方式。
1654 1
|
机器学习/深度学习 算法 数据挖掘
Python机器学习10大经典算法的讲解和示例
为了展示10个经典的机器学习算法的最简例子,我将为每个算法编写一个小的示例代码。这些算法将包括线性回归、逻辑回归、K-最近邻(KNN)、支持向量机(SVM)、决策树、随机森林、朴素贝叶斯、K-均值聚类、主成分分析(PCA)、和梯度提升(Gradient Boosting)。我将使用常见的机器学习库,如 scikit-learn,numpy 和 pandas 来实现这些算法。
|
机器学习/深度学习 人工智能 分布式计算
人工智能平台PAI操作报错合集之在ODPS的xxx_dev项目空间调用easyrec训练,需要访问yyy项目空间的OSS,出现报错,是什么导致的
阿里云人工智能平台PAI (Platform for Artificial Intelligence) 是阿里云推出的一套全面、易用的机器学习和深度学习平台,旨在帮助企业、开发者和数据科学家快速构建、训练、部署和管理人工智能模型。在使用阿里云人工智能平台PAI进行操作时,可能会遇到各种类型的错误。以下列举了一些常见的报错情况及其可能的原因和解决方法。
|
算法
计算空间物体包围球的两种算法实现
计算空间物体包围球的两种算法实现
291 0
|
算法 C++
空间中判断点在三角形内算法(方程法)
空间中判断点在三角形内算法(方程法)
330 0
|
算法
空间点与直线距离算法
空间点与直线距离算法
461 0
|
算法 C++
空间直线与球面相交算法
空间直线与球面相交算法
406 0

热门文章

最新文章