yabmarlboro_个人页

谈谈交叉熵损失函数

一.交叉熵损失函数形式 现在给出三种交叉熵损失函数的形式，来思考下分别表示的的什么含义。 --式子1 --式子2 --式子3 解释下符号，m为样本的个数，C为类别个数。上面三个式子都可以作为神经网络的损失函数作为训练，那么区别是什么？ ■1》式子1，用于那些类别之间互斥(如：一张图片中只能保护猫或者狗的其中一个)的单任务分类中。

线性回归与梯度下降法-原理与Python实现【重要】

数据挖掘面试准备（1）|常见算法（logistic回归，随机森林，GBDT和xgboost）

最小二乘法-公式推导

基本思想 求出这样一些未知参数使得样本点和拟合线的总误差（距离）最小 最直观的感受如下图（图引用自知乎某作者） 而这个误差（距离）可以直接相减，但是直接相减会有正有负，相互抵消了，所以就用差的平方 推导过程 1 写出拟合方程y=a+bxy=a+bx 2 现有样本(x1,y1),(x2,y2).

优化：梯度下降法、牛顿法、共轭梯度法

基于受限玻尔兹曼机(RBM)的协同过滤

受限玻尔兹曼机(Restricted Boltzmann Machine, RBM) 简介

  受限玻尔兹曼机(Restricted Boltzmann Machine,简称RBM)是由Hinton和Sejnowski于1986年提出的一种生成式随机神经网络(generative stochastic neural network)，该网络由一些可见单元(visible unit，对应可见变量，亦即数据样本)和一些隐藏单元(hidden unit，对应隐藏变量)构成，可见变量和隐藏变量都是二元变量，亦即其状态取{0,1}。

机器学习中Bagging和Boosting的区别

不可思议的Word2Vec之系列四- 不一样的“相似”

不可思议的Word2Vec系列一数学原理

范数规则化之核范数与规则项参数选择

范数规则化之L0、L1与L2范数

推荐系统-基于矩阵分解的LFM模型

　　这里我想给大家介绍另外一种推荐系统，这种算法叫做潜在因子（Latent Factor）算法。这种算法是在NetFlix（没错，就是用大数据捧火《纸牌屋》的那家公司）的推荐算法竞赛中获奖的算法，最早被应用于电影推荐中。

拉格朗日乘数法

频繁项集挖掘算法之FPGrowth

线性回归之——最小二乘法

距离计算方法总结

从贝叶斯方法谈到贝叶斯网络

从贝叶斯方法谈到贝叶斯网络 0 引言     事实上，介绍贝叶斯定理、贝叶斯方法、贝叶斯推断的资料、书籍不少，比如《数理统计学简史》，以及《统计决策论及贝叶斯分析 James O.Berger著》等等，然介绍贝叶斯网络的中文资料则非常少，中文书籍总共也没几本，有的多是英文资料，但初学者一上来就扔给他一堆英文论文，因无基础和语言的障碍而读得异常吃力导致无法继续读下去则是非常可惜的（当然，有了一定的基础后，便可阅读更多的英文资料）。

分类算法之决策树(Decision tree)

scikit-learn学习之神经网络算法

分类算法-贝叶斯网络(Bayesian networks)

Feature extraction - sklearn文本特征提取

基于sklearn的文本特征提取与分类

文本挖掘之特征选择（Python版）

准确率(Accuracy), 精确率(Precision), 召回率(Recall)和F1-Measure

深度学习 vs 机器学习 vs 模式识别

本文我们来关注下三个非常相关的概念（深度学习、机器学习和模式识别），以及他们与2015年最热门的科技主题（机器人和人工智能）的联系。 图1 人工智能并非将人放入一台计算机中（图片来源于 WorkFusion 的博客） 环绕四周，你会发现不缺乏一些初创的高科技公司招聘机器学习专家的岗位。

ZooKeeper Watcher 和 AsyncCallback 的区别与实现

使用Python实现Hadoop MapReduce程序

数学里面希腊字母的读法

线性回归之——最小二乘法

理解皮尔逊相关系数（Pearson Correlation Coefficient）

正态分布（Normal distribution）又名高斯分布（Gaussian distribution）

朴素贝叶斯法（对于连续和离散属性的处理）

期望、方差、协方差及相关系数的基本运算

方差，标准差，协方差、期望值

方差：方差是变量与其平均值的平方和的算术平均值，例如：             有一组数据{4,5,6,7}, 平均值为：(4+5+6+7)/4=22/4=5.5             其方差为：[(4-5.5)2+(5-5.5)2+(6-5.5)2+(7-5.5)2]/4 标准差：方差的开

dpi 、 dip 、分辨率、屏幕尺寸、px、density 关系以及换算