英文字母信息熵与冗余度计算Python实现
26个英文字母在平均出现时的信息熵是4.7BIT,而去掉冗余度后的英文字母的信息熵是4.03BIT。 公式: H(信息熵…
分类： 机器学习
基于训练集的代理模型生成算法（DROP3、AGG）
DROP3算法 目的：保留类边界上的实例，去除类内部的实例，构造代理训练集 主要思想：利用KNN算法及排序来…
信息熵（香农熵）概述
简介 1948 年，香农提出了“信息熵”(Shannon entropy/Information entropy) 的概念，才解决了对信息的量化…
在线特征选择概述
在线学习（online learning） 在监督学习的在线方法下，对于多层感知器突触权值的调整是以样例-样例为基础…
批量学习与在线学习概述
一、批量学习（batch learning） 在监督学习的批量方法中，多层感知器的突出权值的调整在训练样本集合的所…
神经网络感知机概述
定义 假设输入空间(特征向量)为X⊆Rn，输出空间为Y={-1, +1}。输入x∈X表示实例的特征向量，对应于输入空间…
TensorBoard显示TensorFlow流程图
TensorFlow 涉及到的运算，通常是在训练庞大的深度神经网络中出现的复杂而又难以理解的运算。 为了更方便 …
TensorFlow手写识别入门
原文地址：MNIST For ML Beginners 翻译：linbojin python3源码：OmegaXYZ.com 当我们开始学习编程的时候…
差分进化算法Python实现
DE 算法主要用于求解连续变量的全局优化问题，其主要工作步骤与其他进化算法基本一致，主要包括变异(Mutat…
差分进化算法 (Differential Evolution)概述
DE算法简介 Differential Evolution（DE）是由Storn等人于1995年提出的，和其它演化算法一样，DE是一种模…
特征选择Filter方法详解
Filter（筛选法）通过分析特征子集内部的特点来衡量特征的分类能力，与后面的采用何种分类器无关，这类方…
One-Hot编码详解与Python实现
one-hot的基本思想：将离散型特征的每一种取值都看成一种状态，若你的这一特征中有N个不相同的取值，那么…
遗传算法的交叉变异详解
交叉 二进制编码交叉 单点交叉 单点交叉又称为简单交叉，它是指在个体编码串中只随机设置一个交叉点，然后…
TensorFlow基本语句与概念
文章转载自极客学院： …
TensorFlow神经网络函数拟合实例（基于Python）
本文通过TensorFlow生成双层神经网络，对二次函数进行拟合。 双层神经网络如下图所示。 weights代表神经元…
机器学习如何做特征选择实验
特征选择是一种数据预处理过程，优秀的特征能够提升分类器的性能。 在现实世界中，有很多类包含很多特征，…