学习 ¶
Chap18 样例学习 ¶
学习形式 ¶
- 无监督学习
- 强化学习
- 监督学习
监督学习 ¶
给定由 N 个“输入 - 输出”对样例组成的训练集
\[(x_1,y_1),(x_2,y_2),...,(x_N,y_N)\]
发现一个函数 h 使其逼近真实函数
分类:输出 y 值集为有限集合。特别地,当值集仅含两个元素,称为布尔或二元分类。 回归:y值是数值型的。
学习决策树 ¶
决策树表示法 ¶
决策树表示一个函数,以属性值向量作为输入,返回决策——简单输出值。
决策树的表达能力 ¶
\[
Goal \Leftrightarrow (Path_1 \vee Path_2 \vee ...)
\]
每个 Path 是对应路径上“属性 - 值”测试的合取式,布尔决策树等价于析取范式
从样例归纳决策树 ¶
贪婪 divide-and-conquer 策略
选择测试属性 ¶
根结点在可选属性中具有最大的信息收益
泛化与过度拟合 ¶
剪枝
拓展决策树的应用 ¶
评估和选择最佳假说 ¶
模型选择:复杂性相对良好拟合性 ¶
从误差率到损耗 ¶
正则化 ¶
学习理论 ¶
带线性模型的回归和分类 ¶
单变量线性回归 ¶
多变量线性回归 ¶
带硬阈值的线性分类器 ¶
带 Logistic 回归的线性分类器 ¶
人工神经网 ¶
神经网络结构 ¶
单层前馈神经网络(感知器)¶
多层前馈神经网络 ¶
多层网络中的学习 ¶
学习神经网络的结构 ¶
非参数化模型 ¶
最近邻模型 ¶
用 k-d 树发现最近邻 ¶
区域相关哈希(散列)¶
非参数化回归 ¶
支持向量机 ¶
组合学习 ¶
机器学习实例 ¶
Chap19 学习中的知识 ¶
学习的逻辑公式化 ¶
学习中的知识 ¶
基于解释的学习 ¶
使用相关性信息学习 ¶
归纳逻辑程序设计 ¶
Chap20 学习概率模型 ¶
统计学习 ¶
带完整数据的学习 ¶
隐变量学习:EM 算法 ¶
Chap21 强化学习 ¶
引言 ¶
被动强化学习 ¶
主动强化学习 ¶
强化学习中的泛化 ¶
策略搜索 ¶
强化学习的应用 ¶
评论区
如果有什么问题或想法,欢迎大家在下方留言~