Skip to content

学习

Chap18 样例学习

学习形式

  • 无监督学习
  • 强化学习
  • 监督学习

监督学习

给定由 N 个“输入 - 输出”对样例组成的训练集

\[(x_1,y_1),(x_2,y_2),...,(x_N,y_N)\]

发现一个函数 h 使其逼近真实函数

分类:输出 y 值集为有限集合。特别地,当值集仅含两个元素,称为布尔或二元分类。 回归:y值是数值型的。

学习决策树

决策树表示法

决策树表示一个函数,以属性值向量作为输入,返回决策——简单输出值。

决策树的表达能力

\[ Goal \Leftrightarrow (Path_1 \vee Path_2 \vee ...) \]

每个 Path 是对应路径上“属性 - 值”测试的合取式,布尔决策树等价于析取范式

从样例归纳决策树

贪婪 divide-and-conquer 策略

选择测试属性

根结点在可选属性中具有最大的信息收益

泛化与过度拟合

剪枝

拓展决策树的应用

评估和选择最佳假说

模型选择:复杂性相对良好拟合性

从误差率到损耗

正则化

学习理论

带线性模型的回归和分类

单变量线性回归

多变量线性回归

带硬阈值的线性分类器

Logistic 回归的线性分类器

人工神经网

神经网络结构

单层前馈神经网络(感知器)

多层前馈神经网络

多层网络中的学习

学习神经网络的结构

非参数化模型

最近邻模型

k-d 树发现最近邻

区域相关哈希(散列)

非参数化回归

支持向量机

组合学习

机器学习实例

Chap19 学习中的知识

学习的逻辑公式化

学习中的知识

基于解释的学习

使用相关性信息学习

归纳逻辑程序设计

Chap20 学习概率模型

统计学习

带完整数据的学习

隐变量学习:EM 算法

Chap21 强化学习

引言

被动强化学习

主动强化学习

强化学习中的泛化

策略搜索

强化学习的应用

评论区

如果有什么问题或想法,欢迎大家在下方留言~