数据挖掘中的新方法 支持向量机【2025|PDF|Epub|mobi|kindle电子书版本百度云盘下载】

数据挖掘中的新方法 支持向量机PDF格式电子书版下载

注意：本站所有压缩包均有解压码： 点击下载压缩包解压工具

目 录1

序言1

符号表1

第1章 最优化问题及其基本理论1

1.1最优化问题1

1.1.1最优化问题实例1

1.1.2最优化问题2

1.1.3 凸最优化10

1.2最优性条件15

1.2.1无约束问题的最优性条件15

1.2.2约束问题的最优性条件18

1.3对偶理论34

1.3.1最大最小对偶34

7.3.4 序列最小最优化（sequential minimal optimization,SMO）算法35

1.3.2 Lagrange对偶38

1.4注记47

参考文献47

第2章 求解分类问题和回归问题的直观途径49

2.1分类问题的提出49

2.1.1例子（心脏病诊断）49

2.1.2分类问题和分类学习机51

2.2线性分类学习机53

2.2.1线性可分问题的线性分划53

2.2.2近似线性可分问题的线性分划64

2.3支持向量分类机71

2.3.1从线性分划到二次分划71

2.3.2 二次分划算法的简化74

2.3.3非线性分划的基本途径75

2.4线性回归学习机77

2.4.1回归问题77

2.4.2线性回归问题与硬ε－带超平面78

2.4.3硬ε－带超平面的构造82

2.4.4硬ε－带超平面的推广86

2.4.5线性支持向量回归机88

2.5支持向量回归机93

2.6注记94

参考文献95

第3章 核96

3.1描述相似性的工具——内积96

3.1.1直观的相似程度与内积96

3.1.2支持向量分类机中的相似与内积98

3.1.3核函数的选取98

3.2多项式空间和多项式核100

3.2.1有序单项式空间100

3.2.2 无序单项式空间103

3.2.3 Hilbert空间与多项式核函数104

3.3 Mercer核105

3.3.1半正定矩阵的特征展开105

3.3.2 Mercer定理与Mercer核108

3.4正定核112

3.4.1 正定核的必要条件113

3.4.2 正定核的充分条件113

3.4.3正定核的特征116

3.4.4再生核Hilbert空间116

3.5.1核的构造原则117

3.5核的构造117

3.4.5 正定核与Mercer核的关系117

3.5.2常用的几种核函数120

3.6注记122

参考文献123

第4章 推广能力的理论估计125

4.1损失函数和期望风险125

4.1.1概率分布125

4.1.2损失函数131

4.1.3期望风险132

4.2求解分类问题的一种途径和一个算法模型136

4.2.1分类问题的一个自然的数学提法136

4.2.3一个学习算法141

4.2.2求解分类问题的途径141

4.3 VC维143

4.4学习算法在概率意义下的近似正确性146

4.5一致性概念和关键定理149

4.6结构风险最小化152

4.7基于间隔的推广估计154

4.8注记161

参考文献162

第5章 分类问题164

5.1最大间隔原则164

5.1.1线性可分问题的最大间隔原则164

5.1.2扰动意义下的几何解释165

5.2线性可分支持向量分类机166

5.2.1线性可分问题的规范超平面166

5.2.2原始最优化问题168

5.2.3 对偶问题及其与原始问题的关系169

5.2.4线性可分支持向量分类机及其理论基础173

5.3线性支持向量分类机174

5.3.1原始问题174

5.3.2对偶问题及其与原始问题的关系179

5.3.3线性支持向量分类机及其理论基础183

5.3.4支持向量185

5.4支持向量分类机186

5.4.1 可分支持向量分类机186

5.4.2支持向量分类机190

5.5ν-支持向量分类机（ν-SVC）196

5.5.1 ν－线性支持向量分类机的原始最优化问题196

5.5.2 ν－线性支持向量分类机的对偶问题及其与原始问题的关系197

5.5.3ν－支持向量分类机202

5.5.4 ν－支持向量分类机的性质205

5.6ν－支持向量分类机（ν-SVC）和C－支持向量分类机（C-SVC）的关系206

5.6.1主要结论206

5.6.2主要结论的证明208

5.7多类分类问题214

5.7.1一类对余类215

5.7.2成对分类217

5.7.3纠错输出编码方法218

5.7.4确定多类目标函数方法218

5.8一个例子219

5.9注记221

参考文献223

第6章 回归估计224

6.1回归问题224

6.1.1回归问题的难点224

6.1.2回归问题的数学提法226

6.1.3不敏感损失函数226

6.2.1硬ε－带支持向量回归机228

6.2 ε－支持向量回归机228

6.2.2从线性ε－支持向量回归机到ε－支持向量回归机235

6.3ν－支持向量回归机245

6.3.1原始最优化问题245

6.3.2 对偶问题及其与原始问题的关系248

6.3.3ν－支持向量回归机252

6.3.4 ν－支持向量回归机的性质254

6.4ε－支持向量回归机（ε-SVR）与ν－支持向量回归机（ν-SVR）的关系255

6.4.1主要结论255

6.4.2主要结论的证明257

6.5其他形式的支持向量回归机259

6.5.1支持向量回归机的线性规划形式259

6.5.2 ε－带为任意形状的支持向量回归机262

6.6其他形式的损失函数264

6.7.1一维回归问题268

6.7一些例子268

6.7.2二维回归问题270

6.8注记272

参考文献272

第7章 算法274

7.1无约束问题解法274

7.1.1无约束问题提法274

7.1.2基本无约束问题算法277

7.1.3 牛顿－条件预优共轭梯度法（Newton-PCG算法）294

7.2.1线性规划的原仿射尺度法304

7.2内点算法304

7.2.2线性规划的原－对偶算法312

7.2.3 凸二次规划的仿射尺度法315

7.2.4凸二次规划的原－对偶算法324

7.3求解大型问题的算法328

7.3.1停机准则329

7.3.2 选块算法（chunking）331

7.3.3分解算法（decomposing）333

7.4注记341

参考文献342

第8章 应用344

8.1模型选择问题344

8.1.1训练集的选取——特征选择问题344

8.1.2核及参数选择问题347

8.2分类问题的线性分划中的特征选择348

8.2.1特征选择的BFM方法348

8.2.2序列极小化方法352

8.3模型选择355

8.3.1算法的评价标准355

8.3.2模型选择362

8.4静态图像中球的识别366

8.4.1作为分类问题的足球识别问题367

8.4.2正类和负类训练点的采集368

8.4.3如何处理正类和负类训练点个数的不均衡369

8.4.4降维处理和参数C的选取370

8.4.5试验结果371

8.5自由曲面的重建问题372

8.6应用简介374

8.6.1手写阿拉伯数字识别374

8.6.2文本分类375

8.6.3生物信息技术376

8.7.1核聚类377

8.7核技巧的应用377

8.7.2核主成分分析378

8.8注记378

参考文献379

附录A基础知识382

A.1基本定义382

A.2梯度和Hesse矩阵383

A.3方向导数384

A.3.1 一阶方向导数384

A.3.2二阶方向导数384

A.5分离定理385

A.4 Taylor展开式385

附录B Hilbert空间387

B.1 量空间387

B.2 积空间389

B.3 Hilbert空间390

B.4算子、特征值和特征向量392

附录C概率394

C.1概率空间394

C.2随机变量及其分布395

C.3随机变量的数字特征397

C.4大数定律397

附录D鸢尾属植物数据集399

英汉术语对照表404