主成分分析，PCA (Principal Component Analysis)主成分分析（PCA）是一种降维方法，通常用于降低大型数据集的维度，通过将大型变量集转换为仍包含大型变量集中大部分信息的较小变量。减少数据集的变量数量自然会以牺牲准确性为代价，但降维的技巧是牺牲一点准确性来换取简单性。因为 ...

　奇异值分解(Singular Value Decomposition，以下简称SVD)是在机器学习领域广泛应用的算法，它不光可以用于降维算法中的特征分解，还可以用于推荐系统，以及自然语言处理等领域。是很多机器学习算法的基石。本文就对SVD的原理做一个总结，并讨论在在PCA降维算法中是如何运用运用S ...

随着数据爆炸，针对一个项目，我们可以获得许多测量结果，但其中只有一部分对于决策任务有用。尽管机器学习算法（MLA）可以处理大数据，但其性能会随着维度的增加而下降。当属性数量增加时，观察数量也会成比例增加，结果学习模型变得更加复杂。对许多特征进行训练的模型变得强烈依赖于数据，因此导致对未见过的数据的过 ...

《解决几乎所有机器学习问题》是一个打 kaggle 比赛的大佬整理的相关笔记，Approaching (Almost) Any Machine Learning Problem.pdf中文译本在线阅读中文译本 github 仓库

Cell命令模式目前支持的Jupyter Notebook快捷 快捷键 响应 Enter 转入编辑模式 Shift-Enter 运行本单元，选中或插入（最后一个Cell的时候）下个单元 Ctrl-Enter 运行本单元 Alt-Enter 运行本单元，在其下插入新单元 Y ...

快捷键 响应 Ctrl + k + s 查看与更改键盘快捷方式 Ctrl + b 加粗 加粗 Ctrl + m 放大 放 大 放大 放大 Ctrl + g 跳转到?行 Ctrl + h 查找与替换 Ctrl + j 调出电脑 cmd 控制终端 Ctrl + l 向 ...

Normalization 层主要解决的问题是希望输入数据能大致分布在相同的空间内，从而让训练更好更快的收敛。 最先提出的 Batch normalization 层对于深度网络的收敛起到了很大的促进作用，于是后续又有多种normalization层提出，这里总结下normlization的相关知识 ...

Non-linear Activations (weighted sum, nonlinearity) 激活函数 简介 图示 nn.ELU Exponential Linear Unit (ELU) function, element-wise. nn.Hardshrink Hard ...

转换共识：$f(x)=\sqrt{x}$平方根变换可用于： 标准化偏态分布 将两个变量之间的非线性关系转换为线性关系 减少线性回归中残差的异方差 专注于可视化数据的某些部分对变量应用平方根变换时，高值会被压缩，低值会变得更加分散。log转换做同样的事情，但更积极。

torch.dtype最近进行一些代码实操的过程中，经常遇到一个报错，TypeError: tensor(): argument ‘dtype’ must be torch.dtype, not torch.tensortype，原因则是因为在dtype参数中错误的传递了torch.tensorty ...