(二)正则化
正则化后样品的数目为： 其中，int表示取整数。对于第一个样品Z（x1）来说，如果其长度l（x（x1）≥L，那么第一个正则化样品的品位为Z（x（xi）=Z（x1）；否则，应该考虑前几个样品，直到其累计长度达到正则化长度。
因此机器学习中经常使用LL2正则化。L1正则化项也称为Lasso，L2正则化参数也称为Ridge。 L1范数：权值向量w中各个元素的绝对值之和，L1正则化可以产生稀疏权值矩阵，即产生一个稀疏模型，可以用于特征选择。
同时，正则化解决了逆问题的不适定性，产生的解是存在，唯一同时也依赖于数据的，噪声对不适定的影响就弱，解就不会过拟合，而且如果先验（正则化）合适，则解就倾向于是符合真解（更不会过拟合了），即使训练集中彼此间不相关的样本数很少。
正则化的英文是regularization，即规则化，调整。通过一些调整或者其他办法，使病态问题也能得到唯一解。在这个调整的过程中，使用的技术就是正则化技术，所用的方法就是正则化方法。
正则化变量Zv（x）的性质 1）若Z（y）二阶平稳，则Z（x）同样二阶平稳。即满足Z（y）二阶平稳的两个条件：E[Z（y）]=m（常数）Cov（协方差函数）[Z（y），Z（y+h）]=[EZ（y），Z（y+h）]-m2=C（h）同样是满足Zv（y）二阶平稳的条件，将Z（y）和Z（y+h）换成Zv（x）和Zv（x+h）即可。
正则表达式之原理篇
1、正则表达式在程序设计语言中存在着广泛的应用，特别是用来处理字符串。如匹配字符串、查找字符串、替换字符串等。可以说，正则表达式是一段文本或一个公式，它是用来描述用某种模式去匹配一类字符串的公式，并且该公式具有一定的模式。
2、全部通过 当然，php正则匹配邮箱，还可以这样子 原理与 /^\w+@（[\da-z\.-]+）\.（[a-z]{2，6}|[\x7f-\xff]{6，9}）/ 类似。最后，上面的几个正则表达式是居于当前市面上现存的域名进行匹配的，下面提供几个更加宽松的邮箱正则匹配 原理都相似，可以对照理解下。
3、正则表达式，又称规则表达式，是计算机科学的一个概念。正则表达式通常被用来检索、替换那些符合某个模式（规则）的文本。起源 正则表达式的“鼻祖”或许可一直追溯到科学家对人类神经系统工作原理的早期研究。
4、match函数 此函数尝试将RE模式与可选标志的字符串进行匹配。下面是函数的语法 ：这里是参数的描述 ：pattern ： 这是要匹配的正则表达式。string ： 这是字符串，它将被搜索用于匹配字符串开头的模式。 | flags ： 可以使用按位OR（|）指定不同的标志。 这些是修饰符，如下表所列。
正则化的通俗解释
正则化： 正则化的目的：防止过拟合！ 正则化的本质：约束（限制）要优化的参数。
正则表达式是对字符串操作的一种逻辑公式，就是用事先定义好的一些特定字符、及这些特定字符的组合，组成一个“规则字符串”，这个“规则字符串”用来表达对字符串的一种过滤逻辑。 正则表达式的特点是： 灵活性、逻辑性和功能性非常的强； 可以迅速地用极简单的方式达到字符串的复杂控制。
正则化（regularization），是指在线性代数理论中，不适定问题通常是由一组线性代数方程定义的，而且这组方程组通常来源于有着很大的条件数的不适定反问题。大条件数意味着舍入误差或其它误差会严重地影响问题的结果。
贝叶斯正则化算法是怎么提高泛化能力的!有点不懂原理!
1、由于造成过拟合的原因可能是太多的特征量，所以可采用减少特征量的方法。但是不妨换种思路，减少特征量的权值（这个特征乘以的 \theta 很小），来达到目的。
2、总结来说，这七种正则化算法各有其独特之处，无论是在特征选择、权重平滑，还是在神经网络和贝叶斯统计中的应用，它们都是提升模型稳定性和泛化能力的强大工具。在实际项目中，根据具体任务和数据特性，灵活选择和组合这些正则化策略，将助力你构建出更加稳健的机器学习模型。
3、朴素贝叶斯算法，尽管基于独立特征假设，能快速处理缺失数据，但当特征维度增加时，易受“维数灾难”影响，过度简化可能导致精度损失。正则化如奥卡姆剃刀原理，强调模型简洁性，通过控制复杂度防止过拟合。从逻辑回归的简单模型到SVM的复杂结构，我们需要权衡模型的灵活性和准确性。
4、MixMatch，这个前沿的半监督学习算法，通过独特的熵最小化与一致性正则化的巧妙结合，为数据不足的情况开辟了新的可能性。它的核心思想在于，通过智能地结合无标签样本的预测和数据增强，生成精确的人工标签，从而提升模型的泛化能力。
5、限制权值 Weight-decay，也叫正则化（regularization）原理同上，但是这类方法直接将权值的大小加入到 Cost 里，在训练的时候限制权值变大。以 L2 regularization 为例：训练过程需要降低整体的 Cost，这时候，一方面能降低实际输出与样本之间的误差C 0 ，也能降低权值大小。
正则变换1
为保证正则变换的有效性，即变换后新坐标 依然是正则坐标，哈密顿修正原理在新坐标下必须同样被满足：如果我们固定相空间中路径的端点，那么上述的两个作用量的被积函数将只会相差一个二阶可微函数 关于时间的全微商。于是有 上式是一个正则变换 应满足的具体条件。
然而，泊松定理并非万能钥匙，它在某些情况下显得力有未逮，比如，当我们试图从广义动量和能量积分中推导新的守恒量时，可能就会遇到瓶颈。这时，正则变换如同破晓的曙光，引领我们突破局限，探索未知的领域。探索力学的奥秘，永无止境。让我们一起期待那些无法用泊松定理解决的问题，被正则变换解锁的那一刻。
正则坐标和正则动量本质上还是应该从拉式量出发而不是哈密顿量出发，并不是所有的体系都可以用哈密顿量描述。
如果直角坐标变换到广义坐标的变换式不显含t，势函数V也不显含t，则 T=T2，H=T+V。即对于保守系统，哈密顿函数是系统总机械能用广义动量表示的公式。正则方程式（1）是2N个一阶微分方程组，而拉格朗日方程是N个二阶微分方程组，都只适用于完整系统（见约束）的动力学方程组。
什么是tikhonov正则化方法
1、洁洪诺夫正则化，是引入正则算子将不适定问题转化为适定问题。判断适定性有三个条件。
2、对原始问题的最小化经验误差函数加上某种约束。正则化理论就是用来对原始问题的最小化经验误差函数加上某种约束，这种约束可以看成是人为引入的某种先验知识，从而对原问题中参数的选择起到引导作用，因此要正则化算法。正则化理论是Tikhonov于1963年提出的一种用以解决逆问题的不适定性的方法。
3、正则化（regularization），是指在线性代数理论中，不适定问题通常是由一组线性代数方程定义的，而且这组方程组通常来源于有着很大的条件数的不适定反问题。大条件数意味着舍入误差或其它误差会严重地影响问题的结果。
4、正则化，英文为regularizaiton，定义是修改学习算法，使其降低泛化误差（generalization error）而非训练误差。旨在更好实现模型泛化的补充技术，即在测试集上得到更好的表现。它是为了防止过拟合，进而增强模型的泛化能力。
5、求解不适定问题的普遍方法是：用一组与原不适定问题相“邻近”的适定问题的解去逼近原问题的解，这种方法称为正则化方法。如何建立有效的正则化方法是反问题领域中不适定问题研究的重要内容。
6、为了达到这一目的，最直观的方法就是限制 w 的个数，但是这类条件属于 NP-hard 问题，求解非常困难。因此机器学习中经常使用LL2正则化。L1正则化项也称为Lasso，L2正则化参数也称为Ridge。 L1范数：权值向量w中各个元素的绝对值之和，L1正则化可以产生稀疏权值矩阵，即产生一个稀疏模型，可以用于特征选择。
标签： #正则化的原理
