14 完全解码拉格朗日乘数法
-------------------------

至此，已经完全解码拉格朗日乘数法，拉格朗日巧妙的构造出下面这个式子：

.. figure:: ../../img/1578812874316.png
   :alt: 

**还有取得极值的的三个条件，都是对以上五个小节中涉及到的条件的编码**

.. figure:: ../../img/1578812930092.png
   :alt: 

关于第三个条件，稍加说明。

对于含有多个变量，比如本例子就含有2个变量\ ``x1``,
``x2``\ ，就是一个多元优化问题，需要求二阶导，二阶导的矩阵就被称为\ ``海塞矩阵``\ （Hessian
Matrix）

与求解一元问题一样，仅凭一阶导数等于是无法判断极值的，需要求二阶导，并且二阶导大于0才是极小值，小于0是极大值，等于0依然无法判断是否在此点去的极值。

    以上就是机器学习最常用的优化技巧：拉格朗日乘数法的图形讲解，相信大家已经找到一定感觉，接下来几天我们通过例子，详细阐述机器学习的具体概念，常用算法，使用Python实现主要的算法，使用Sklearn，Kaggle数据实战这些算法。