凸函数

自适应线性单元(Adaline)的激活函数是一个线性函数，该函数的输出等于输入，实际上就相当于没有激活函数，线性激活函数φ(Z)的定义： 将样本数据中的实际输出与线性激活函数的输出进行比较，计算模型偏差，然后更新权重。 将样本数据中的实际输出与模型输出进行比较，计算模型偏差，然后更新权重。 自适应线性单元与感知器的区别，在于激活函数不同，自适应线性单元将返回一个实数值而不是01分类

一. 什么是FTRL 首先介绍一下FTL，FTL的思想是每次找到让之前所有样本的损失函数之和最小的参数。流程如下： FTRL算法就是在FTL的优化目标的基础上，加入了正则化，防止过拟合： FTRL的损失函数一般也不容易求解，这种情况下，一般需要找一个代理的损失函数。 代理损失函数需要满足以下条件： 代理损失函数比较容易求解，最好是有解析解

《数学分析（1）》分三册出版。第一册讲述函数、极限理论、一元函数微积分；第二册讲述实数理论、级数和反常积分；第三册讲述n维欧几里得空间中微积分和微分形式。一元部分较系统讲述了凸函数和上、下极限

昨天在看《算法导论》中二叉查找树高度的证明的时候，碰到了一点小疑惑。证明中需要用到凸函数的性质，然后举了 \( y=e^x \) 的例子。当时一想，不对，在高等数学中这不是叫做凹函数的吗？难道这里的定义和高等数学中的定义是相反的？上网查了一下，确实如此