
流行误解
局部最优常被听成:
- 优化就是错的,别改进了。
- 凡是局部的都要砸掉重来。
- 只有数学家才谈局部/全局。
它描述的是搜索结构:在邻域内最好,不等于在全局最好;继续「只走上坡」可能永远到不了更高的峰。
定义
局部最优(Local optimum):在某一邻域或某一表示/约束下,无法通过小步改进变得更好的状态;它可能远差于全局最优(Global optimum)。决策含义:识别自己是否在做「邻域爬山」,以及何时该接受暂时变差、扩大邻域或改问题表述。
| 它是 | 它不是 |
|---|---|
| 对搜索景观的警示 | 「存在全局最优且你必须找到」的保证 |
| 解释为何增量改进停滞 | 否定一切渐进交付 |
| 促使换表示/换算法/换约束 | 为推倒重来提供自动许可证 |
史源
优化与运筹、机器学习训练、进化搜索都反复遇到多峰景观。管理与产品里借同一图像:流程、定价、架构在既有约束下被调到很「滑」,但约束本身错了。它要对付的诱惑是:沉溺于可证明的局部提升,拒绝任何看起来像退步的跳跃。
适用场景
值得用:
- 指标长期微调不再动,怀疑表示或约束错了
- 架构/组织「越改越精致」但业务结果不动
- 超参、定价、推荐策略的爬山式调参
- 个人习惯:在错误目标函数上勤奋
先别用 / 慎用:
- 景观单峰或近似凸,局部即全局,瞎重启浪费
- 尚未榨干廉价局部改进,就昂贵推倒
- 「全局」无法定义(多目标冲突未声明)却空喊逃离局部
应用步骤
- 写目标函数与约束:你到底在优化什么?哪些不能动?
- 识别邻域:当前允许的「小步」是什么(改参数、改文案、改排班)?
- 诊断停滞:小步收益是否已近零?是否反复在同一峰附近震荡?
- 设计逃脱:暂时接受指标变差的探索;扩大搜索(新架构、新渠道);改表示(换特征、换问题定义);多起点重启。
- 比较全成本:逃脱的切换成本 vs 困在假峰的长期损失。
- 设停止规则:探索预算、时间盒;避免以「还可能有更高峰」永远不上线。
操作口令:
先问:我是在爬邻域,还是在选山?邻域收益耗尽时,才谈换山。
多域例证
调参:模型准确率
学习率、宽度在网格里越调越细,验证集不动。局部最优提示:换特征、换损失、换数据清洗假设,而不是第 50 次微调 dropout。
组织:会议效率
议程、计时器、模板把会开得很「高效」,但决策质量不升。邻域是会务技巧;山可能是「不该用会议做的决策类型」——换决策机制才是换山。
产品:转化率
按钮颜色、文案 A/B 到天花板。假峰外可能是定价、信任、物流——目标函数若只盯点击,会在错误山头修庙。
例外与坑
坑 1:浪漫化推倒重来
没有证据表明在假峰,重启是偏好不是方法。先证明邻域耗尽或约束错误。
坑 2:多目标装单峰
「全局最优」在未加权的多目标下不唯一。先声明权衡,再谈峰。
坑 3:与沉没成本纠缠
「已经在这套架构投了三年」不是留在假峰的理由;那是沉没成本。留下的理由只能是:换山的期望净收益为负。
用前自检
- 目标与约束写清了吗?
- 当前邻域与小步是什么?
- 有没有证据表明邻域收益耗尽?
- 逃脱方案是否含暂时变差的预算?
- 停止规则有没有,以免永恒探索?
勤奋很贵;在错的山上勤奋更贵。