模型-局部最优-别困在假峰

局部最优:假峰与更高峰(科普漫画)

流行误解

局部最优常被听成:

  1. 优化就是错的,别改进了。
  2. 凡是局部的都要砸掉重来。
  3. 只有数学家才谈局部/全局。

它描述的是搜索结构:在邻域内最好,不等于在全局最好;继续「只走上坡」可能永远到不了更高的峰。

定义

局部最优(Local optimum):在某一邻域或某一表示/约束下,无法通过小步改进变得更好的状态;它可能远差于全局最优(Global optimum)。决策含义:识别自己是否在做「邻域爬山」,以及何时该接受暂时变差、扩大邻域或改问题表述。

它是 它不是
对搜索景观的警示 「存在全局最优且你必须找到」的保证
解释为何增量改进停滞 否定一切渐进交付
促使换表示/换算法/换约束 为推倒重来提供自动许可证

史源

优化与运筹、机器学习训练、进化搜索都反复遇到多峰景观。管理与产品里借同一图像:流程、定价、架构在既有约束下被调到很「滑」,但约束本身错了。它要对付的诱惑是:沉溺于可证明的局部提升,拒绝任何看起来像退步的跳跃。

适用场景

值得用:

  • 指标长期微调不再动,怀疑表示或约束错了
  • 架构/组织「越改越精致」但业务结果不动
  • 超参、定价、推荐策略的爬山式调参
  • 个人习惯:在错误目标函数上勤奋

先别用 / 慎用:

  • 景观单峰或近似凸,局部即全局,瞎重启浪费
  • 尚未榨干廉价局部改进,就昂贵推倒
  • 「全局」无法定义(多目标冲突未声明)却空喊逃离局部

应用步骤

  1. 写目标函数与约束:你到底在优化什么?哪些不能动?
  2. 识别邻域:当前允许的「小步」是什么(改参数、改文案、改排班)?
  3. 诊断停滞:小步收益是否已近零?是否反复在同一峰附近震荡?
  4. 设计逃脱:暂时接受指标变差的探索;扩大搜索(新架构、新渠道);改表示(换特征、换问题定义);多起点重启。
  5. 比较全成本:逃脱的切换成本 vs 困在假峰的长期损失。
  6. 设停止规则:探索预算、时间盒;避免以「还可能有更高峰」永远不上线。

操作口令:

先问:我是在爬邻域,还是在选山?邻域收益耗尽时,才谈换山。

多域例证

调参:模型准确率

学习率、宽度在网格里越调越细,验证集不动。局部最优提示:换特征、换损失、换数据清洗假设,而不是第 50 次微调 dropout。

组织:会议效率

议程、计时器、模板把会开得很「高效」,但决策质量不升。邻域是会务技巧;山可能是「不该用会议做的决策类型」——换决策机制才是换山。

产品:转化率

按钮颜色、文案 A/B 到天花板。假峰外可能是定价、信任、物流——目标函数若只盯点击,会在错误山头修庙。

例外与坑

坑 1:浪漫化推倒重来

没有证据表明在假峰,重启是偏好不是方法。先证明邻域耗尽或约束错误。

坑 2:多目标装单峰

「全局最优」在未加权的多目标下不唯一。先声明权衡,再谈峰。

坑 3:与沉没成本纠缠

「已经在这套架构投了三年」不是留在假峰的理由;那是沉没成本。留下的理由只能是:换山的期望净收益为负。

用前自检

  1. 目标与约束写清了吗?
  2. 当前邻域与小步是什么?
  3. 有没有证据表明邻域收益耗尽?
  4. 逃脱方案是否含暂时变差的预算?
  5. 停止规则有没有,以免永恒探索?

勤奋很贵;在错的山上勤奋更贵。

-------------本文结束感谢您的阅读-------------