Ben-air


  • 首页

  • 分类

  • 归档

  • 标签

  • 关于

  • 搜索

结合与选择性:亲和看一对态,判别看两条路径

发表于 2026-08-31 | 更新于 2026-08-31 | 分类于 生物信息 , 酶与结构
方案性质工序:用 $K_{\mathrm{d}}$ 验收亲和;形状与化学互补受去溶剂化约束;选择性是两条路径的比,不能用「再紧一点」结项。
阅读全文 »

定向进化:测定定义适合度,多位点才够大改

发表于 2026-08-31 | 更新于 2026-08-31 | 分类于 生物信息 , 酶与结构
方案第 6 步:预测不够时用「多样→筛选→再出发」;测定必须与真正目标同构;独立突变可加和,上位性用重组、多轮或同时多突变处理。
阅读全文 »

学习率与 warmup:控制步长,前期爬坡防炸

发表于 2026-08-26 | 更新于 2026-08-28 | 分类于 大模型 , 算法要点
学习率 η 控制每步更新幅度;warmup 前期从近 0 爬到峰值,再接余弦/线性衰减。覆盖公式、BERT / LLaMA / 微调 / LoRA 经验值,以及与 Post-LN、batch size 的耦合。
阅读全文 »

Weight decay:每步把过大权重拉向零

发表于 2026-08-26 | 更新于 2026-08-28 | 分类于 大模型 , 算法要点
Weight decay:每步把权重按比例拉向零,抑制过大 W。AdamW 为解耦实现。对照 L2、Dropout,以及 BERT 0.01 / LLaMA 0.1、Norm 层排除。
阅读全文 »

RMSNorm:无均值归一,LLaMA 系默认

发表于 2026-08-26 | 更新于 2026-08-28 | 分类于 大模型 , 算法要点
RMSNorm:只用均方根缩放、通常不减均值、无偏置 β。LLaMA / Qwen 等 Decoder 默认;训练推理同一公式。对照 LayerNorm、ε 与 Pre-Norm 位置。
阅读全文 »

LayerNorm:稳住激活尺度,让深层可训

发表于 2026-08-26 | 更新于 2026-08-28 | 分类于 大模型 , 算法要点
LayerNorm:对每个 token 的隐向量去均值、除标准差,再仿射;稳住激活尺度,让残差堆叠可训。覆盖公式、ε、Pre-LN / Post-LN、BERT / GPT-2 / ProteinMPNN。
阅读全文 »

Dropout:训练时随机失活,抑制过拟合

发表于 2026-08-26 | 更新于 2026-08-28 | 分类于 大模型 , 算法要点
Dropout:训练时按比率 p 随机把激活置零,抑制过拟合;推理默认关闭。覆盖反向 Dropout、经验比率,以及 BERT / GPT-2 / LLaMA / ProteinMPNN / LoRA 落点。
阅读全文 »

大模型算法要点:开关与剂量的宏观导读

发表于 2026-08-26 | 更新于 2026-08-28 | 分类于 大模型 , 算法要点
大模型算法要点系列导读:把架构设计、训练、推理里反复出现的机制与超参拆成单篇,建立宏观认知,不替代完整架构长文。
阅读全文 »

Needleman-Wunsch算法

发表于 2026-08-26 | 更新于 2026-08-28 | 分类于 机器学习 , 经典算法
Needleman–Wunsch 全局两两序列比对:问题定义、评分、二次动态规划递推、填表与回溯、完整数值例;对照 Smith–Waterman / Gotoh,以及 Biopython、EMBOSS、parasail 等社区实现。
阅读全文 »

数据结构:图

发表于 2026-08-24 | 更新于 2026-08-28 | 分类于 生物信息
以 Python 内置容器实现图:邻接表(dict + list)与邻接矩阵;有向/加权只是边的语义;BFS/DFS 入口与 NetworkX 选型风险。
阅读全文 »
‹123…104›

1034 日志
49 分类
917 标签
© 2026 Ben-air
已有人访问 | 总访问次