Ben-air


  • 首页

  • 分类

  • 归档

  • 标签

  • 关于

  • 搜索

LLM概念解析:过平滑

发表于 2026-06-11 | 更新于 2026-08-28 | 分类于 大模型 , 架构
过平滑(Oversmoothing)的直观解释、谱域/消息传递成因、分子图与知识图谱等场景、残差/JK/PairNorm 等缓解方案,以及与过挤压、表示坍缩、专家坍缩的异同。
阅读全文 »

Diffusion-Example:前向训练数值例题

发表于 2026-06-11 | 更新于 2026-08-28 | 分类于 大模型 , 架构
用 2 维向量手算完整走一遍 DDPM 前向构造与单步训练:采样 x₀、t、ε,计算 x_t,MSE 预测噪声,以及从 ε 反解 x₀;澄清「前向随机」与「监督从哪来」。
阅读全文 »

Diffusion-Example:蛋白序列离散扩散数值例题

发表于 2026-06-11 | 更新于 2026-08-28 | 分类于 大模型 , 架构
用长度 L=4 的玩具肽段手算 MASK 吸收态离散扩散的一步训练与 motif inpainting 采样;对照 Example-0 连续 DDPM,说明蛋白序列如何用转移矩阵构造 x_t 与交叉熵监督。
阅读全文 »

ProteinMPNN:概述与训练框架

发表于 2026-06-11 | 更新于 2026-08-28 | 分类于 大模型 , 架构
ProteinMPNN 架构与训练全景:骨架图输入、顺序无关自回归目标、Encoder-Decoder MPNN(EncLayer / DecLayer 伪代码)与约 1.68M 参数组成;与 RFdiffusion pipeline 及 MPNN 抽象对照。
阅读全文 »

Diffusion-Math:概率与扩散数学基础

发表于 2026-06-11 | 更新于 2026-08-28 | 分类于 大模型 , 架构
扩散模型所需的概率论基础:样本空间与集合、随机变量、高斯分布、条件概率、期望方差、KL 散度、马尔可夫链、重参数化、噪声日程与信噪比、得分函数与 ELBO;每节配概念示意图。
阅读全文 »

0.大模型架构范式综述

发表于 2026-06-11 | 更新于 2026-08-28 | 分类于 大模型 , 架构
大模型架构范式全景:按序列混合机制、训练目标、结构归纳偏置与规模路由四维梳理 Transformer、SSM/Hyena、GNN、扩散、MoE 等代表实现,并给出生物信息学选型地图与本目录系列导读。
阅读全文 »

Diffusion:潜空间扩散与结构生成实践

发表于 2026-06-11 | 更新于 2026-08-28 | 分类于 大模型 , 架构
潜扩散 LDM、SE(3)/E(3) 等变扩散、RFdiffusion 与 Chroma 式条件设计;分子 3D 与 designability 评估。
阅读全文 »

Argo:WorkflowTemplate使用与选型

发表于 2026-06-11 | 更新于 2026-08-28 | 分类于 工程实践 , Pipeline
对比 Workflow 与 WorkflowTemplate 在 YAML 构建、任务投递与运维上的差异,说明何时应维护集群内模板而非每次直接 submit Workflow,以及 Template 在复用、治理与集成上的优势。
阅读全文 »

Diffusion:离散扩散与序列生成

发表于 2026-06-11 | 更新于 2026-08-28 | 分类于 大模型 , 架构
D3PM 转移矩阵、吸收态与均匀扩散;离散时间 ELBO、与 AR/MLM 对比;DNA/蛋白质序列 inpainting 与全局编辑。
阅读全文 »

Diffusion:采样加速与引导生成

发表于 2026-06-11 | 更新于 2026-08-28 | 分类于 大模型 , 架构
DDIM 确定性跳步、Classifier Guidance 与 Classifier-free Guidance 原理;步数–质量权衡及蛋白质 design 中的条件控制。
阅读全文 »
‹1…373839…104›

1034 日志
49 分类
917 标签
© 2026 Ben-air
已有人访问 | 总访问次