大模型-编程基础 pytorch进行张量运算 发表于 2024-08-13 | 更新于 2026-08-28 | 分类于 大模型 , 算法要点 PyTorch是一个开源的深度学习框架,由Facebook的AI研究团队于2016年发布。它提供了丰富的工具和库,用于构建、训练和部署深度神经网络模型。PyTorch采用动态计算图的设计,使得构建和调试模型变得直观而灵活。它的自动求导功能也使得实现反向传播算法变得简单,是训练深度学习模型的关键组件。 ... 阅读全文 »
大模型-编程基础 pytorch 构建神经网络 发表于 2024-08-13 | 更新于 2026-08-28 | 分类于 大模型 , 算法要点 一、神经网络的组成部分在第一部分中我们了解了 Pytorch 的相关基础知识,在这一篇文章中我将使用 Pytorch 进入深度学习的学习,学习如果使用 Pytorch 搭建神经网络中的一些基础代码,具体讲包含如下内容: 神经网络的组成部分 神经元 神经网络层 如何使用 Pytorc ... 阅读全文 »
大模型-经典网络架构 发表于 2024-08-13 | 更新于 2026-08-28 | 分类于 大模型 , 算法要点 以GPT系列中的Transformer为例,这种深度学习模型结构通过自注意力机制等技巧解决了相关问题。正是得益于Transformer架构,基于GPT的大型语言模型取得了显著的进展。Transformer模型架构包含了众多模块,而我们讨论的各种微调技术通常是对这些模块中的特定部分进行优化,以实现微调 ... 阅读全文 »
Cromwell:任务投递 发表于 2024-08-12 | 更新于 2026-08-28 | 分类于 工程实践 , Pipeline 需要注意几个点: cromwel在进行任务投递时,会构建一个临时的工作目录,用于存储任务的中间文件,因此,我们需要保证工作目录的权限和空间足够。 cromwell存储每个任务的状态和任务间的逻辑关系,如果没有部署数据库,这部分信息会存储到内存中,因此如果没有部署数据库,需要确保内存足够支撑任务的运 ... 阅读全文 »
Cromwell:投递工具-oliver 发表于 2024-08-12 | 更新于 2026-08-28 | 分类于 工程实践 , Pipeline oliver 1234oliver st -g MGISEQ-2000 -rd# -r Show jobs in the 'Running' state.# /jdfstj4/B2C_RD_R1/fuxiangke/wesLite/env/miniconda3/envs/cro ... 阅读全文 »
大模型-模型优化 发表于 2024-08-09 | 更新于 2026-08-28 | 分类于 大模型 , 训练微调 自从大型语言模型(LLM)和先进的聊天模型发布以来,人们已经使用了各种技术来优化这些人工智能系统的输出,使其更适配本地化的数据和应用场景。其中 检索增强生成(RAG)和微调(Fine-tuning)是提升大语言模型性能的两种常用方法,除此之外还有提示工程,但是提示工程本身是调整的输入给大模型的信息, ... 阅读全文 »
特征工程-特征选择 发表于 2024-08-07 | 更新于 2026-08-28 | 分类于 机器学习 , 经典算法 对于一个机器学习问题,数据和特征决定了机器学习的上限,而模型和算法只是逼近这个上限。由此可见,数据和特征在模型的整个开发过程中是比较重要。特征工程,顾名思义,是对原始数据进行一系列工程处理,将其提炼为特征,作为输入供算法和模型使用。从本质上来讲,特征工程是一个表示和展现数据的过程。在实际工作中,特征 ... 阅读全文 »
特征工程 - 概述 发表于 2024-08-07 | 更新于 2026-08-28 | 分类于 机器学习 , 经典算法 对于一个机器学习问题,数据和特征决定了机器学习的上限,而模型和算法只是逼近这个上限。由此可见,数据和特征在模型的整个开发过程中是比较重要。特征工程,顾名思义,是对原始数据进行一系列工程处理,将其提炼为特征,作为输入供算法和模型使用。从本质上来讲,特征工程是一个表示和展现数据的过程。在实际工作中,特征 ... 阅读全文 »
特征工程-时间周期处理 发表于 2024-08-07 | 更新于 2026-08-28 | 分类于 大模型 我们有一个带有日期类型列的 pandas 数据帧。利用这一列,我们可以创建以下特征: 年 年中的周 月 星期 周末 小时 还有更多 123456789101112# 添加'year'列,将 'datetime_column' 中的年份提取出来df.loc[ ... 阅读全文 »
特征工程 数据预处理-分类变量处理 发表于 2024-08-07 | 更新于 2026-08-28 | 分类于 大模型 往往我们需要进行训练时,读取的特征是多种多样的,数值类型的变量可能只是其中的一部分(比如年龄),但是还会有一些其他类型的分类变量(比如性别,比如月份)。而我们这里讨论的分类变量/特征是指任何特征类型,可分为两大类: 无序变量: 是指有两个或两个以上类别的变量,这些类别没有任何相关顺序。例 ... 阅读全文 »