大模型-编程基础 pytorch 构建神经网络
一、神经网络的组成部分在第一部分中我们了解了 Pytorch 的相关基础知识，在这一篇文章中我将使用 Pytorch 进入深度学习的学习，学习如果使用 Pytorch 搭建神经网络中的一些基础代码，具体讲包含如下内容：
神经网络的组成部分
神经元
神经网络层
如何使用 Pyto
...
大模型-编程基础 pytorch进行张量运算
发表于
|
分类于
LLM
PyTorch是一个开源的深度学习框架，由Facebook的AI研究团队于2016年发布。它提供了丰富的工具和库，用于构建、训练和部署深度神经网络模型。PyTorch采用动态计算图的设计，使得构建和调试模型变得直观而灵活。它的自动求导功能也使得实现反向传播算法变得简单，是训练深度学习模型的关键组件。
...
大模型-编程基础 常见依赖库几功能
发表于
|
分类于
LLM
知名仓库平滑量化量化技术Quantization原理学习
常用依赖包1234567891011pip install torchpip torchdata # 帮助 torch 加载数据库pip install transformers # 用于微调的依赖包pip install loralibp
...
5002.大模型-经典网络架构
发表于
|
分类于
LLM
以GPT系列中的Transformer为例，这种深度学习模型结构通过自注意力机制等技巧解决了相关问题。正是得益于Transformer架构，基于GPT的大型语言模型取得了显著的进展。Transformer模型架构包含了众多模块，而我们讨论的各种微调技术通常是对这些模块中的特定部分进行优化，以实现微调
...
5020.大模型-模型优化
自从大型语言模型（LLM）和先进的聊天模型发布以来，人们已经使用了各种技术来优化这些人工智能系统的输出，使其更适配本地化的数据和应用场景。其中 检索增强生成（RAG）和微调（Fine-tuning）是提升大语言模型性能的两种常用方法，除此之外还有提示工程，但是提示工程本身是调整的输入给大模型的信息，
...
特征工程-特征选择
发表于
|
分类于
machine_learning
对于一个机器学习问题，数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限。由此可见，数据和特征在模型的整个开发过程中是比较重要。特征工程，顾名思义，是对原始数据进行一系列工程处理，将其提炼为特征，作为输入供算法和模型使用。从本质上来讲，特征工程是一个表示和展现数据的过程。在实际工作中，特征
...
特征工程 - 概述
发表于
|
分类于
machine_learning
对于一个机器学习问题，数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限。由此可见，数据和特征在模型的整个开发过程中是比较重要。特征工程，顾名思义，是对原始数据进行一系列工程处理，将其提炼为特征，作为输入供算法和模型使用。从本质上来讲，特征工程是一个表示和展现数据的过程。在实际工作中，特征
...